taiji-AI-PAD/k8s/DEPLOYMENT_SUMMARY.md

AKS 部署总结

✅ 部署状态

已成功部署的服务

1. MCP Server ✅

   • 状态: 运行中
   • 健康检查: 通过
   • 服务端点: http://mcp-server:8000 (集群内)
   • 端口转发: kubectl port-forward svc/mcp-server 8002:8000 -n taiji-ai

2. LiteLLM Gateway ✅

   • 状态: 运行中
   • 健康检查: 通过（OpenRouter 账户需要充值）
   • 服务端点: http://litellm-gateway:4000 (集群内)
   • 端口转发: kubectl port-forward svc/litellm-gateway 4000:4000 -n taiji-ai

3. Data Ingestion ✅

   • 状态: 运行中
   • 服务端点: http://data-ingestion:8000 (集群内)
   • 端口转发: kubectl port-forward svc/data-ingestion 8001:8000 -n taiji-ai

需要关注的服务

1. NATS ⚠️

   • 状态: 部分 Pod 在创建中
   • 问题: 旧 Pod 使用 amd64 镜像导致失败，新 Pod 正在创建
   • 建议: 等待新 Pod 完全启动后，删除旧的 CrashLoopBackOff Pod

2. Prometheus & Grafana ⚠️

   • 状态: PVC 挂载问题
   • 建议: 检查存储类配置

📊 部署信息

• AKS 集群: taiji-ai-pda
• 资源组: taiji-ai-pda
• 命名空间: taiji-ai
• ACR: taiji.azurecr.io
• 节点架构: ARM64

🔧 测试命令

健康检查

# MCP Server
kubectl port-forward svc/mcp-server 8002:8000 -n taiji-ai
curl http://localhost:8002/health

# Data Ingestion
kubectl port-forward svc/data-ingestion 8001:8000 -n taiji-ai
curl http://localhost:8001/health

# LiteLLM Gateway
kubectl port-forward svc/litellm-gateway 4000:4000 -n taiji-ai
curl -H "Authorization: Bearer sk-taiji-master-key" http://localhost:4000/health

查看日志

# MCP Server
kubectl logs -f deployment/mcp-server -n taiji-ai

# Data Ingestion
kubectl logs -f deployment/data-ingestion -n taiji-ai

# LiteLLM Gateway
kubectl logs -f deployment/litellm-gateway -n taiji-ai

查看服务状态

kubectl get pods -n taiji-ai
kubectl get services -n taiji-ai
kubectl get deployments -n taiji-ai

⚠️ 已知问题

1. OpenRouter 账户余额不足

   • LiteLLM Gateway 健康检查显示模型端点不可用
   • 需要访问 https://openrouter.ai/settings/credits 充值

2. NATS 集群配置

   • 当前配置为集群模式，但可能需要调整
   • 如果不需要集群模式，可以简化为单节点部署

3. 存储类

   • Prometheus 和 Grafana 的 PVC 可能需要检查存储类配置
   • 当前使用 managed-csi，确保 AKS 集群支持

🚀 下一步

1. 清理旧 Pod

   kubectl delete pod -l app=nats -n taiji-ai --field-selector=status.phase!=Running
   

2. 配置 Ingress（可选）

   • 如果需要外部访问，配置 Ingress
   • 参考 ingress.yaml 文件

3. 监控配置

   • 配置 Prometheus 和 Grafana
   • 设置监控仪表板

4. OpenRouter 充值

   • 访问 https://openrouter.ai/settings/credits
   • 充值后 LiteLLM Gateway 将正常工作

📝 部署文件位置

所有 Kubernetes 配置文件位于: /home/taiji/tools/taiji-AI-PAD/k8s/

• namespace.yaml - 命名空间
• configmap.yaml - 配置映射
• secrets.yaml.template - Secret 模板
• *-deployment.yaml - 各服务部署配置
• ingress.yaml - Ingress 配置
• test-deployment.sh - 测试脚本

🎉 部署完成

核心服务（MCP Server、LiteLLM Gateway、Data Ingestion）已成功部署并运行！