zhanggangyong/agent_management

Fork 1

T

zhanggangyong 777cec64d7 udpate

2026-01-06 09:26:11 +00:00

agent_manager/templates

init

2026-01-05 12:44:28 +00:00

agent_templates

init

2026-01-05 12:44:28 +00:00

k8s

init

2026-01-05 12:44:28 +00:00

plans

init

2026-01-05 12:44:28 +00:00

scripts

init

2026-01-05 12:44:28 +00:00

test_venv

init

2026-01-05 12:44:28 +00:00

tests

init

2026-01-05 12:44:28 +00:00

web_service

init

2026-01-05 12:44:28 +00:00

.env.example

init

2026-01-05 12:44:28 +00:00

.gitignore

init

2026-01-05 12:44:28 +00:00

agent_manager.db

init

2026-01-05 12:44:28 +00:00

API_DOCUMENTATION.md

udpate

2026-01-06 09:26:11 +00:00

app_new.py

init

2026-01-05 12:44:28 +00:00

app.py

udpate

2026-01-06 09:26:11 +00:00

database.py

init

2026-01-05 12:44:28 +00:00

demo_multi_tenant.sh

init

2026-01-05 12:44:28 +00:00

Dockerfile

init

2026-01-05 12:44:28 +00:00

HEALTH_CHECK_FIX.md

udpate

2026-01-06 09:26:11 +00:00

k8s_manager_new.py

udpate

2026-01-06 09:26:11 +00:00

k8s_manager.py

udpate

2026-01-06 09:26:11 +00:00

METRICS_FIX_REPORT.md

update mertics

2026-01-06 05:03:27 +00:00

README.md

init

2026-01-05 12:44:28 +00:00

requirements.txt

init

2026-01-05 12:44:28 +00:00

start.sh

init

2026-01-05 12:44:28 +00:00

test_health_check.sh

udpate

2026-01-06 09:26:11 +00:00

test_realtime_metrics.sh

update mertics

2026-01-06 05:03:27 +00:00

README.md

Agent Manager 服务需求文档

1. 概述

1.1 服务定位

Agent Manager 是一个独立的服务，负责 AKS/K8s 上所有 Agent 的部署、管理和查询操作。它是 Agent 生命周期管理的核心服务，不涉及权限验证、计费等业务逻辑。

1.2 系统架构

flowchart TB
    subgraph Frontend[前端]
        UI[用户界面]
    end
    
    subgraph MCPServer[MCP Server]
        Auth[权限验证]
        Billing[计费管理]
        Quota[配额管理]
        AgentAPI[Agent API]
    end
    
    subgraph AgentManager[Agent Manager]
        TemplateManager[模板管理]
        PodManager[Pod 管理]
        ResourceManager[资源管理]
        HealthChecker[健康检查]
    end
    
    subgraph AKS[Azure Kubernetes Service]
        subgraph AgentNS[Agent 命名空间 - 统一]
            PlatformPods[平台 Agent Pods]
            CustomPods[自定义 Agent Pods]
        end
    end
    
    subgraph ACR[Azure Container Registry]
        PlatformImages[平台 Agent 镜像仓库]
        CustomImages[自定义 Agent 镜像仓库]
    end
    
    UI --> MCPServer
    MCPServer --> AgentManager
    AgentManager --> AKS
    AgentManager --> ACR

1.3 调用链路

前端 → MCP Server（权限验证、计费、配额检查）→ Agent Manager（K8s 部署操作）→ AKS

1.4 核心设计原则

按需创建：Agent Pod 在用户实际使用时才创建，不预先启动
配额分配：分配的是 Pod 数量配额，不是实际运行的 Pod
镜像共享：同一模板的镜像配置（CPU/内存）是平台级别固定的
实例隔离：每个用户使用时创建自己的 Pod 实例

2. Agent 类型定义

2.1 平台端 Agent (Platform Agent)

属性	说明
来源	平台管理员打镜像到 ACR 平台镜像仓库
部署方式	K8s 部署，使用平台预设的镜像，按需创建 Pod
资源配置	管理员固定设置每个 Pod 的 CPU/内存（平台级别统一）
分配方式	管理员设置总 Pod 上限 → 分配 Pod 数量给渠道 → 渠道分配给租户
使用方式	用户只需传查询参数即可使用
Pod 创建时机	用户实际使用时才创建 Pod，不预先启动
弹性伸缩	用户可在分配的配额内启动多个 Pod

2.2 自定义 Agent (Custom Agent)

属性	说明
来源	平台提供模板镜像到 ACR 自定义镜像仓库，用户配置自己的密钥和终结点
部署方式	K8s 部署，使用模板镜像 + 用户环境变量，按需创建 Pod
资源配置	用户在分配的资源总量（CPU/内存）内自由配置每个 Pod 的大小
分配方式	管理员 → 渠道（分配 CPU/内存总量）→ 租户
使用方式	需要传终结点、密钥、查询参数等
Pod 创建时机	用户创建 Agent 并配置完成后启动 Pod
弹性伸缩	可设置预留 Pod 数和弹性 Pod 数（如固定 2 个 + 弹性 2 个）

2.3 两种 Agent 的核心区别

┌─────────────────────────────────────────────────────────────────────────────┐
│                           Agent 类型对比                                     │
├─────────────────────────────────────────────────────────────────────────────┤
│                                                                              │
│  ┌─────────────────────────────────┐    ┌─────────────────────────────────┐ │
│  │        平台端 Agent              │    │        自定义 Agent              │ │
│  ├─────────────────────────────────┤    ├─────────────────────────────────┤ │
│  │ 镜像: 平台预设，完整可用          │    │ 镜像: 模板，需要用户配置          │ │
│  │ 配置: 无需用户配置               │    │ 配置: 需要终结点、密钥等          │ │
│  │ 资源: 固定大小，限制 Pod 数量     │    │ 资源: 限制总量，自由分配          │ │
│  │ 弹性: 在配额内启动多个 Pod       │    │ 弹性: 预留N个 + 弹性M个          │ │
│  │ 归属: 每个Pod属于一个用户        │    │ 归属: 每个Pod属于一个用户         │ │
│  │ 创建: 用户使用时按需创建         │    │ 创建: 配置完成后启动              │ │
│  └─────────────────────────────────┘    └─────────────────────────────────┘ │
│                                                                              │
└─────────────────────────────────────────────────────────────────────────────┘

2.4 资源分配流程

flowchart TB
    subgraph Admin[管理员层]
        A1[设置平台Agent模板]
        A2[设置CPU/内存/最大Pod数]
        A3[设置自定义Agent模板]
        A4[设置自定义Agent资源池]
    end
    
    subgraph Channel[渠道层]
        C1[获得平台Agent Pod配额]
        C2[获得自定义Agent资源配额]
        C3[分配给租户]
    end
    
    subgraph Tenant[租户层]
        T1[获得平台Agent Pod配额]
        T2[获得自定义Agent资源配额]
    end
    
    subgraph Usage[使用层]
        U1[使用平台Agent - 按需创建Pod]
        U2[创建自定义Agent - 配置后启动Pod]
    end
    
    A1 --> A2
    A3 --> A4
    A2 --> C1
    A4 --> C2
    C1 --> C3
    C2 --> C3
    C3 --> T1
    C3 --> T2
    T1 --> U1
    T2 --> U2

2.5 ACR 镜像仓库规划

仓库	用途	示例路径
平台 Agent 镜像仓库	存放平台预设的完整 Agent 镜像	`your-acr.azurecr.io/platform-agents/`
自定义 Agent 镜像仓库	存放需要用户配置的模板镜像	`your-acr.azurecr.io/custom-agents/`

2.6 K8s 命名空间规划

命名空间	用途
`ai-agents`	统一的 Agent 命名空间，包含平台 Agent 和自定义 Agent 的所有 Pod

3. 功能需求

3.1 模板管理

3.1.1 平台 Agent 模板

功能	说明
注册模板	管理员注册新的平台 Agent 模板，包含镜像地址、默认资源配置等
更新模板	更新模板的镜像版本、资源配置等
删除模板	删除不再使用的模板
查询模板	获取模板列表和详情

模板信息结构：

{
  "name": "jina_search_agent",
  "displayName": "Jina 搜索 Agent",
  "description": "基于 Jina AI 的搜索 Agent",
  "image": "your-acr.azurecr.io/platform-agents/jina-search:v1.0",
  "category": "search",
  "defaultConfig": {
    "cpuRequest": "100m",
    "cpuLimit": "500m",
    "memoryRequest": "128Mi",
    "memoryLimit": "512Mi",
    "port": 8080
  },
  "healthCheck": {
    "path": "/health",
    "port": 8080,
    "intervalSeconds": 30
  },
  "endpoints": {
    "query": "/query",
    "status": "/status"
  }
}

3.1.2 自定义 Agent 模板

功能	说明
注册模板	管理员注册自定义 Agent 模板，定义所需的环境变量
更新模板	更新模板配置
删除模板	删除模板
查询模板	获取模板列表和详情，包含所需环境变量定义

模板信息结构：

{
  "name": "openai_agent_template",
  "displayName": "OpenAI Agent 模板",
  "description": "需要配置 OpenAI API 密钥的 Agent 模板",
  "image": "your-acr.azurecr.io/custom-agents/openai-template:v1.0",
  "category": "llm",
  "requiredEnvVars": [
    {
      "name": "OPENAI_API_KEY",
      "displayName": "OpenAI API 密钥",
      "description": "您的 OpenAI API 密钥",
      "required": true,
      "sensitive": true
    },
    {
      "name": "OPENAI_API_BASE",
      "displayName": "API 终结点",
      "description": "OpenAI API 终结点地址",
      "required": true,
      "default": "https://api.openai.com/v1"
    },
    {
      "name": "MODEL_NAME",
      "displayName": "模型名称",
      "description": "使用的模型名称",
      "required": false,
      "default": "gpt-4"
    }
  ],
  "defaultConfig": {
    "cpuRequest": "100m",
    "cpuLimit": "500m",
    "memoryRequest": "128Mi",
    "memoryLimit": "512Mi",
    "port": 8080
  }
}

3.2 平台 Agent 管理

3.2.1 创建平台 Agent

请求参数：

参数	类型	必填	说明
name	string	是	Agent 名称，K8s 资源命名规范
template	string	是	模板名称
namespace	string	否	K8s 命名空间，默认 platform-agents
replicas	int	否	副本数，默认 1
maxReplicas	int	否	最大副本数，用于弹性伸缩
resourceConfig	object	否	资源配置，覆盖模板默认值

响应：

{
  "success": true,
  "data": {
    "name": "jina-search-agent-001",
    "namespace": "platform-agents",
    "template": "jina_search_agent",
    "status": "Pending",
    "replicas": 1,
    "maxReplicas": 5,
    "resourceConfig": {
      "cpuRequest": "100m",
      "cpuLimit": "500m",
      "memoryRequest": "128Mi",
      "memoryLimit": "512Mi"
    },
    "createdAt": "2026-01-04T12:00:00Z"
  }
}

3.2.2 扩缩容平台 Agent

请求参数：

参数	类型	必填	说明
name	string	是	Agent 名称
replicas	int	是	目标副本数

3.2.3 删除平台 Agent

请求参数：

参数	类型	必填	说明
name	string	是	Agent 名称

3.2.4 查询平台 Agent

获取单个 Agent 状态
获取 Agent 列表（支持分页、筛选）
获取 Agent 资源使用情况
获取 Agent 日志

3.3 自定义 Agent 管理

3.3.1 创建自定义 Agent

请求参数：

参数	类型	必填	说明
name	string	是	Agent 名称
template	string	是	模板名称
namespace	string	否	K8s 命名空间，默认 custom-agents
ownerId	string	是	所属用户 ID
envVars	object	是	环境变量配置（终结点、密钥等）
resourceConfig	object	是	资源配置
scalingConfig	object	否	弹性伸缩配置

资源配置结构：

{
  "cpuRequest": "200m",
  "cpuLimit": "1000m",
  "memoryRequest": "256Mi",
  "memoryLimit": "1Gi"
}

弹性伸缩配置结构：

{
  "minReplicas": 2,
  "maxReplicas": 4,
  "targetCPUUtilization": 80
}

响应：

{
  "success": true,
  "data": {
    "name": "my-openai-agent-001",
    "namespace": "custom-agents",
    "template": "openai_agent_template",
    "ownerId": "user-uuid-123",
    "status": "Pending",
    "resourceConfig": {
      "cpuRequest": "200m",
      "cpuLimit": "1000m",
      "memoryRequest": "256Mi",
      "memoryLimit": "1Gi"
    },
    "scalingConfig": {
      "minReplicas": 2,
      "maxReplicas": 4
    },
    "createdAt": "2026-01-04T12:00:00Z"
  }
}

3.3.2 更新自定义 Agent 配置

可更新内容：

环境变量（终结点、密钥等）
资源配置（需要重启 Pod）
弹性伸缩配置

3.3.3 扩缩容自定义 Agent

请求参数：

参数	类型	必填	说明
name	string	是	Agent 名称
replicas	int	是	目标副本数

3.3.4 删除自定义 Agent

3.3.5 查询自定义 Agent

获取单个 Agent 状态
获取 Agent 列表（支持按 ownerId 筛选）
获取 Agent 资源使用情况
获取 Agent 日志

3.4 资源统计

3.4.1 平台 Agent 资源统计

{
  "totalPods": 15,
  "runningPods": 12,
  "pendingPods": 2,
  "failedPods": 1,
  "byTemplate": {
    "jina_search_agent": {
      "totalPods": 5,
      "runningPods": 5
    },
    "mysql_agent": {
      "totalPods": 10,
      "runningPods": 7
    }
  }
}

3.4.2 自定义 Agent 资源统计

{
  "totalPods": 20,
  "totalCpuRequested": "4000m",
  "totalMemoryRequested": "8Gi",
  "byOwner": {
    "user-uuid-123": {
      "pods": 3,
      "cpuRequested": "600m",
      "memoryRequested": "1.5Gi"
    }
  }
}

3.5 健康检查

功能	说明
Pod 健康检查	定期检查 Pod 的健康状态
服务健康检查	检查 Agent 服务的可用性
自动恢复	检测到不健康的 Pod 时触发重启

4. API 设计

4.1 模板管理 API

方法	路径	说明
GET	/templates	获取所有模板列表
GET	/templates/platform	获取平台 Agent 模板列表
GET	/templates/custom	获取自定义 Agent 模板列表
GET	/templates/{name}	获取模板详情
POST	/templates	注册新模板
PUT	/templates/{name}	更新模板
DELETE	/templates/{name}	删除模板

4.2 平台 Agent API

方法	路径	说明
GET	/platform-agents	获取平台 Agent 列表
GET	/platform-agents/{name}	获取平台 Agent 详情
GET	/platform-agents/{name}/status	获取 Agent 状态
GET	/platform-agents/{name}/metrics	获取资源使用情况
GET	/platform-agents/{name}/logs	获取 Agent 日志
POST	/platform-agents	创建平台 Agent
PUT	/platform-agents/{name}/scale	扩缩容
PUT	/platform-agents/{name}/config	更新配置
DELETE	/platform-agents/{name}	删除 Agent
POST	/platform-agents/{name}/restart	重启 Agent

4.3 自定义 Agent API

方法	路径	说明
GET	/custom-agents	获取自定义 Agent 列表
GET	/custom-agents/{name}	获取自定义 Agent 详情
GET	/custom-agents/{name}/status	获取 Agent 状态
GET	/custom-agents/{name}/metrics	获取资源使用情况
GET	/custom-agents/{name}/logs	获取 Agent 日志
POST	/custom-agents	创建自定义 Agent
PUT	/custom-agents/{name}/scale	扩缩容
PUT	/custom-agents/{name}/config	更新配置
PUT	/custom-agents/{name}/env	更新环境变量
DELETE	/custom-agents/{name}	删除 Agent
POST	/custom-agents/{name}/restart	重启 Agent

4.4 统计 API

方法	路径	说明
GET	/stats/overview	获取整体统计
GET	/stats/platform-agents	获取平台 Agent 统计
GET	/stats/custom-agents	获取自定义 Agent 统计
GET	/stats/resources	获取资源使用统计

4.5 健康检查 API

方法	路径	说明
GET	/health	服务健康检查
GET	/ready	服务就绪检查

5. 数据模型

5.1 Template 模板

class Template:
    name: str                    # 模板名称，唯一标识
    display_name: str            # 显示名称
    description: str             # 描述
    type: str                    # 类型：platform / custom
    image: str                   # 镜像地址
    category: str                # 分类：search, llm, database 等
    default_config: dict         # 默认资源配置
    required_env_vars: list      # 所需环境变量定义（自定义 Agent）
    health_check: dict           # 健康检查配置
    endpoints: dict              # 端点定义
    created_at: datetime
    updated_at: datetime

5.2 PlatformAgent 平台 Agent

class PlatformAgent:
    name: str                    # Agent 名称
    namespace: str               # K8s 命名空间
    template: str                # 使用的模板
    status: str                  # 状态：Pending, Running, Failed 等
    replicas: int                # 当前副本数
    max_replicas: int            # 最大副本数
    resource_config: dict        # 资源配置
    pod_ips: list                # Pod IP 列表
    service_name: str            # Service 名称
    service_port: int            # Service 端口
    access_url: str              # 访问 URL
    created_at: datetime
    updated_at: datetime

5.3 CustomAgent 自定义 Agent

class CustomAgent:
    name: str                    # Agent 名称
    namespace: str               # K8s 命名空间
    template: str                # 使用的模板
    owner_id: str                # 所属用户 ID
    status: str                  # 状态
    env_vars: dict               # 环境变量（加密存储）
    resource_config: dict        # 资源配置
    scaling_config: dict         # 弹性伸缩配置
    min_replicas: int            # 最小副本数（预留）
    max_replicas: int            # 最大副本数（弹性）
    current_replicas: int        # 当前副本数
    pod_ips: list                # Pod IP 列表
    service_name: str            # Service 名称
    service_port: int            # Service 端口
    access_url: str              # 访问 URL
    created_at: datetime
    updated_at: datetime

6. 资源限制逻辑

6.1 平台 Agent 资源限制

6.1.1 分配流程

flowchart LR
    A[管理员] -->|设置模板| B[平台Agent模板]
    B -->|固定配置| C[CPU/内存/最大Pod数]
    A -->|分配Pod配额| D[渠道]
    D -->|分配Pod配额| E[租户]
    E -->|使用时创建| F[Pod实例]

6.1.2 配额检查流程

flowchart TD
    A[用户请求使用平台Agent] --> B[MCP Server 权限验证]
    B --> C{检查用户Pod配额}
    C -->|配额充足| D[调用 Agent Manager]
    C -->|配额不足| E[拒绝请求]
    D --> F[创建Pod实例]
    F --> G[更新已使用Pod数]

限制规则：

每个 Pod 的资源配置（CPU/内存）由管理员在模板级别固定
管理员设置该模板的最大 Pod 总数
分配给渠道时，分配的是 Pod 数量配额
渠道分配给租户时，分配的也是 Pod 数量配额
用户使用时才真正创建 Pod，按需启动
用户可在配额内启动多个 Pod 实例

配额分配示例：

平台 Agent: jina_search_agent
├── 模板配置: CPU=500m, Memory=512Mi, 最大Pod数=100
│
├── 渠道A 配额: 30 个 Pod
│   ├── 租户A1: 10 个 Pod 配额
│   ├── 租户A2: 15 个 Pod 配额
│   └── 租户A3: 5 个 Pod 配额
│
└── 渠道B 配额: 20 个 Pod
    ├── 租户B1: 12 个 Pod 配额
    └── 租户B2: 8 个 Pod 配额

6.2 自定义 Agent 资源限制

6.2.1 分配流程

flowchart LR
    A[管理员] -->|设置模板| B[自定义Agent模板]
    A -->|分配资源配额| C[渠道]
    C -->|分配资源配额| D[租户]
    D -->|在配额内创建| E[自定义Agent]
    E -->|启动| F[Pod实例]

6.2.2 配额检查流程

flowchart TD
    A[用户创建自定义Agent] --> B[MCP Server 权限验证]
    B --> C[计算请求资源总量]
    C --> D{检查资源配额}
    D -->|配额充足| E[调用 Agent Manager]
    D -->|配额不足| F[拒绝请求]
    E --> G[创建Pod实例]
    G --> H[更新已使用资源]

限制规则：

分配给渠道/租户的是资源总量（CPU/内存）
用户在总量内自由配置每个 Pod 的资源大小
计算公式：Σ(每个Pod的资源) ≤ 资源配额
支持预留 Pod 数 + 弹性 Pod 数配置

配额分配示例：

自定义 Agent 资源池
│
├── 渠道A 配额: 8 CPU, 16GB 内存
│   ├── 租户A1: 4 CPU, 8GB 内存
│   │   └── 可创建: 4个(1CPU,2GB) 或 2个(2CPU,4GB) 或混合
│   └── 租户A2: 4 CPU, 8GB 内存
│
└── 渠道B 配额: 4 CPU, 8GB 内存
    └── 租户B1: 4 CPU, 8GB 内存
        └── 配置: 预留2个Pod + 弹性2个Pod

6.3 弹性伸缩配置

6.3.1 平台 Agent 弹性配置

参数	说明	示例
minReplicas	最小 Pod 数（预留）	1
maxReplicas	最大 Pod 数（配额上限）	5

说明：用户在 minReplicas 到 maxReplicas 范围内按需创建 Pod

6.3.2 自定义 Agent 弹性配置

参数	说明	示例
minReplicas	预留 Pod 数（始终运行）	2
maxReplicas	最大 Pod 数（弹性上限）	4
targetCPUUtilization	CPU 使用率阈值	80%

说明：

minReplicas 个 Pod 始终运行（预留）
根据负载自动扩展到 maxReplicas
总资源消耗不能超过用户配额

7. 安全考虑

7.1 敏感信息处理

自定义 Agent 的环境变量（密钥、终结点等）需要加密存储
使用 K8s Secret 存储敏感信息
API 响应中不返回敏感信息明文
日志中脱敏处理敏感字段

7.2 命名空间隔离

所有 Agent Pod 统一部署在 ai-agents 命名空间
通过 Label 区分平台 Agent 和自定义 Agent
通过 Label 标记 Pod 所属的用户/渠道

7.3 网络策略

配置 NetworkPolicy 限制 Pod 间通信
自定义 Agent 的 Pod 之间相互隔离
只允许 Agent Manager 和 MCP Server 访问 Agent Pod

8. 与 MCP Server 的集成

8.1 调用关系

sequenceDiagram
    participant FE as 前端
    participant MCP as MCP Server
    participant AM as Agent Manager
    participant K8s as Kubernetes
    
    FE->>MCP: 创建 Agent 请求
    MCP->>MCP: 权限验证
    MCP->>MCP: 配额检查
    MCP->>AM: 调用创建 API
    AM->>K8s: 创建 Pod/Deployment
    K8s-->>AM: 返回结果
    AM-->>MCP: 返回创建结果
    MCP->>MCP: 记录计费信息
    MCP-->>FE: 返回结果

8.2 MCP Server 职责

职责	说明
权限验证	验证用户是否有权限操作 Agent
配额检查	检查用户的资源配额是否足够
计费管理	记录 Agent 使用情况，计算费用
分配管理	管理 Agent 的分配关系（管理员→渠道→租户）

8.3 Agent Manager 职责

职责	说明
K8s 操作	创建、删除、更新 K8s 资源
状态查询	查询 Pod 状态、资源使用情况
健康检查	监控 Agent 健康状态
日志获取	获取 Pod 日志

9. 部署架构

9.1 服务部署

# Agent Manager 部署配置示例
apiVersion: apps/v1
kind: Deployment
metadata:
  name: agent-manager
  namespace: taiji-system
spec:
  replicas: 2
  selector:
    matchLabels:
      app: agent-manager
  template:
    spec:
      containers:
      - name: agent-manager
        image: your-acr.azurecr.io/agent-manager:latest
        env:
        - name: KUBERNETES_NAMESPACE
          value: "ai-agents"
        - name: ACR_PLATFORM_REGISTRY
          value: "your-acr.azurecr.io/platform-agents"
        - name: ACR_CUSTOM_REGISTRY
          value: "your-acr.azurecr.io/custom-agents"

9.2 命名空间规划

命名空间	用途
taiji-system	系统服务（MCP Server, Agent Manager 等）
ai-agents	所有 Agent Pods（平台 Agent + 自定义 Agent）

9.3 ACR 镜像仓库规划

仓库路径	用途
`your-acr.azurecr.io/platform-agents/`	平台 Agent 镜像（完整可用）
`your-acr.azurecr.io/custom-agents/`	自定义 Agent 模板镜像（需要用户配置）

9.4 Pod Label 规划

# 平台 Agent Pod Labels
labels:
  app: agent
  agent-type: platform
  template: jina_search_agent
  owner-id: user-uuid-123
  channel-id: channel-uuid-456

# 自定义 Agent Pod Labels
labels:
  app: agent
  agent-type: custom
  template: openai_agent_template
  owner-id: user-uuid-123
  channel-id: channel-uuid-456

10. 待确认事项

镜像仓库：是否使用 Azure Container Registry (ACR)？需要确认仓库地址和认证方式。
弹性伸缩：是否需要集成 Kubernetes HPA (Horizontal Pod Autoscaler)？
日志收集：是否需要集成日志收集系统（如 Azure Monitor, ELK 等）？
监控告警：是否需要集成 Prometheus/Grafana 进行监控？
备份恢复：Agent 配置是否需要备份？
Pod 命名规则：建议格式 {template}-{owner-id-short}-{random}，如 jina-search-a1b2c3-xyz123

11. 版本历史

版本	日期	说明
v1.0	2026-01-04	初始版本
v1.1	2026-01-04	更新资源限制逻辑，明确按需创建和配额分配机制

README.md Unescape Escape

Agent Manager 服务需求文档

1. 概述

1.1 服务定位

1.2 系统架构

1.3 调用链路

1.4 核心设计原则

2. Agent 类型定义

2.1 平台端 Agent (Platform Agent)

2.2 自定义 Agent (Custom Agent)

2.3 两种 Agent 的核心区别

2.4 资源分配流程

2.5 ACR 镜像仓库规划

2.6 K8s 命名空间规划

3. 功能需求

3.1 模板管理

3.1.1 平台 Agent 模板

3.1.2 自定义 Agent 模板

3.2 平台 Agent 管理

3.2.1 创建平台 Agent

3.2.2 扩缩容平台 Agent

3.2.3 删除平台 Agent

3.2.4 查询平台 Agent

3.3 自定义 Agent 管理

3.3.1 创建自定义 Agent

3.3.2 更新自定义 Agent 配置

3.3.3 扩缩容自定义 Agent

3.3.4 删除自定义 Agent

3.3.5 查询自定义 Agent

3.4 资源统计

3.4.1 平台 Agent 资源统计

3.4.2 自定义 Agent 资源统计

3.5 健康检查

4. API 设计

4.1 模板管理 API

4.2 平台 Agent API

4.3 自定义 Agent API

4.4 统计 API

4.5 健康检查 API

5. 数据模型

5.1 Template 模板

5.2 PlatformAgent 平台 Agent

5.3 CustomAgent 自定义 Agent

6. 资源限制逻辑

6.1 平台 Agent 资源限制

6.1.1 分配流程

6.1.2 配额检查流程

6.2 自定义 Agent 资源限制

6.2.1 分配流程

6.2.2 配额检查流程

6.3 弹性伸缩配置

6.3.1 平台 Agent 弹性配置

6.3.2 自定义 Agent 弹性配置

7. 安全考虑

7.1 敏感信息处理

7.2 命名空间隔离

7.3 网络策略

8. 与 MCP Server 的集成

8.1 调用关系

8.2 MCP Server 职责

8.3 Agent Manager 职责

9. 部署架构

9.1 服务部署

9.2 命名空间规划

9.3 ACR 镜像仓库规划

9.4 Pod Label 规划

10. 待确认事项

11. 版本历史

README.md