chore: extend fast and deep timeout budgets
Increase fast mode timeout to 60 seconds and deep mode timeout to 300 seconds, then align README timing expectations to the updated runtime budgets. Made-with: Cursor
This commit is contained in:
@@ -12,7 +12,7 @@
|
|||||||
| **置信度自评 + 自动补搜** | LLM 返回置信度,不足时自动触发补搜 |
|
| **置信度自评 + 自动补搜** | LLM 返回置信度,不足时自动触发补搜 |
|
||||||
| **追问建议(Follow-up)** | 生成 3 条推荐的后续问题 |
|
| **追问建议(Follow-up)** | 生成 3 条推荐的后续问题 |
|
||||||
| **Token 级流式输出** | LLM 回答逐字流式返回,非事件粒度 |
|
| **Token 级流式输出** | LLM 回答逐字流式返回,非事件粒度 |
|
||||||
| **双模式搜索预算** | `fast` 30 秒预算,`deep` 120 秒预算 |
|
| **双模式搜索预算** | `fast` 最长 60 秒,`deep` 最长 300 秒 |
|
||||||
| **超时硬约束(无降级)** | 超时直接返回 `504`,不返回降级答案 |
|
| **超时硬约束(无降级)** | 超时直接返回 `504`,不返回降级答案 |
|
||||||
| **Fast 极简路径** | 单轮原查询、最多读取 3 页、关闭重排/KG/补搜以压缩时延 |
|
| **Fast 极简路径** | 单轮原查询、最多读取 3 页、关闭重排/KG/补搜以压缩时延 |
|
||||||
| **引用可信度标注** | 基于域名预设权重为每条引用打分 |
|
| **引用可信度标注** | 基于域名预设权重为每条引用打分 |
|
||||||
@@ -127,8 +127,8 @@ curl -N -X POST https://aisousuogongdan-gehqaceacuf2cade.eastasia-01.azurewebsit
|
|||||||
```
|
```
|
||||||
|
|
||||||
`search_mode` 说明:
|
`search_mode` 说明:
|
||||||
- `fast`:30 秒时间预算,超时事件为 `timeout`(`error=TIMEOUT_FAST_SEARCH`)
|
- `fast`:通常 40~60 秒返回,超时事件为 `timeout`(`error=TIMEOUT_FAST_SEARCH`)
|
||||||
- `deep`:120 秒时间预算,超时事件为 `timeout`(`error=TIMEOUT_DEEP_SEARCH`)
|
- `deep`:通常 110~300 秒返回,超时事件为 `timeout`(`error=TIMEOUT_DEEP_SEARCH`)
|
||||||
- `fast`:无 COT 过程事件,只输出必要流式事件(如 `connected`、`llm_token`、`result`、`timeout`、`audit`)
|
- `fast`:无 COT 过程事件,只输出必要流式事件(如 `connected`、`llm_token`、`result`、`timeout`、`audit`)
|
||||||
- `deep`:输出完整 COT 过程事件
|
- `deep`:输出完整 COT 过程事件
|
||||||
- `fast` 继续使用极简路径:跳过 `decompose/expand`,固定单轮搜索,Reader 最多读取 3 页,并关闭 `reranker/KG/confidence retry`
|
- `fast` 继续使用极简路径:跳过 `decompose/expand`,固定单轮搜索,Reader 最多读取 3 页,并关闭 `reranker/KG/confidence retry`
|
||||||
|
|||||||
@@ -26,8 +26,8 @@ from .search_client import SearchClient
|
|||||||
|
|
||||||
|
|
||||||
class AISearchAgent:
|
class AISearchAgent:
|
||||||
FAST_TIMEOUT_SECONDS = 30
|
FAST_TIMEOUT_SECONDS = 60
|
||||||
DEEP_TIMEOUT_SECONDS = 120
|
DEEP_TIMEOUT_SECONDS = 300
|
||||||
MAX_SEARCH_HITS = 10
|
MAX_SEARCH_HITS = 10
|
||||||
FAST_MAX_READ_PAGES = 3
|
FAST_MAX_READ_PAGES = 3
|
||||||
|
|
||||||
|
|||||||
Reference in New Issue
Block a user