A. 模型与能力

• 支持多模态（文本、表格、图片、文件），以及函数调用/工具调用、结构化输出（JSON）。

• 结合 结构化思维链/计划器（Planner） 与 执行器（Executor），可采用 ReAct、Tree-of-Thought、Reflexion、自一致性投票等策略。

B. 知识与数据

• 文档管道：抽取 → 清洗 → 分块 → 向量化（Embedding）→ 入库（FAISS/Milvus/PGVector）。

• RAG 强化：检索器重排（BM25 + 向量；或多路检索）、查询改写、段落打分、来源引用。

• 实时数据：联通搜索、内网系统、数据仓库（权限可控、审计可追溯）。

C. 工具生态

• 常用工具：网页搜索、代码执行、数据库/SQL、表格读写、日程/邮件、企业内部 API、BPM/RPA。

• 工具描述要清晰（入参/出参 JSON Schema），便于 LLM 正确调用。

• 复杂流程用编排器（Airflow/Temporal/自研 State Machine）处理长链路与重试补偿。

D. 记忆与个性化

• 短期记忆：会话窗口管理、关键信息提炼与压缩（摘要/要点表）。

• 长期记忆：用户偏好画像、历史任务、知识沉淀；过期与冲突检测。

• 情境注入：根据角色/场景动态装配系统提示与工具清单（Prompt Routing）。

E. 安全与合规

• 权限最小化（工具级、数据级、行级权限），调用白名单。

• 审计日志（问题、思考摘要、调用轨迹、返回内容）。

• 内容安全与越权拦截（PII 脱敏、合规规则、输出过滤）。

• 可靠性：超时、重试、熔断、速率限制、缓存。

F. 评测与可观测

• 离线评测：构造任务集（任务→期望输出→评分规则），对比不同模型/检索器。

• 在线指标：任务成功率、首响时间、工具调用成功率、是否引用来源、人工纠偏率。

• 回放与 A/B：对失败案例做误差分类（检索不准/工具失败/幻觉）。

G. 部署与运维

• 形态：CLI、Web、企微/钉钉机器人、Slack、API 服务。

• 远程配置：灰度模型、热更新知识库、Feature Flag。

• 成本优化：请求批量化、压缩/蒸馏、小模型前置 + 大模型裁决。