模型选型与 Agent 适配

Agent 场景对模型的要求（按重要性排序）：

1. 工具调用准确率（最重要）
   - 能否正确选择工具
   - 能否生成正确的参数
   - 能否处理工具返回结果

2. 指令遵循能力
   - 能否严格按照系统提示行动
   - 能否输出指定格式（JSON、XML）
   - 能否在需要时停止而非继续

3. 推理与规划能力
   - 能否分解复杂任务
   - 能否处理多步骤推理
   - 能否根据中间结果调整策略

4. 上下文管理
   - 能否有效利用长上下文
   - 在大量信息中找到关键内容
   - 不遗漏重要细节

5. 速度与成本
   - 响应延迟（Agent 多轮调用，延迟累积）
   - Token 价格（Agent 消耗远多于普通对话）

高复杂度任务（需要多步推理和精确工具调用）：
  首选: Claude 3.5 Sonnet / GPT-4o
  原因: 推理能力强，工具调用准确

高吞吐量任务（大量简单 Agent 任务）：
  首选: Claude 3.5 Haiku / GPT-4o-mini / Gemini Flash
  原因: 速度快，成本低

代码 Agent：
  首选: Claude 3.5 Sonnet / DeepSeek-V3
  原因: 代码能力强，SWE-bench 表现优异

本地部署（数据安全要求高）：
  首选: Qwen2.5-72B / LLaMA 3.3-70B
  原因: 工具调用支持好，可本地推理

预算敏感场景：
  首选: GPT-4o-mini + GPT-4o（路由）
  策略: 简单任务用 mini，复杂任务升级到 4o

# 针对不同模型的 Agent 系统提示优化

# Claude 系列（擅长 XML 标签结构化）
CLAUDE_SYSTEM = """
你是一个数据分析 Agent。

<instructions>
1. 首先理解用户的分析需求
2. 使用 query_data 工具获取数据
3. 分析数据并给出洞察
4. 如果数据不足，明确告知用户
</instructions>

<tool_usage>
- 每次只调用一个工具
- 仔细阅读工具返回结果再决定下一步
- 如果工具报错，尝试修正参数
</tool_usage>
"""

# GPT 系列（擅长 Markdown 结构化）
GPT_SYSTEM = """
你是一个数据分析 Agent。

## Instructions
1. 首先理解用户的分析需求
2. 使用 query_data 工具获取数据
3. 分析数据并给出洞察
4. 如果数据不足，明确告知用户

## Tool Usage
- 每次只调用一个工具
- 仔细阅读工具返回结果再决定下一步
- 如果工具报错，尝试修正参数
"""

# 小模型（需要更明确的指令）
SMALL_MODEL_SYSTEM = """
你是一个数据分析 Agent。你必须严格按照以下步骤行动：

步骤 1: 理解用户需求
步骤 2: 调用 query_data 工具获取数据
步骤 3: 分析数据
步骤 4: 给出回答

重要规则：
- 必须使用工具获取数据，不要编造数据
- 工具调用时必须提供所有必需参数
- 如果不确定，请询问用户
"""

# 差：模糊的描述
bad_tool = {
    "name": "search",
    "description": "搜索信息"
}

# 好：详细的描述（包含何时使用、输入输出、限制）
good_tool = {
    "name": "search_web",
    "description": """搜索互联网获取最新信息。

何时使用：
- 需要获取实时数据或最新新闻
- 知识库中没有的信息
- 需要验证事实

何时不使用：
- 已有确定答案的常识问题
- 可以通过计算得到答案的问题

输入：query (字符串) - 搜索关键词
输出：搜索结果列表，每项包含标题、摘要和链接
限制：每次最多返回 5 条结果""",
    "parameters": {
        "query": {
            "type": "string",
            "description": "搜索关键词，应具体而非笼统"
        }
    }
}

# 使用 Ollama 部署本地模型
# ollama pull qwen2.5:72b

# 配置 Agent 使用本地模型
from langchain_ollama import ChatOllama

local_llm = ChatOllama(
    model="qwen2.5:72b",
    base_url="http://localhost:11434",
    temperature=0
)

# 本地模型的工具调用
# 注意：需要模型原生支持 Function Calling
# Qwen2.5 和 LLaMA 3.x 支持较好