摘要
AI 框架把 LLM 应用里反复出现的工程工作封装起来：提示词、工具调用、检索、状态、 路由、重试和可观测性。它们存在的原因很简单：第一个 demo 往往不难，但第二、第三个 功能很快会暴露出重复的工程问题。 给初学者的实用默认原则是：先用能解决问题的最小方案；当项目需要的结构已经难以 手动维护时，再引入框架。为什么这很重要
如果任务只是单次提示、一个小脚本，或者你能清楚看见每一步的原型，直接调用 API 通常已经足够。当项目开始需要下面这些能力时，框架才更有意义：- 记忆：跨多轮对话或跨会话保留上下文
- 检索：从文档、数据库或私有知识库中找信息
- 工具调用：搜索、数据库查询、日历操作、代码执行等
- 有状态控制流：分支、循环、重试、检查点
- 协作模式：多个角色或 agent 分工完成任务
- 可观测性：能追踪失败原因，并持续改进
我当前项目里的哪一部分正在变得重复、脆弱，或者难以推理？
心智模型
可以把框架选择理解为：手写脚本、应用脚手架、工作流引擎之间的选择。对比表格
场景演练
场景 1：简单聊天机器人
- 无框架：保存消息列表，调用模型，返回答案。对原型来说通常够用。
- LangChain：当聊天机器人需要工具调用、结构化输出、流式输出、追踪，或可复用的 模型/提示词连接时，才开始有价值。
- 结论：先不用框架。当聊天机器人从单个 chat loop 变成完整应用时，再考虑 LangChain。
场景 2：基于内部 PDF 的文档问答
- 无框架：你要自己解析文件、切分文本、生成 embedding、存向量、检索相关片段、 拼上下文，并处理引用。
- LlamaIndex：提供更聚焦的路径，用来加载文档、建立索引，并围绕私有数据查询。
- LangChain：也可以构建检索流程，尤其适合“检索只是更大 agent 应用中的一个工具” 的情况。
- 结论：如果文档检索就是核心产品，优先考虑 LlamaIndex；如果检索只是更大 agent 应用的一部分，再考虑 LangChain。
场景 3：多步骤研究工作流
- LangGraph：把流程显式建模为 plan、search、synthesize、review、revise 等节点。当流程需要暂停、恢复或故障处理时，检查点尤其有用。
- CrewAI：把流程建模为 planner、researcher、writer、editor 等角色，每个 角色负责不同任务。
- 结论：想快速做角色分工原型，可以选 CrewAI；执行控制和状态才是主要风险时， 选 LangGraph。
有用的默认原则
- 除非检索、工具或状态已经占据主要复杂度，否则第一版先不用框架。
- 问题是“如何让这些数据能被 LLM 搜索和回答”时，选 LlamaIndex。
- 问题是“如何构建一个连接模型、提示词、工具和集成的 LLM 应用”时，选 LangChain。
- 问题是“如何控制并恢复一个多步骤流程”时，选 LangGraph。
- 问题是“如何把任务分配给多个命名角色”时，选 CrewAI。
- 如果任务足够确定性，用普通函数或工作流。只有当 agent 能提供有用的协调、工具调用 或决策能力时，再引入 agent。
引用
- LangChain 文档
- LlamaIndex 文档
- LangGraph 文档
- CrewAI 文档
- 当前官方阅读材料列在
external_readings中。
延伸阅读
- 智能体框架：中级水平的框架对比，涵盖 以对话为先、以图为先、以 skill 为先和以工程为先的框架。
- 智能体运行时构建模块： 框架封装的运行时基元。
- 生态概览：完整的生态板块。
更新日志
- 2026-06-02：重写为面向初学者的决策指南，更新官方链接，改进心智模型，并减少 依赖具体 API 的表述。
- 2026-05-04：面向初学者的框架对比初稿。