LLM Agent 与 RAG 实战教程

面向零基础学习者：从 LLM 基础讲起，通过 4 个真实业务项目，循序渐进掌握 LangChain、LlamaIndex、AutoGen、RAG、Function Calling、Prompt 工程、向量数据库和分布式部署。

一、学习路线（按顺序学）

#	知识点	要点	官方教程
1	LLM 基础	Token、上下文窗口、temperature 等采样参数、Chat 接口调用（先学 Python 基础）	Hugging Face LLM 课程、OpenAI 快速入门
2	Prompt 工程	角色设定、少样本示例、思维链、结构化输出	OpenAI Prompt 指南、Prompt Engineering Guide 中文版
3	Function Calling	模型自己决定调用哪个函数、传什么参数——Agent 的核心	OpenAI Function Calling
4	Embedding 与向量数据库	把文本变成向量做语义检索	Chroma（入门）、Qdrant、Milvus（生产）
5	RAG	文档切分、检索、重排序、基于检索内容回答、效果评估	LlamaIndex 文档、LangChain 教程
6	LangChain / LangGraph	链式调用、记忆、有状态的 Agent 流程	LangChain 教程、LangGraph 文档
7	AutoGen	多个 Agent 分工、对话、协作	AutoGen 文档
8	分布式与部署	FastAPI 写服务、Docker 打包、Redis 缓存、Celery 任务队列、Kubernetes	FastAPI 中文、Docker 入门、Celery、Kubernetes 基础

二、4 个循序渐进的项目

1. 企业知识库问答（RAG）：上传公司 PDF / Word 文档后直接提问，回答注明出处。 覆盖：LLM 调用、Prompt、Embedding、Chroma、LlamaIndex。
2. 客服 / 工单 Agent：能查订单、创建工单、转人工，并结合知识库回答。 覆盖：Function Calling、LangChain 与 LangGraph、对话记忆、防止模型乱编（幻觉控制）。
3. AutoGen 多 Agent 数据分析：“分析师、程序员、审核员”三个 Agent 协作读取 Excel 销售数据并写出分析报告。 覆盖：AutoGen、多 Agent 编排、代码执行沙箱。
4. 分布式 RAG 服务：把项目 1 改造成 API 服务，接入 Qdrant 或 Milvus、Redis 缓存、异步任务队列批量导入文档，用 Docker Compose 部署，再做压测与监控。 覆盖：分布式与部署整套技术栈。

三、本机环境建议（8845HS + 32G）

• 这台电脑可以用 Ollama 跑 7B～14B 的量化模型（如 Qwen2.5-7B / 14B），但速度一般（每秒几个到十几个 token），复杂工具调用和多 Agent 场景下本地小模型不够稳定。
• 推荐组合：
  • 对话 / 推理主力用云 API：本教程使用 OpenAI 兼容的中转平台，base_url 为 https://tokenrhythm.studio/v1，模型 deepseek-flash。
  • Embedding 和简单任务用本地 Ollama：省钱，也能理解本地部署。
  • 实际情况：中转平台没有 Embedding 模型，目前用 LM Studio 在本地运行 bge-m3（也可用 Ollama），详见 第三阶段。
• 开发环境：Python 3.11 + VS Code + Git，后期再装 Docker Desktop。
• 代码仓库：私有仓库 agent-learning，4 个项目各占一个目录。

👉 从第一阶段开始