大模型应用开发:学习 Dashboard

为 xdx 定制 · 2026-05-13 · v5 · 12 周计划 48h 学习法驱动:每个阶段先建知识地图 → 动手实践 → 关 AI 自测 → 费曼输出 核心理念:每个阶段都有真实用户、可交付产品、工程化要求 v5 变更:阶段一扩至 3 周 + Prompt 独立练习、GraphRAG 移至综合项目、总时长 12 周、Fine-tuning 加云 GPU 方案


前置诊断:你的起点

你已经在大模型应用开发这件事上了:

  • MemMachine → 完整语义记忆系统(Embedding + 向量检索 + Neo4j 知识图谱)
  • OpenClaw → 多 Agent 平台(心跳、记忆、子代理、多通道)
  • Humanizer → Cloudflare 上的 LLM SaaS 产品
  • mcporter → MCP 工具桥接
  • SBTI 小程序 → 已有基础人格测试功能
  • 选题调研 SOP → 已有选品方法论

知识缺口:Agent 编排模式(用过但没看过理论)、Prompt Engineering(缺系统化方法)、RAG 高级技术(做过但不系统,GraphRAG 没深入)、评估体系(大概率没建过)、MCP 协议完整规范、Fine-tuning(还没碰)、Multi-Modal(未接触)、LLM 可观测性(生产运维盲区)。

v5 核心变化(相比 v4)

  • 阶段一扩至 3 周 — 任务量最大的阶段,给足时间;前 3 天加独立 Prompt Engineering 练习
  • 研发助手移至综合项目 — 阶段一专注 Humanizer Agent + ClawHub Skill
  • GraphRAG 移至综合项目 — 阶段二专注纯向量 RAG + Hybrid Search + Reranker,跑通基线后再上 GraphRAG
  • 总时长 10 → 12 周 — 每阶段加 buffer,避免赶工
  • Fine-tuning 加云 GPU 方案 — MacBook 训练太慢,用 AutoDL 等云 GPU 训练

v4 继承:MCP 并入 Agent、Fine-tuning 前移、可观测性前移、Multi-Modal 选做


阶段总览

| 阶段 | 主题 | 时间 | 状态 | 核心交付物 | 用户 | |------|------|------|------|-----------|------| | 01 | Agent 编排 + Prompt 工程 + MCP | 第 1-3 周 | ⬜ 未开始 | Humanizer 对话式改写 Agent + ClawHub Skill | Humanizer 用户 | | 02 | RAG + 评估体系 | 第 4-5 周 | ⬜ 未开始 | SBTI 人格深度分析(RAG + 付费功能) | SBTI 小程序用户 | | 03 | Fine-tuning 实战 | 第 6-7 周 | ⬜ 未开始 | Humanizer 专属改写模型 | Humanizer 用户(降成本) | | 04 | LLM 可观测性与生产运维 | 第 8 周 | ⬜ 未开始 | Humanizer 监控大盘上线 | 自己(运维效率) | | 05 | 综合项目:副业 AI 中台(Multi-Agent + GraphRAG + Multi-Modal 选做) | 第 9-12 周 | ⬜ 未开始 | 全链路自动化系统 | 自己(效率翻倍) |


技能依赖图

Agent + Prompt + MCP(阶段一,3 周)
    ↓
RAG + 评估体系(阶段二,纯向量 + Hybrid + Reranker,2 周)
    ↓
Fine-tuning(阶段三,云 GPU 训练,2 周)
    ↓
LLM 可观测性(阶段四,1 周)
    ↓
综合项目(阶段五,3-4 周)— Multi-Agent + GraphRAG + Multi-Modal 选做

关键依赖关系

  • Agent 是 RAG 的前提(Agentic RAG 需要先理解 Agent 编排)
  • 评估体系是 Fine-tuning 的前提(微调前后需要 A/B 对比)
  • 可观测性应该从阶段一就开始埋点(Langfuse trace 从第一行代码就接上)

时间规划

| 周次 | 主题 | 每日投入 | 关键产出 | |------|------|----------|----------| | 1-3 | Agent 编排 + Prompt + MCP | 2-3h | Humanizer Agent 原型上线 + ClawHub Skill | | 4-5 | RAG + 评估体系 | 2-3h | SBTI 深度分析功能上线 | | 6-7 | Fine-tuning | 2-3h | 微调模型替换 API(云 GPU 训练) | | 8 | LLM 可观测性 | 2-3h | 监控大盘 + 告警上线 | | 9-12 | 综合项目 | 3-4h | 副业 AI 中台上线(含 GraphRAG 升级) |

总投入:约 160-180 小时(12 周 × 12-15h/周,综合项目投入更多)


v4 模块说明

Agent + Prompt + MCP(阶段一,3 周)

Agent 编排和工具调用是一个整体——Agent 天然需要调用工具,MCP 是工具调用的标准。Prompt Engineering 是 Agent 质量的根基。三者合并学习,逻辑自然。

第 1-3 天:Prompt Engineering 独立练习

  • Prompt 四层体系实战:指令/上下文/推理/约束,每种策略在 Humanizer 上做 A/B 对比
  • Few-shot、CoT、Structured Output 的实际差异实验
  • 建立个人 Prompt 模板库(Obsidian 笔记)

第 4-14 天:Agent 编排 + MCP + 项目

  • 重点:ReAct/Plan-Execute 模式、LangGraph 状态机、MCP 三原语(Tools/Resources/Prompts)
  • 项目:Humanizer Agent 化 + ClawHub Skill 发布

RAG + 评估体系(阶段二,2 周)

专注纯向量 RAG + Hybrid Search + Reranker,跑通基线。评估体系(RAGAS 四指标)是后续 Fine-tuning 的前提。GraphRAG 移至综合项目阶段(先有基线才能量化升级效果)。

Fine-tuning(阶段三,2 周)

第 6-7 周。学完 Agent/RAG 后已有"改写质量"的判断力,此时做训练数据筛选最精准。云 GPU 训练(AutoDL / Google Colab),MacBook 训练 7B 模型太慢。微调完成后用 Ollama(本地推理)部署。

LLM 可观测性(阶段四,1 周)

第 8 周。但从阶段一就应该开始埋点——每写一行 LLM 调用代码就接上 Langfuse trace。到第 8 周时已有大量调用数据,可以做有意义的成本分析和质量回归检测。

综合项目 + Multi-Agent + GraphRAG + Multi-Modal(阶段五,4 周)

把全部技能串联。Multi-Agent 是核心(至少 2 个 Agent 协作)。GraphRAG 在纯向量 RAG 基线上升级(复用阶段二的评估体系量化对比)。Multi-Modal 作为选做子模块(SBTI 报告配图)。

⚠️ LangGraph 使用原则

  • 以 Agent 开发为目标:LangGraph 要学透,能从零搭生产级 Agent workflow(checkpoint、human-in-the-loop、子图、错误恢复)
  • 自建项目灵活选择:Humanizer/OpenClaw 等自己的项目不强制绑定 langchain-core,按需选用
  • LangChain-core 适度了解:不主动依赖,但别人代码里出现要能看懂
  • LlamaIndex RAG 管道:阶段二至少跑通一次,知道它封装了什么,面试用得上

贯穿全程的实践原则

1. 每个阶段都有真实用户

不是练习项目,是真实产品功能。学完就能看到用户反馈。

2. 工程化贯穿全程

成本控制、可靠性、可观测性、数据管理、部署运维——每个阶段都有工程化要求清单。

3. 评估驱动

学 RAG 要建评估体系,学 Agent 要量成功率,学 Fine-tuning 要 A/B 测试。不度量就不优化。

4. 深度利用已有项目

  • Humanizer → Agent 升级 + Fine-tuning + 监控大盘
  • SBTI 小程序 → RAG 深度分析 + Multi-Modal 可视化
  • OpenClaw → MCP Skill + Multi-Agent 实战
  • MemMachine → RAG 实验场(GraphRAG 选做升级)
  • 选题调研 SOP → 自动选品 Agent
  • 心跳监控 → 量化交易 Agent

5. 不学什么(自学阶段)

  • 数学推导
  • GPU 分布式训练
  • Transformer 从零实现
  • 纯学术研究

6. 适度了解(不深入,但要能看懂)

  • LangChain-core 抽象层 — 自建项目不依赖,但行业代码大量使用
  • LlamaIndex 全套 — 至少跑通一次 RAG pipeline,知道它封装了什么

7. 阶段一项目矩阵

| 项目 | 定位 | 核心能力展示 | 数据 | |------|------|-------------|------| | Humanizer Agent | ⭐ 核心项目:对话式改写 Agent | Agent 编排 + Prompt 工程 + LangGraph | 真实数据 | | ClawHub Skill | MCP 协议实践 | Tools/Resources/Prompts 三原语 + 发布流程 | 真实场景 |

8. 副业 Agent 提效全景

阶段一的项目不是孤立的学习项目,直接服务于你的三条副业线。 综合项目阶段会把以下所有环节串联为全链路自动化系统:

小程序矩阵

| 环节 | Agent 化方案 | 提效 | 阶段一项目复用 | |------|------------|------|----------------| | 选题调研 | Agent 自动跑 SOP(搜索热度+竞品分析+五问评分+命名生成) | 每选题省 1.5h | 找工作助手的 RAG + 结构化输出 | | PRD 生成 | Agent 基于调研报告自动生成 PRD 初稿 | 每产品省 1h | 内容生产 Agent 的 Reflexion | | 开发流水线 | 调研→PRD→技术方案→代码→UI→部署 全链路串联 | 首次串联省 1h | 阶段五综合项目 | | 数据监控 | 统一拉取 DAU/广告收入/留存,异常告警 | 每周省 2h | 阶段五综合项目 |

AI 个人 IP(码侠的AI开发笔记)

| 环节 | Agent 化方案 | 提效 | 阶段一项目复用 | |------|------------|------|----------------| | 对标账号监控 | Agent 定期扫描对标账号新爆款 + 评论变化 | 每周省 2h | 找工作助手的数据追踪 | | 选题挖掘 | Agent 提取评论区高频问题 → 自动生成选题库 | 每周省 1h | RAG + Structured Output | | 内容生产 | 选题→大纲→初稿→润色→多平台适配→发布 | 每篇省 40min | ⭐ 内容生产 Agent(主力项目) | | 多平台适配 | 一稿适配知乎/小红书/公众号(标题/开头/排版都不同) | 每篇省 15min | 内容生产 Agent | | 数据追踪 | 发布后自动追踪阅读/点赞/评论,周报汇总 | 每周省 1h | 综合项目数据监控 Agent | | 朋友圈素材 | 基于当天工作场景自动生成 2 条朋友圈 | 每天 5min | 内容生产 Agent | | 引流品维护 | 定期更新《AI后端提效工具包》 | 每月省 2h | RAG | | 私域答疑 | 基于你的知识库自动回答常见问题 | 每天省 30min | 综合项目研发助手(选做) |

投资监控

| 环节 | 现状 | |------|------| | 行情信号推送 | ✅ 已有心跳监控覆盖 |

写作学习 + 论文写作

知识库来源:20+ 本写作书笔记 + 论文写作相关笔记(科研写作完全指南/做研究是有趣的/拆论文/这就是工科写作/现代科研指北/Science Research Writing 等)

| 环节 | Agent 化方案 | 提效 | 阶段一项目复用 | |------|------------|------|----------------| | 选题建议 | 基于洞见写作/写作复利的选题方法论,输入方向 → 给出选题建议 | 每次省 20min | RAG 检索写作方法论 | | 结构推荐 | 输入内容类型 → 推荐九宫格/模板/超级结构中最合适的框架 | 每次省 15min | RAG + Structured Output | | 标题优化 | 输入标题 → 按学会写作2.0方法论打分 + 给 3 个优化版 | 每次 5min | RAG | | 文笔诊断 | 输入段落 → 按写作脑科学/修炼好文笔分析可读性问题 | 每次 10min | RAG | | 金句打磨 | 输入段落 → 按写作高手13个技巧提炼/优化金句 | 每次 5min | RAG | | 开头/结尾优化 | 对照多本书的套路总结给出改进建议 | 每次 10min | RAG | | 日常训练计划 | 根据弱项从高效写作6周训练计划生成每日练习任务 | 每周省 1h | 内容生产 Agent | | 论文选题 | 基于做研究是有趣的/现代科研指北方法论,给出选题建议 | 每次 30min | RAG | | 论文结构 | 基于科研写作完全指南/Science Research Writing/拆论文,推荐论文结构 | 每次 20min | RAG | | 论文语言优化 | 基于这就是工科写作/批判性思维与说服性写作,润色学术表达 | 每次 15min | RAG | | 文献综述辅助 | 输入研究方向 → 检索相关笔记中的方法论和案例 | 每次 30min | RAG |

核心思路:20+ 本写作书笔记 + 论文写作笔记作为 RAG 知识库,写作/论文时实时调用方法论反馈。作为内容生产 Agent 的子模块,既产出内容又提升能力。

核心思路:阶段一的项目就是你副业工具链的底层能力,学完直接用。


AI 加速策略

视频课程处理

YouTube/B站课程 → yt-dlp 下载字幕 → AI 总结。10 小时视频实际看 2-3 小时。

代码开发模式

AI 写代码,你来设计和决策。你负责理解原理、设计实验、分析结果、做架构决策。

学习节奏

AI 总结建框架 → 深入看原始资料 → 跑项目暴露问题 → 带着问题查资料。


完成标志

必做(全部肯定 = 学习闭环完成)

  1. Humanizer 从单次工具升级为对话式 Agent 产品了吗?Prompt 质量有系统评估吗?
  2. SBTI 有付费深度分析功能了吗?纯向量 RAG 基线效果如何?
  3. Humanizer API 成本降了吗?降了多少?微调模型效果和 API 差距多大?
  4. 有监控大盘吗?能实时看到每个 API 调用的延迟、成本、质量吗?
  5. 副业 AI 中台跑起来了吗?IP 内容生产 Agent 每周能自动产出什么?
  6. ClawHub 上有你的 Skill 了吗?

选做(加分项)

  1. GraphRAG 比纯向量 RAG 好多少?有量化对比报告吗?
  2. 研发助手跑通了吗?(技术支持 RAG + 线上故障 workflow)
  3. 小程序自动选品 Agent 能每周产出选题吗?
  4. 产品支持图片/文档输入了吗?