RAG

NOTE

RAG的架构

用户
 ↓
Embedding 转向量（将多模态输入内容转成向量） Embedding模型
 ↓
向量数据库
 ↓
TopK召回
 ↓
LLM
 ↓
答案

常见技术栈：

• Embedding
  • text-embedding-3-large
  • bge-m3
  • jina-embedding
• 向量库
  • Milvus
  • Qdrant
  • Weaviate
  • Elasticsearch

RAG解决什么问题

1. 私有知识

• 企业制度
• 产品文档
• API文档
• 合同模板

2. 实时数据

训练时不可能知道，需要实时查数据库。

3. 减少幻觉

本地部署一个 RAG，本质上是在干什么？

你可以把它理解成：

建立一个自己的搜索引擎
+
接一个大模型

例如：

你电脑里有：

Java学习笔记.pdf
Vue开发规范.docx
产品需求文档.md

你希望：

问：
Vue项目如何做权限控制？

AI：
根据你的《Vue开发规范》第32页...

而不是 GPT 自己瞎编。

这就是 RAG。

---

阶段2：市场岗位能力

技术栈：

• Java
• Spring Boot
• MyBatis
• Vue/React

结果：

能投国内大量全栈岗

---

阶段3：AI 增值能力

技术栈：

• Python
• LLM API
• RAG
• Workflow

结果：

比传统全栈更值钱

---

阶段4：差异化能力

二选一：

• Flutter
• Three.js / WebGL

---

阶段5：商业化能力

• 副业
• 接单
• 产品
• 团队