AI技术名词:
各个概念:
LLM 大语言模型:例如,你对AI提问“周末自驾去川西,该怎么玩”,AI很快给出答复,这背后的核心就是大语言模型LLM(Large Language Model)。具体产品举例:GPT-4o(OpenAI)、Claude 3.7 Sonnet(Anthropic)、DeepSeek-V3(深度求索)、Qwen2.5-72B(阿里)等。
多模态模型:他就是大语言模型,只不过是更强大的模型。如果大语言模型LLM是大脑,那多模态模型就是长了耳朵和眼睛的大脑,能看懂图片,听懂声音。具体产品举例:GPT-4o(直接听懂你的语音语调,还能看摄像头画面)
Token:它将你的问题拆解为Token,不是一个字一个词,是大模型理解文字的最小单元,每个Token对应一个数字即Token id,大模型通过计算,预测出一个Token后面最应该接的是哪个Token从而拼凑出完整回答。
Prompt 提示词:在这个过程中,你的提问就是Prompt(提示词)。假如你换一种问法“预算5000,行程5天,喜欢自然风景类景点,对吃的要求不高,去川西自驾怎么玩”,回答就会立刻好用很多,这套把话说清楚的方法论,就叫Prompt Engineering(提示词工程)。
Context 上下文:如果它给了回答后,你又补充“不去网红景点,预算提高到8000”,它都会调整回答,它是怎么记住的?因为每次发消息时,系统都会把之前的对话一起打包发给大模型,这就是Context(上下文)
Memory 记忆:大模型理解上下文的长度是有限的,随着对话积累,模型会忘记一开始的内容。常见做法是让模型把之前的对话做一次压缩总结,只保留关键信息。这关键信息就是Memory(模型的记忆)具体产品举例:chatGPT的记忆功能。
RAG 检索增强生成:你继续问“看我以前收藏的旅行攻略来规划行程”,模型就宕机了,它不知道你收藏的攻略是什么,这时候就需要RAG检索增强生成,它可以读取你的私有资料,让回答更加真实可靠。它先把你的资料切成小片段存进知识库,你提问时,系统检索出最相关的片段并作为背景资料和你的问题拼接。模型阅读这段增强后的上下文生成准确回复(我们现在接触的AI客服、问答助手等背后都是RAG技术)具体产品举例:豆包/Kimi的上传文件功能。
Function Calling函数调用:但大模型此时还不能真正干活。比如你让大模型“查一下高铁票”,AI会回答你让你打开12306查询。它只能告诉你怎么做,但没法真的去帮你查车次。这就用到Function Calling函数调用了,它让大模型具备能够接入外部工具的能力。函数调用流程是,AI应用程序先告诉大模型有哪些第三方工具可以用,再把你的对话发过去,当模型判断需要调用工具时,就输出一段结构化的函数调用指令,程序拿到指令去查询车次,查询结果返还给模型,然后模型就回复你“符合行程规划的车次有…”
MCP 模型上下文协议:但是每接入一个新工具,就需要单独写适配代码,不同的应用之间,这些工作时无法复用的,于是有了模型上下文协议MCP(Model Context Protocol)。它统一所有第三方工具的接口,AI程序只需要对接MCP这一个协议就能调用所有使用同一接口的工具。
MCP和Function Calling的区别在于:Function Calling让模型按照约定的格式输出调用指令,而MCP是让所有工具都遵循同一格式被模型接入
自主执行Agent:能不能只说一句“帮我把川西旅行安排好”,剩下的全交给它呢?可以,这就是Agent。一个Agent在接到目标后会自己思考怎么做,整个过程它自己规划步骤、调用外部工具、记录每一步结果…没错,Agent就是在大模型的基础上,把之前这些能力打包成一个能独立干活的系统。大模型再聪明也只能你问一句,它在文本框里答一句。但Agent能实实在在帮你干活,并持续学习思考,越干越聪明。(具体产品举例:市面上简单的AI产品,比如只做关键词回复的客服机器人,它们只是“LLM+工作流”。而能够自助规划反复试错的产品就是Agent,比如Manus,Devin,OpenCode等)。
Workflow工作流:将步骤固定顺序锁死,使得AI没有自助决策权,像一个工厂传送带一样机械执行。具体产品举例:Dify 或 Coze(扣子) 里的“工作流模式”。你做一个“小红书爆款标题生成器”:Step1 必须提取关键词 → Step2 必须搜索同类爆款 → Step3 必须套用模板生成 → Step4 必须人工确认才能发布。中途任何一步都不能跳过或改变顺序
Skill技能:理想情况下Agent能完全自己安排旅行,但实际上你还是要提醒他按天规划行程、找攻略、查高铁等等。此时Skill技能就来帮你了,你可以把所有的偏好和规则写进一个skill里,这样下次Agent接到类似任务时会参考这份文件,按规定办事。
Skill和Prompt的区别是:Prompt是一次性的话术,想便签纸,每次用都要写。而Skill是可以重复使用的程序化能力,像一本书,有标题有内容,随时可以翻看,Skill本身就是结构化的。可以将你所有的Skill都整合在一起,通过渐进式的披露机制,在运行过程中按需激活,读取使用不同Skill,大大节省上下文和Token,让任务执行成本更低。
Harness:但是能力越大闯祸可能也越大。有时你让Agent买车票,它买错了甚至直接付钱。这时候Harness出现了,这个词意思是马具,他可以套上脱缰的Agent,约束它的失控行为。Harness首先将最全面的上下文提供给模型避免其失忆,同时给Agent划定边界,明确哪些红线不能碰,最后能自动验收任务成成果,给出反馈并引导修复。它的核心就是构建一个AI友好工作环境,确保在可控范围内爆发生产力。
Vibe Coding:可以理解为,用聊天的方式让AI给你把代码做出来。不会写代码的人也可以实现代码开发。通过多次提需求,让AI不停修改直到满意。可以不会写代码,但是要会描述需求,发现问题继续改。
本地部署:平常使用AI是把问题发到云端,用云电脑处理。本地部署就是把AI模型或AI工具装到自己电脑,让它本地运行。适合私密资料、公司内网、长期固定任务等场景。对硬件配置有要求。
一句话记住概念的关系:
你用 Prompt 指挥 LLM,LLM 通过 Context 记住你刚说的话,通过 Memory 想起你上周的偏好,通过 RAG 翻看你给的资料,通过 Function Call 或 MCP 去操控外部软件——当这一切串联起来,并且允许 LLM 自己决定先做哪一步、做错了重来,它就变成了 Agent。
各个概念总结与产品举例:
| 概念 | 理解 | 具体产品/真实场景举例 |
|---|---|---|
| 1. LLM | 回答问题的“大脑” | GPT-4o(OpenAI)、Claude 3.7 Sonnet(Anthropic)、DeepSeek-V3(深度求索)、Qwen2.5-72B(阿里)。 |
| 2. Token | 模型理解的数字ID最小单元 | 在 OpenAI 官方 Tokenizer 页面输入“ChatGPT”,它会显示这被拆成 ["Chat", "G", "PT"] 共3个Token。中文“人工智能”通常拆成4-6个Token。 |
| 3. Prompt | 你提的问题 | 你在 Kimi 对话框里敲的“请用表格形式帮我整理这份财报的核心数据”。 |
| 4. Prompt Engineering | 把话说清楚的方法论 | 你写代码提示词时加一句:“使用 Python 3.10,不要用 pandas,用纯循环实现”,输出质量天壤之别。这叫结构化提示。 |
| 5. Context | 每次打包发送的历史对话 | Claude 支持 200K Token 上下文,你可以把《三体》三部曲(约90万字)直接丢进去,问它“罗辑和章北海有什么异同”,它记得开头和结尾。 |
| 6. Memory | 跨对话记住的个人偏好 | ChatGPT 的“记忆”功能。你跟它说“我女儿叫朵朵,今年3岁”,下次新开对话问“推荐个亲子游戏”,它会直接说“适合朵朵这个年龄段的游戏有…”。 |
| 7. RAG | 翻看你给的私密资料作答 | 豆包 / Kimi 的“上传文件”功能。你上传自家公司的《员工手册.pdf》,问“年假可以累积到下年吗?”,它只根据你给的PDF回答,绝不瞎编。 |
| 8. Function Calling | 让模型输出指令调取外部接口 | 你在 智谱清言(AutoGLM) 里说“帮我查一下明天北京到上海的机票”,它内部调用携程/去哪儿的查询API,返回真实航班信息。 |
| 9. MCP | 工具的统一“USB-C”接口协议 | Anthropic 发布的 MCP 生态。你本地跑一个 Blender MCP 服务器,Claude 就能直接下指令“把立方体旋转45度”,Blender自动执行。换其他3D软件,只要支持MCP,接口代码不用重写。 |
| 10. Agent | 自己规划+试错+干活的实习生 | 1. Manus(丢给它一个含10份简历的压缩包,它自己解压、筛选、排名、出表)。2. Devin(软件编程Agent,自己改Bug并部署上线)。3. OpenCode(你开头问的,能自己读写终端代码文件并运行测试)。 |
| 11. Skill | 可重复调用的“技能说明书” |
Anthropic 的 Agent Skill 规范。你写一个 travel-planner.md 文件,里面规定“川西行程必须走318国道、住宿海拔不超过3500米”。下次Agent接到旅行任务,自动加载这个技能,照章办事。 |
| 12. Harness / Guardrail | 约束AI的“缰绳”和测试框架 | EleutherAI LM-Eval Harness(评测模型智商)。Guardrails AI 库(给Agent加护栏:一旦检测到要调用“付款”接口,强制弹窗让用户二次确认)。 |
| 13. Vibe Coding | 用“感觉”和“对话”写代码 | 你不会Python,但打开 Cursor 编辑器,输入“做一个粉色背景的番茄钟倒计时网页”,AI生成代码。报错了把红字贴回去让它改,全程不写一行逻辑代码。 |
| 14. 本地部署 | 模型装在自己电脑上跑 | 下载 Ollama,运行 ollama run qwen2.5:7b,就能在飞机上断网使用Qwen,且对话数据永不离开你的笔记本电脑。 |
| 15. 多模态模型 | 长了眼睛和耳朵的大脑 | GPT-4o(直接听懂你的语音语调,还能看摄像头画面)。Qwen-VL(你拍一张冰箱剩菜照,它识别出番茄、鸡蛋,给你推荐“番茄炒蛋”菜谱)。 |
| 16.Workflow工作流 | 把步骤固定下来让AI执行 | Dify 或 Coze(扣子) 里的“工作流模式”。你做一个“小红书爆款标题生成器”:Step1 必须提取关键词 → Step2 必须搜索同类爆款 → Step3 必须套用模板生成 → Step4 必须人工确认才能发布。 |
| 中途任何一步都不能跳过或改变顺序 |
所有概念分层总览:
| 层级 | 核心概念 | 在本案例中谁在干活 | 一句话定义 |
|---|---|---|---|
| L7 开发交付层 | Vibe Coding、Skill、Harness | 小王用对话改网页,护栏拦住乱花钱 | 人机协作的界面与交付物 |
| L6 智能体层 | Agent | 自己拆解任务、调用工具、试错修改 | 自主决策,灵活变通 |
| L5 流程控制层 | Workflow | 安全审查、预算扣减、日报生成,顺序锁死 | 按部就班,六亲不认 |
| L4 工具层 | Function Calling、MCP | 查路况、查天气、查酒店 | 手脚接口 |
| L3 知识层 | RAG、Memory | 翻看私人攻略,记住“怕高反” | 长时记忆与私有资料 |
| L2 交互层 | Prompt、Context、Token | 小王的提问与AI的短时记忆 | 即时对话 |
| L1 底座层 | LLM、多模态、本地部署 | Qwen 大脑,识别手写便签 | 算力与模型本身 |