AI 世界观全景图——从底层到顶层，一次看懂

01-builders 社区分享 · 课程讲义 本文档为分享课的文本材料，可脱离 PPT 和录屏独立阅读。

一、概述：把 AI 拆成三层

当前 AI 技术栈可以从底到顶拆成三层：

• 第一层：模型层——最核心的数学与算法部分，大模型本身
• 第二层：推理控制层——让模型真正运转起来的工程部分
• 第三层：应用层——面向用户的产品与 Agent 架构，离我们最近

下面从最底层开始，一层一层往上讲。

二、第一层：模型层

2.1 大模型本质上是什么

大语言模型（LLM）本质上是一张巨大的数字网络。网络由无数节点层层连接而成，节点之间的连接权重就是参数。一个模型的参数从几百亿到上万亿不等，比如 DeepSeek-V4 Flash 有 2840 亿参数，Pro 版本达到 1.6 万亿。

这张网络只做一件事：给你一段输入，它沿网络算一次，告诉你最可能的下一个字是什么。

例如输入"今天的天气真"，模型经过计算后，"好"字的概率最高，于是输出"好"。它不循环、不记忆之前算过几次、不自己决定什么时候停止——它只管这一次计算。

关键认知：大模型 = 输入一段话 → 经过一次计算 → 给出最可能的下一个字

2.2 参数规模的三次跃迁

AI 模型的发展经历了三个阶段：

① 机器学习时代 最早的模型很小。最简单的一元线性模型只有两个参数，模型就是一条线。逻辑回归、随机森林、支持向量机（SVM）都属于这个时期。每个参数都可以用数学精确解释。

② 深度学习时代（约 2012-2020） 参数规模从千万级跃升到数十亿级。模型开始变成黑盒——我们无法精确解释每个参数意味着什么。CNN（卷积神经网络）和 RNN（循环神经网络）在这个时期统治了图像处理约 8-9 年。

③ Transformer 时代（2017 年至今） 2017 年 Google 团队发表《Attention is All You Need》，提出了 Transformer 架构，开启了大模型时代。参数规模达到百亿到万亿级。今天你用的所有热门产品——ChatGPT、Claude、DeepSeek、Gemini、通义千问——都属于这个时代。

2.3 关键概念

Embedding（嵌入） 把文字映射到高维向量空间，变成坐标（数字）。这是 LLM 训练的基础技术——要让计算机处理文字，首先得把文字变成它能算的数字。

多模态 把文字、图像、声音、视频等各种形式的信息都转化为数字，用于训练或推理。计算机本质上只能计算数字，而大模型本身就是一大堆数字——所以理论上任何能被数字化的信息都可以被模型理解。

参数规模 参数越多通常模型越强，但训练和运行成本也越高。训练一个大模型极其耗时耗算力，成本轻松上亿美元，业界平均训练周期约 70 天。所以目前只有头部科技公司有能力自己训练模型。

三、第二层：推理控制层

3.1 推理控制器——让模型循环工作

大模型只管一次计算，那"逐字生成一整段话"是怎么做到的？答案是推理控制器。

推理控制器的工作流程如下：

1. 把用户输入发给模型 → 模型输出下一个字
2. 把原输入 + 新输出的字拼接 → 再次发给模型 → 模型再输出下一个字
3. 如此循环，直到模型输出结束符或达到最大长度限制（max_tokens）
4. 把完整结果打包返回

可以这样理解：模型是引擎，推理控制器是司机。引擎只管出力（一次计算），司机管启动、循环、换挡、熄火（让引擎真正干活）。

3.2 API 盒子——封装对外服务

推理控制器 + 模型整体对外封装成一个 API 接口，就像一个有固定输入输出的盒子：

输入部分：

• model：选择哪个模型（deepseek、gpt-4、claude-sonnet 等）
• messages：对话内容，包括系统提示词（system）、用户问题（user）、历史回答（assistant）
• parameters：参数设置，如 max_tokens（最大输出长度）、temperature（温度，控制随机性）
• tools（可选）：需要给模型使用的工具定义

输出部分：

• content：模型生成的回答
• finish_reason：停止原因（stop 正常结束 / length 达到上限 / tool_calls 要调用工具）
• usage：本次调用消耗的 token 数量（prompt_tokens + completion_tokens = 费用）

关键认知：ChatGPT、Claude、DeepSeek——你用的所有 AI 产品，最终都是调这个 API 盒子，传的就是这些字段。

演进线索：网络（静态参数）→ 推理控制器（让它循环）→ API（封装成服务）

四、第三层：应用层

第三层是分享的重点，也是最精彩的一层。近几年此起彼伏的各种 AI 概念和产品都集中在这一层。

但务必记住前面两层的结论：API 本质就是输入一段内容，输出一段内容。所有上层能力都是在此之上构建的。

4.1 Agent 公式

Agent（智能体）就是在 API 外面加了几个要素拼出来的：

Agent = LLM + 系统提示词 + 工具 + 记忆 + 循环

就这么几个要素，排列组合玩出各种产品形态。

4.2 记忆是怎么来的

需要区分两个概念：

• 模型"懂知识"：模型知道历史、法律等常识，是因为这些数据在训练阶段已经内化进了网络参数——这和"记忆"是两码事
• 模型"有记忆"：指它知道你是谁、记得你上一轮问了什么——其实 API 本身没有这个能力

多轮对话的记忆靠的是程序在背后拼接历史：

• 第一轮：Q1 → 调 API → 得到 A1
• 第二轮：把 Q1 + A1 + Q2 一起发给 API → 得到 A2
• 第三轮：把 Q1 + A1 + Q2 + A2 + Q3 一起发给 API → 得到 A3

不是模型记得你，是程序在帮你翻历史记录。

4.3 上下文窗口与压缩

历史一直拼下去，一次能发的内容是有限的——这个上限叫上下文窗口（Context Window），即模型一次能接收的最大输入长度。例如 Gemini 支持 1 亿 token 的超长上下文。

窗口满了怎么办？策略在持续进化：

• 早期：直接截断，满了就砍最早的对话
• 后来：压缩/总结，用摘要代替原文
• 现在：更精细的策略，如分层记忆管理

一个值得注意的现象是上下文污染——你在同一个会话里写代码、问历史、聊语文，所有内容一直留在上下文中，必然对后续回答产生干扰。

4.4 工具调用——给 Agent 装上手脚

Agent 不仅能说，还能做。系统提示词里写明有哪些工具可用，当模型判断需要调用工具时，API 返回的不是文字，而是工具的参数。

程序收到后执行工具，把结果拼回上下文，再发给 API 继续推理。例如用户问"北京今天穿什么"：

1. 模型判断需要查天气 → API 返回"调用 web_search，关键词：北京天气"
2. 程序搜索天气 → 将结果塞回上下文
3. 模型基于气温、天气等信息生成穿衣建议

常见工具包括：Web 搜索、Bash（终端操作）、代码执行（Python/Node 等）。

4.5 MCP——工具调用的统一协议

工具越来越多，接口五花八门——谁来定个标准？

MCP（Model Context Protocol） 由 Anthropic 于 2024 年提出，目的是统一模型调用工具的接口。可以类比 USB：不管背后是什么设备，插上同一接口就能用。

当前 VS Code、JetBrains、LangChain 等主流工具均已接入 MCP。此外还有 OpenAI 的 Function Calling 格式、Google 的 A2A 协议等，了解即可。

4.6 上下文工程——有限的上下文里放什么

前面讲到的记忆、上下文窗口、工具调用、MCP 等，都指向同一个问题：有限的上下文里放什么、怎么放？

这个方向被称为上下文工程（Context Engineering）。需要编排进上下文的要素越来越多：

• 系统提示词（Prompt）
• 行为规则（Rule / Soul）
• 历史记忆（Memory）
• 工具返回结果
• 多轮对话历史

这是当前 AI 应用层最活跃的方向之一。Skill、Soul、Hermes 等热门概念/产品本质上都在解决这个问题。

4.7 完整的 Agent 流程（ReAct 框架）

一个完整的 Agent 工作流程如下：

1. 用户输入需求
2. 拼接系统提示词 + 用户需求 + 历史 → 调用 API 推理
3. LLM 判断是否需要调用工具
   • 不需要 → 直接输出结果
   • 需要 → 返回工具参数 → 执行工具 → 结果拼回上下文 → 回到第 2 步继续推理
4. 重复直到任务完成

这个"思考 → 行动 → 观察 → 再思考"的循环机制，就是 ReAct 框架。

Claude Code、Cursor、Trea、WorkBuddy 等所有 Agent 产品底层都是这个循环。

4.8 Harness 工程——在通用循环上做赛道设计

前面讲的上下文工程、工具调用、MCP，本质都属于 Harness 工程（Harness 英文原意是马鞍）。

用车来类比更直观：大模型 API 就是各种型号的发动机。 设计一辆好车（做一个 AI 产品）需要考虑：

1. 贴合发动机型号：系统提示词要符合这个模型的"脾气"
2. 不同场景设计天差地别：跑车还是挖掘机？二者搭载的工具和交互体验完全不同
3. 三个核心问题：输入编排（上下文工程）、工具接入（MCP/Function Calling）、交互体验（流式输出、思考过程、中断恢复）

总结：这节课从底层到顶层讲的所有内容，最终都汇聚到 Harness 工程。Harness 工程师 = 在通用 Agent 循环上做赛道设计。

五、展望与总结

三层的进化空间

AI 的进化从未停止，每一层都有各自的方向：

• 模型层：更好的网络架构、更多优质训练数据，持续提升模型的感知、推理和行动能力
• 推理控制层：让模型更高效、更便宜。比如从一次预测一个字到一次预测十个字来降低成本。硬件层面，GPU 基本被英伟达垄断，Google 在做 TPU，国内华为昇腾、寒武纪也在设计专用芯片
• 应用层：百花齐放，离业务场景最近，概念层出不穷

一个类比

发动机出现后，随着各项技术突破，陆续有了拖拉机、摩托车、跑车、轮船、飞机、火箭。

ChatGPT 从 2022 年底出现到现在，才 3 年半——在发动机的 timeline 上，连拖拉机还没造明白。未来一定还会出现各种新东西，有了"三层"这个认知框架，以后再看到新概念、新产品时，能更从容地理解它在哪个层面、解决什么问题。

扩展资源

推荐阅读

① Cursor 官方文档——How AI Models Work 一篇带交互式可视化的 LLM 入门文章，讲解大语言模型的内部工作原理——Token、Transformer、注意力机制、上下文窗口等概念，配合图示非常直观。 👉 https://cursor.com/cn/learn/how-ai-models-work

② Learn Claude Code——Agent / Harness 工程入门 一个中文教程项目，从 Claude Code 入手讲解 Agent 工作原理、工具调用、上下文工程等，本文第三层的很多概念在这里有完整实战演示。 👉 https://github.com/shareAI-lab/learn-claude-code/blob/main/README-zh.md

社区项目

③ OpenRise——AI 应用平台 分享中演示的开源项目。可以定义角色、配置工具、运行 Agent 流程，讲义中讲到的系统提示词、工具调用、上下文拼接等概念在这里都能实际动手体验。

感兴趣可以下载试试，项目还在快速迭代中，可能有小 bug，欢迎交流反馈。 👉 https://github.com/Ing-la/open-rise/releases/tag/v0.1.0

一个人探索有局限，大家一起交流分享。欢迎加入 01-builders。