AI上下文与记忆

AI上下文

AI背后是大模型，大模型都是无状态的，就是大模型本身并不会记住用户，他每次回答或生成视频语音都需要根据当前输入重新计算。上下文就是AI在回答问题时，能够看到的全部信息。

比如你问：

帮我继续修改刚才那个方案。

AI之所以知道“刚才那个方案”是什么，是因为前面的聊天内容还在当前的上下文中。

大模型为什么需要上下文？

大模型本身是无状态的。

简单理解：

每次调用大模型，都可以看成一次新的计算。

大模型负责理解和生成，但不负责长期保存信息。

为什么聊天时AI看起来有记忆？

因为聊天系统会把前面的对话重新发送给模型

例如：

第一次：

用户：我的职业是设计师

AI：好的

第二次：

用户：根据我的职业给我推荐一些AI工具

实际发送给模型的内容可能类似：

用户：我的职业是设计师。

AI：好的。

用户：根据我的职业给我推荐一些AI工具。

所以模型能理解：

“我的职业”指的是设计师。

这就是：对话上下文

并不是真的把这件事情永久记住了。

为什么AI需要记忆

AI背后是大模型，大模型都是无状态的，就是大模型本身并不会记住用户，他每次回答或生成视频语音都需要根据当前输入重新计算。AI记忆实际上是在大模型之外增加了一层信息保存的能力。

AI智能体本质上很大一部分就是在处理这些记忆，怎么合理的结构化调度记忆决定了智能体的能力。

上下文里通常有什么

系统提示词（System Prompt）

他告诉AI：

• 你是谁
• 应该怎么工作
• 有什么规则
• 输出应该是什么样子

系统提示词通常有AI产品或智能体开发者设置。

用户提示词（User Prompt）

用户当前发送给AI的信息

例如：

这是我的销售数据，请分析销量下降的原因。

这是当前任务最直接的数据。

助手回复（Assistant Message）

大模型生成并返回的内容

所以一轮完整对话实际上是：

System Message

系统消息

↓

User Message

用户消息

↓

Assistant Message

助手消息

聊很多之后：

System

系统消息

↓

User

用户消息1

↓

Assistant

助手消息1

↓

User

用户消息2

↓

Assistant

助手消息2

↓

User

用户消息3

这些消息组合到一起，就构成了当前对话的 Context（上下文）。

AI记忆

记忆通常保存在大模型之外，过去哪些重要的信息需要以后继续使用

简单的理解：

AI记忆就是把重要信息保存下来，在以后需要的时候重新放进上下文。

比如系统保存：

用户职业：设计师

喜欢：简洁回答

正在做：品牌设计项目

下次用户回来：

帮我设计一个工作流程。

系统可以把这些记忆重新提供给大模型。

于是大模型得到：

用户是一名设计师

喜欢简洁回答

正在做品牌设计项目

当前问题：

帮我设计一个工作流程。

短期记忆

短期记忆指：

AI在当前一次对话中，可以看到和理解的上下文信息。

简单理解：

就是 AI 当前聊天窗口里的“临时记忆”。

短期记忆包括什么？

当前聊天内容

用户：

我想开发一个电商网站。

AI知道：

• 你正在做电商网站
• 后续问题都和这个项目有关

前面的对话内容

用户：

使用 React 开发。

后面：

那状态管理怎么选择？

AI知道：

你前面选择了 React。

当前上传的信息

例如：

上传：

• PDF文件
• 图片
• Word文档

AI可以根据这些内容回答。

短期记忆特点

优点：

• 反应快
• 适合当前任务
• 不需要额外保存

缺点：

• 对话结束后可能消失
• 有上下文长度限制

例如：

聊天太长：

前面的内容可能被压缩或者丢失。

长期记忆

长期记忆指：

AI主动保存用户长期有效的信息，并在未来对话中使用。

简单理解：

就是 AI 的用户档案。

长期记忆保存什么？

用户身份信息

用户身份信息：

• 职业
• 技术背景
• 工作领域

例如：

用户是一名软件开发工程师。

用户偏好

例如：

用户喜欢直接、简洁的技术回答。

长期项目

例如：

用户正在制作 AI 应用课程。

长期记忆特点

优点：

• 跨对话使用
• 减少重复介绍
• 提供个性化服务

缺点：

• 需要用户授权
• 需要管理保存内容