上下文窗口是什么?聊久了为什么会「忘」
导语
跟 AI 聊很多轮之后,它好像忘了开头说过的话——这不是故意装傻。
这是啥
**上下文窗口** = 模型单次能读入的最大文本量(按 Token 算)。
你发的消息、它的回复、系统说明,全都占这个额度。
为啥重要
- 窗口越小,长对话越容易「失忆」
- 贴超长 PDF 可能只读到一部分
- 选模型时要看看「128K」「200K」这类标称
怎么用
- 长项目开新对话,用摘要把关键背景重新贴一遍
- 重要约束(格式、禁忌)放在**最近几条消息**里重复强调
- 全书总结先分段,再让 AI 合并小段摘要
注意
- 标称窗口是上限,不是保证每次都精准利用
- 越早的内容在超长对话里权重往往越低
三句话总结
1. 上下文窗口 = AI 一次能看多少字。
2. 太长就会挤掉旧内容,表现为「忘了」。
3. 长任务要分段、要摘要、要新开对话。