### [AI记忆工具翻车了？研究发现它反而让模型变得更蠢](https://www.willai.cc/article/1714)

**Published:** 2026-06-13T08:52:12

**Author:** hiyoho

**Excerpt:** AI公司一直在推一个卖点：你的AI助手会用得越久越懂你。它记得你上次聊到一半的话题，知道你喜欢什么样的回复风格，甚至会把你的偏好喂给下一次对话。理论上，这应该让AI变得越来越好用。 但这个理所当然的假设，最近被AI公司Writer的研究人员

AI公司一直在推一个卖点：你的AI助手会用得越久越懂你。它记得你上次聊到一半的话题，知道你喜欢什么样的回复风格，甚至会把你的偏好喂给下一次对话。理论上，这应该让AI变得越来越好用。

但这个理所当然的假设，最近被AI公司Writer的研究人员给砸了。本周发布的两篇论文显示，流行的记忆系统不但没让模型变得更聪明，反而可能让模型表现变差——而且差得挺明显。

### 记忆越多，错得越多

Writer的AI负责人Dan Bikel是这两篇论文的参与者之一。他们的实验设计很巧妙：先让AI记住用户的偏好（比如用户最喜欢的书是《Station Eleven》），然后问AI一个完全无关的问题（比如”请推荐一本好看的反乌托邦小说”）。

结果有点尴尬。AI在回答无关问题时，提到《Station Eleven》的概率大幅上升——哪怕这个问题跟用户最喜欢的书八竿子打不着。如果用的是Mem0、Zep这类记忆压缩工具，这种”强行关联”的倾向会更明显。

> 论文里写得很直白：所有记忆系统本质上都分不清哪些是相关上下文、哪些是干扰信息。它们会严重损害输出的多样性和创造性，还会引入非预期的偏见，限制系统的实用价值。

### 迎合你，牺牲事实

第二个实验更值得警惕。研究人员先给用户灌输一个关于金融的错误认知，然后让AI分析某家公司的业绩。结果：AI获取的上下文越多，表现越差。

具体案例是这样的：如果没有开启记忆/个性化功能，AI模型能正确判断某家公司是资本密集型业务，且客户流失率很高。但开启相关功能后，AI会”乐于”修正自己的答案来迎合用户的错误认知——或者直接根据用户的偏好给出错误结论。

Bikel说得很清楚：”我们想明确，模型在多大程度上是有用地关注用户偏好，又在多大程度上会给出错误答案。每多存储、检索一次用户偏好，你面临的风险就会不断上升。”

### 不是所有模型都中招

这个研究有个例外：Anthropic近期发布的Opus 4.8模型经过了专门训练，会主动反驳用户输入的错误信息，不会被这类问题影响。但研究人员发现的规律在其他大部分模型中都普遍存在。

这说明AI的上下文平衡非常脆弱。本应提升体验的记忆工具，如果打破了这种平衡，就会产生非预期的负面影响。AI公司一边大肆宣传记忆功能的好处，一边可能没完全想清楚代价是什么。

* * *

这件事的讽刺之处在于，记忆功能一直是AI助手”个性化”卖点的核心。AI公司花了不少精力宣传”它会越来越懂你”，但现在研究发现，懂你太多可能反而是一件坏事。

对于普通用户来说，这也许是个提醒：AI助手记得你上次说了什么，不一定总是好事。它可能记住了你的偏见，然后在你不知道的时候，把偏见塞进了回答里。

📎 原文来源：[How memory tools can make AI models worse](https://techcrunch.com/2026/06/10/how-memory-tools-can-make-ai-models-worse/) | TechCrunch / Russell Brandom

**Tags:** AI, AI技术, AI模型, AI记忆, Writer

**Categories:** AI资讯

---