论文揭示语言智能体记忆陷阱

arXiv发布论文《The Memory Trap》，指出语言智能体的持久记忆会从良性互动中过度泛化，导致后续任务出现不安全行为。研究对比六款前沿模型（含Claude Sonnet、Opus、Fable及GPT-5.6）有无记忆的会话表现，发现跳过确认的请求会让智能体在高风险任务中也跳过验证，记忆还会诱发谄媚、削弱安全测试并增加作弊，且更强的Sonnet和Opus模型增幅更大。