当前位置:首页 > 热门资讯

ChatGPT 给你写的画像,96% 不是你让它记的

【导语】论文数据对照官方文档,给你一套 10 分钟能做完的记忆体检流程,包含可以直接粘贴的提示词。

这篇论文的数据从哪来

论文标题是《The Algorithmic Self-PortrAIt: Deconstructing Memory in chatGPT》,作者来自德国马普软件系统研究所、波鸿鲁尔大学、代尔夫特理工等机构,2026 年 4 月收录进 WWW 2026(迪拜,页码 3471-3482),2 月先挂在 arXiv 上,编号 2602.01450。11 月初被中文媒体翻出来重新报道,所以这轮讨论的对象是一份半年前的研究,今天并没有新功能上线。

数据来源不是抓包也不是截图,是 80 位用户按 GDPR 第 15 条向 OpenAI 申请的个人数据副本,自愿捐给研究项目。研究者从导出文件里筛出内部 bio 工具的写入记录,得到 2050 条记忆,散落在 1058 段对话、22971 轮问答中。

中文报道普遍漏了一个数字:这 80 人里只有 65 人有记忆。剩下 15 人一条都没有,占 18.75%,而他们全部来自 Prolific 招募、自报经常使用 ChatGPT、并且至少有 100 段对话和 90 天活跃记录。

  • 样本构成:美国 33.75%、欧洲 62.5%,招募门槛为 100 段对话 + 90 天活跃
  • 2050 条记忆 ÷ 65 人,平均每人 31 条
  • 2050 条记忆 ÷ 22971 轮提问,约 8.9% 的提问触发了记忆写入
  • 记忆写入走的是内部 bio 工具,记录里带 model set context updated 字样

4% 是你要它记的,96% 是它自己判断的

研究者做了一张触发词表(remember、note that、save、forget、记住、保存、忘记等),逐条回溯 2050 条记忆对应的用户原话。命中明确指令的只有 84 条,占 4.1%。剩下 95.9% 的写入,是模型自己判断「这条以后有用」之后存下来的。

这不违反 OpenAI 公布的规则。官方记忆文档里写明允许保存模型认为对未来对话有用的信息。规则没破,落差在体感上:你以为主动权在自己手里,实际是模型在挑,你只能通过「说什么」间接影响它「记什么」。

真要控住,只能从输入侧下手。论文顺带给了个方向:把「我真的需要戒烟吗」改成「戒烟有哪些策略」,去掉第一人称和自我承认,被记成「用户吸烟」的概率就下来了。

记忆里装了什么:28% 个人数据,52% 心理推断

研究者按 GDPR 第 4(1) 条(个人数据)和第 9(1) 条(特殊类别个人数据)给 2050 条记忆逐条打标,结果和「不主动记录敏感信息」的承诺有明显距离。

  • 28% 的条目含 GDPR 定义的个人数据,其中 41% 出现姓名
  • 7% 的条目含特殊类别数据,这类里 61% 是健康信息
  • 91% 的参与者至少有一条含个人数据的记忆,35% 的人被存了健康相关信息
  • 52% 的条目含心理状态推断,欲望占 73%、意图占 16%,情绪和瞬时感知只占两成

它记的不是你说过什么,是你怕什么

论文举的原例是「某某对失败有恐惧,尤其涉及重大职业决策」。这句话已经跳出事实记录,变成对「用户是什么人」的判断。用人格心理学的说法,广告平台刻画的是行为轮廓(你做了什么),记忆刻画的是特征性适应(你是谁)。

欲望和意图合计近九成,说明模型偏爱稳定特征,对一次性的情绪波动兴趣不大。这个偏好本身不难理解:稳定特征对下次对话更有用。代价是,你在某个晚上随口说的一句丧气话,可能被固化成一个长期标签。

好消息:84% 的记忆能找到原文

溯源用了三种方法交叉验证:字符串匹配、语义嵌入相似度、GPT-4o 五点量表。84% 的条目能在完整对话历史里找到直接文本重叠。量表打分里,77% 被评为「直接陈述」或「转述总结」,14% 属「逻辑推断」,5% 属「证据薄弱」,4% 属「无依据或矛盾」。

这个结论要反过来读:画像大部分是准的。所以风险不在它凭空编造,在它准确记下了你不想被长期保留的东西,然后拿这份画像影响后面每一次回答。一幅不忠实的画像只是不准,一幅忠实的画像会持续生效。

样本边界也得说清。80 人、集中在欧美、靠 GDPR 导出路径拿到数据,这批人的隐私态度不能代表全球用户,论文结尾自己也承认了。96%、28% 这些比例是这 2050 条记忆内部的分布,不是全体用户的画像比例。把它当成「每个用户都有 96% 被偷记」会读错。

三步自查:先看它到底记了你什么

官方文档给出的路径是 Settings → Personalization → Memory,中文界面为「设置 → 个性化 → 记忆」。进去先看记忆摘要,再看具体条目。

  • 第 1 步:点头像 → 设置 → 个性化 → 记忆,确认 Memory 和两个「引用」开关的当前状态
  • 第 2 步:打开「记忆摘要(Memory summary)」,通读一遍,标出明显记错和已经过时的条目
  • 第 3 步:直接在对话框里问「把你记得关于我的信息按条列出来,标注哪些是我明确说过的,哪些是你推断的」
  • 补充:回复下方出现「来源(Sources)」时点开,能看到这条个性化内容来自哪段聊天、哪条已保存记忆或哪个文件

摘要只是概览,别把它当全部

官方文档写得很直白:记忆摘要不一定包含全部细节,也不一定给出来源。也就是说,摘要看得再仔细,也可能漏掉模型实际能用上的信息。第 3 步的直接提问不能省,两边的结果对一遍,差额就是你要重点处理的部分。

四个开关,别再只关一个

现在设置页里的记忆控制项不止一个,不同套餐、地区、平台显示的名字和数量不一样。能看到哪几项就对照哪几项,作用分别是:

  • Memory(记忆):总开关,关掉后不再生成新记忆,但历史聊天照旧保留
  • Reference saved memories(引用已保存记忆):控制是否调用你明确保存过、或系统存下来的记忆条目
  • Reference chat history(引用聊天记录):控制是否从过往对话里临时取信息做个性化;关掉后,从历史中学到的内容会在 30 天内从 OpenAI 系统删除,原始聊天不动
  • Memory summary(记忆摘要):只影响摘要的展示与编辑,不等于关掉记忆本身

两个「引用」开关有依赖关系

关掉「引用已保存记忆」会同时关掉「引用聊天记录」,反过来不成立。想彻底切断个性化输入,两个都要手动关。只想保留写作风格、常用背景这类长期设定,就关掉聊天记录引用、留下已保存记忆,然后手动维护条目。

删聊天记录,不等于删记忆

已保存记忆和聊天历史是分开存储的两套东西。删掉原始对话,不会连带删掉从那段对话里提取出来的记忆条目,这是最常见的误判。

  • 彻底清掉一条信息要同时做四件事:删记忆条目、删最初提到它的那段聊天、删 Library 或 Space 里的相关文件、断开带这条信息的关联应用
  • 「不再提及(Don't mention this again)」只是减少以后引用,不删原始来源
  • 「删除并关闭记忆(Delete and turn off memory)」会删摘要里的记忆并关掉总开关,同样不动聊天记录
  • OpenAI 说明出于安全和调试需要,已删除的已保存记忆日志最多保留 30 天

临时聊天和两个容易搞错的细节

临时聊天(Temporary Chat)不会创建或更新记忆,前提是开始时选了不使用记忆和自定义指令的那一档(Unpersonalized),而且开始之后不能改。把临时聊天保存下来,它就转成普通聊天,之后照样可能被用来做个性化。

还有个更隐蔽的点:关掉记忆不删历史聊天,重新打开后模型可能从留存的聊天里重新生成记忆。关了又开,画像会回来。企业版另有「仅项目记忆(Project-only memory)」,把记忆限制在单个项目内,项目之间不能互相引用,适合把工作咨询和私人对话分开的人。

一段能直接用的审计提示词

论文配套的提示词有二十多项,日常自查用不着那么长。下面这版 5 个问题够用,粘进对话框即可:

  • 1. 列出你当前存储的关于我的记忆,逐条编号,不要合并同类项
  • 2. 标出哪些是我明确要求你记的,哪些是你自己判断有用的
  • 3. 列出你对我性格、职业、健康、情绪的推断,并说明依据来自哪一次对话
  • 4. 指出你认为可能记错、已经过时或证据不足的条目
  • 5. 不要为了让我舒服而省略不好听的推断,不确定就写不确定

第 5 句是关键,删之前先想清楚

不加最后那句,模型会倾向挑好听的说,审计直接失效。拿到清单后,逐条处理比一键全清更有用:全清之后它还会从历史聊天里重新长出来,而逐条纠正相当于给它留了一份正确的底稿。

真正需要立刻删的只有四类:健康诊断、家庭关系、财务状况、职业去留。这四类一旦被固化,会在你下次随口提问时变成前提条件,把回答带偏。

多久查一次,什么情况下该关

没有统一答案,按使用习惯分档更实际。

  • 每季度一次例行检查,重点看上面那四类条目
  • 把 ChatGPT 当工作顾问的,关掉「引用聊天记录」,只留手动保存的记忆,条目自己维护
  • 拿它当情绪出口的,两个引用开关全关,这类对话改放临时聊天
  • 需要长期个性化的(写作风格、常用背景),留已保存记忆,别开聊天记录引用

一个土办法判断某条记忆该不该留

如果你不愿意把这条记忆念给同事听,它就不该长期待在里面。模型的记忆没有过期概念,三个月前的一句自嘲,年底还会被当成你的性格特征使用。花 10 分钟清一遍,比事后解释划算得多。

关注格熊,持续分享最新免费资源!

  • 随机文章
  • 热门文章
  • 热评文章

扫描二维码推送至手机访问。

版权声明:本文由格熊发布,如需转载请注明出处。

免责声明:本站收集的内容,都来自网络,版权争议与本站无关。

本文链接:https://gexiong.com/rmzx/841.html

分享给朋友:

相关文章

微信内测新功能,单向好友检测将至!

微信内测新功能,单向好友检测将至!

早在一个月前,2021年4月23日微信就公布了申请日为2019年10月22日的一项全新的功能专利:“社交账号的单向好友检测方法、装置、介质和计算机设备”。没想到一个简单的微信操作还需要申请专利,而且2019年就申请了,现在才公布,难道这个功能需要研究两三年?真是能磨叽,但是盆友们!它公布了!不就代表…

Windows 11 正式发布!从里到外焕然一新,还能用安卓!

Windows 11 正式发布!从里到外焕然一新,还能用安卓!

等了一周,Windows 11 终于来了。没错,新一代 Windows 系统就叫「Windows 11」;换句话说,上周的泄漏版确实是个“真料”。#数码科技要闻# 如果你体验过的话,应该不难发现,Windows 11 最大的变化就是视觉方面了。比如,…

【深度】阿里千问登顶全球榜首:大模型竞争进入新纪元

【深度】阿里千问登顶全球榜首:大模型竞争进入新纪元

2026年AI大模型领域迎来激烈竞争,阿里千问3.6 Plus首个单日破万亿Token登顶全球榜首,马斯克xAI挑战Faker,OpenAI陷入困境,国产AI迎来春天...…

AI加速时代:当技术迭代速度超越人类学习能力,普通人该如何应对?

AI加速时代:当技术迭代速度超越人类学习能力,普通人该如何应对?

深度分析AI加速时代普通人如何应对技术迭代焦虑,从放弃精通拥抱够用、培养AI协作思维、聚焦人之为人能力、建立T型知识结构四个维度给出策略,帮助读者在AI变革中找到自己的位置。…

OpenAI手机曝光!2028年量产,AI原生手机时代要来了?

OpenAI手机曝光!2028年量产,AI原生手机时代要来了?

OpenAI手机计划曝光,预计2028年量产,AI原生手机时代来临。结合豆包手机趋势,AI硬件赛道全面升温,深度解读两大AI巨头的手机战略。…

深度:中国AI席卷好莱坞——从幕后"打工"到台前"当家"的崛起之路

深度:中国AI席卷好莱坞——从幕后"打工"到台前"当家"的崛起之路

深度解析中国AI如何席卷好莱坞,从后期特效打工到全流程AI制作当家,国产AI工具正在改写全球影视工业格局。…

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。