678CHAT AI资讯 AI 能给你洗脑?MIT 研究:大模型能植入错误记忆!

AI 能给你洗脑?MIT 研究:大模型能植入错误记忆!

人工智能在人类记忆中扮演的角色愈发复杂——MIT的一项突破性研究揭示了这一点。该研究通过模拟犯罪场景的证人访谈,发现先进的AI系统能够以惊人的效率植入虚假记忆,其效果远超传统方法。

AI 能给你洗脑?MIT 研究:大模型能植入错误记忆!插图

在社交媒体上,这一发现引发了热烈讨论。一位网友指出:“这不禁让人联想到,我们日常生活中可能已经不知不觉地被AI所影响。”

“这简直就像是《银翼杀手》中的场景,只不过发生在现实中。”

另一位网友则表现出了对未来可能性的好奇:“这听起来既新奇又令人兴奋,就像是科幻小说中的场景。”

“这太令人不安了,我们对AI的控制力正在逐渐减弱。”

AI如何塑造人类记忆

为了深入探究AI对人类记忆的影响,研究团队招募了200名志愿者,并将其随机分配到四个不同的实验组中:

  • 对照组:志愿者直接回答问题,未受到任何外部影响。

  • 问卷组:志愿者填写包含误导性问题的调查问卷。

  • 预设脚本机器人组:志愿者与预设脚本的聊天机器人进行互动,机器人提出与问卷相同的问题。

  • AI模拟警察组:志愿者与一个先进的AI系统进行对话。

每组志愿者在观看一段视频后,需要回答25个问题,其中包含5个误导性问题,以此来评估他们的记忆准确性和虚假记忆的产生。

AI 能给你洗脑?MIT 研究:大模型能植入错误记忆!插图1

一周后,研究者再次邀请这些志愿者回答问题,并对比两次调查的结果。

结果显示,AI模拟警察组在植入虚假记忆方面的效果显著优于其他组别。

这一现象的背后原因在于AI系统能够根据志愿者的回答提供即时反馈和正面强化,这种互动方式极大地促进了错误信息的接受和虚假记忆的形成。

例如,当志愿者对问题的回答出现错误时,AI系统可能会确认这些错误细节并给予积极的反馈,从而加深了这些错误记忆的印象。

此外,AI系统还会巧妙地设计误导性问题,如询问“抢劫者是否驾驶车辆到达现场”,尽管实际上抢劫者是步行到达的,这样的问题直接影响了志愿者的记忆重构。

哪些AI更擅长“训练”人类?

在实验中,AI模拟警察组在植入虚假记忆方面的表现尤为突出。

实验数据显示,AI模拟警察组诱导的虚假记忆数量是对照组的三倍,同时比问卷组和预设脚本机器人组分别高出1.7倍和1.4倍。

更令人惊讶的是,与AI模拟警察互动的志愿者对虚假记忆的信心水平是对照组的两倍,即使在一周后,这些虚假记忆仍然清晰地留在他们的脑海中。

研究者还发现,对AI技术有一定了解但不熟悉大模型的志愿者,以及对犯罪调查感兴趣的志愿者,更容易受到虚假记忆的影响,这表明个体差异在虚假记忆形成中扮演了重要角色。

研究人员强调,人类的记忆并非一个简单的信息回放过程,而是一个动态的构建过程,容易受到外部信息的塑造。

AI 能给你洗脑?MIT 研究:大模型能植入错误记忆!插图2

通过引入错误信息,AI系统利用了这一特性来改变用户的记忆,植入新的记忆,从而使用户相信这些虚假的细节。

本文来自网络,不代表678CHAT立场,转载请注明出处:https://www.678chat.com/ai/1963.html

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

返回顶部