12月5日，斯坦福大学社会媒体实验室的创始人兼虚假信息专家杰夫·汉考克在一份法庭文件中承认，他曾利用人工智能工具ChatGPT协助整理参考文献，但不慎产生了所谓的“幻觉”现象，即错误地引用了不存在的信息。这一事件引发了外界对文件可信度的质疑。
汉考克提交的宣誓证词旨在支持明尼苏达州的一项法案，该法案旨在禁止使用深度伪造技术干预选举。目前，该法案正面临联邦法院的挑战。挑战者包括保守派YouTuber克里斯托弗·科尔斯和明尼苏达州众议员玛丽·弗兰森，他们的律师发现汉考克的证词中存在不实引文，因此认为这份文件“不可信”，并要求在审议中排除这份证词。
汉考克承认了使用ChatGPT的事实，但坚称自己并未用它来撰写任何证词内容。他强调，自己亲自撰写并审核了证词，确信每一项主张都有最新的学术研究支持，并反映了他作为专家对人工智能技术在虚假信息传播及其社会影响方面的见解。
关于引文错误的问题，汉考克解释称，他通过Google Scholar和GPT-4来寻找与证词相关的学术文章，以便将个人知识与新的研究成果结合起来。他使用GPT-4生成了引文列表，但未能意识到该工具错误地生成了两条不存在的引文，以及为另一条引文错误地标注了作者。
汉考克表示：“我无意误导法庭或律师，对于由此产生的任何混乱，我深表歉意。尽管如此，我依然坚信证词中的所有实质性观点。”
此事件凸显了在利用AI辅助工作时，人工审核和验证的必要性。
