678CHAT AI资讯 超六成AI聊天机器人回答出错,新闻可信度遭质疑

超六成AI聊天机器人回答出错,新闻可信度遭质疑

一项由哥伦比亚新闻评论的数字新闻中心开展的最新研究揭示了一个令人不安的现象:当下流行的AI搜索工具在回答问题时,有超过60%的概率给出不正确或具有误导性的信息。这一发现极为关键,因为这些工具不仅在悄然侵蚀公众对新闻报道的信任,还让出版商陷入了流量与收入的双重困境。

超六成AI聊天机器人回答出错,新闻可信度遭质疑插图

在此次研究中,研究人员对包括ChatGPT、Perplexity、Gemini和Grok在内的八款生成式AI聊天机器人进行了测试,要求它们识别来自200篇最新新闻文章的摘录。然而,测试结果显示,这些聊天机器人给出的超过60%的回答都是错误的。它们常常随意捏造标题,不引用文章原文,或者引用未经授权的内容。即便能够正确指出发布者,链接也往往指向失效的URL、转载版本,甚至是与内容毫无关联的页面。

更令人感到失望的是,这些聊天机器人在回答问题时很少表现出不确定性,反而以一种不当的自信姿态提供错误答案。以ChatGPT为例,在200个查询中,它提供了134条错误信息,却仅有15次表现出怀疑。即使是需要付费使用的Perplexity Pro和Grok3,其表现也并不理想,错误答案的数量更高,尽管它们的月使用费用分别高达20美元和40美元。

在内容引用方面,情况同样不容乐观。多个聊天机器人未能遵循出版商的限制,甚至有五款聊天机器人忽视了被广泛接受的机器人排除协议。例如,Perplexity曾在出版商明确限制其爬虫的情况下,错误地引用了国家地理的文章。而ChatGPT则通过未经授权的Yahoo新闻,重新引用了USA Today的收费墙内容。

此外,许多聊天机器人还会将用户引导至AOL或Yahoo等平台的转载文章,而非原始来源,即使在已经与AI公司达成授权协议的情况下也是如此。例如,Perplexity Pro引用了德克萨斯论坛的转载版本,却没有给出应有的署名。Grok3和Gemini则常常发明URL,其中Grok3的200个回答中有154个链接至错误页面。

这一研究凸显了新闻机构所面临的日益严重的危机。如今,越来越多的美国人开始将AI工具作为获取信息的主要来源。与传统的搜索引擎Google不同,聊天机器人并不会将流量引导至新闻网站,而是在没有提供链接的情况下自行总结内容,这直接导致出版商失去了广告收入。新闻媒体联盟的丹妮尔・科菲警告称,如果不对这些爬虫进行有效控制,出版商将无法有效地“变现有价值的内容,或支付记者的薪水”。

在研究人员联系了OpenAI和微软之后,尽管这两家公司对自己的做法进行了辩护,但对于具体的研究发现却未作回应。OpenAI表示,它“尊重出版商的偏好”,并致力于帮助用户“发现优质内容”,而微软则声称其遵循“robots.txt”协议。然而,研究人员强调,错误的引用做法是一个系统性问题,并非个别工具所独有的现象。因此,他们呼吁AI公司必须改善透明度、准确性和对出版商权益的尊重。

划重点:

📊 研究表明,AI聊天机器人的回答错误率高达60%以上,这对新闻的可信度构成了严重威胁。

📰 多款聊天机器人无视出版商的限制,频繁引用未授权内容和错误链接。

💰 新闻机构正面临流量和收入的双重危机,而AI工具的流行正在逐渐取代传统搜索引擎的地位。

搜索结果来自:
AI搜索工具的自信背后:引用错误率高达60%! - 搜狐 - https://www.sohu.com/a/871680634_122004014
多款AI搜索错误率高达60%,别把AI当权威|合规周报(182期) - https://finance.sina.com.cn/roll/2025-03-16/doc-inepwafm4456568.shtml
AI搜索风靡,但高达60%引用出错,付费版甚至更糟 - C114+ - https://www.c114.net.cn/ai/164493.html
AI搜索工具崛起背后的隐患:错误率高引发关注 - 万维易源 - https://www.showapi.com/news/article/67d7aa174ddd79cc780048e4
AI搜索风靡,但高达60%引用出错!付费版甚至更糟 - https://zhuanlan.zhihu.com/p/30688063465
多款AI搜索错误率高达60%,别把AI当权威|合规周报(182期) - https://www.21jingji.com/article/20250316/herald/7095cfab53b2c9d2aa62af495f234ac8.html
哥伦比亚大学研究:AI 搜索工具平均准确率仅六成,且自信满满“不认错” - https://www.ithome.com/0/837/582.htm
AI 搜索引擎错误率超60%,CJR 研究揭示引用问题- 全球简讯- 维度网 - https://www.wedoany.com/zh-cn/shortnews/7pBjaWpm.html
惊人发现:AI搜索工具准确率仅60%,错误自信成隐忧 - 新闻- 搜狐 - https://news.sohu.com/a/870503635_122004016
聊天的艺术:如何打造高情商的AI机器人? - https://new.qq.com/rain/a/20250305A042BQ00
中外概览:中国AI翻车:DeepSeek在新闻测试中准确率仅17%。DeepSeek的聊天机器人刚刚在NewsGuard的审校中惨遭失败,在11个聊天机器人中排名第10,失败率为83%。

它在30%的时间里重复错误的说法,并在超过一半的情况下给出模糊或无用的答案。

相比之下,DeepSeek的西方竞争对手的失败率为62%,尽管该公司声称其AI能够以更低的成本媲美OpenAI,但现实显然并非如此。

更糟糕的是,即便在与中国无关的问题上,DeepSeek仍然重复中国媒体的宣传口径。对于一个标榜“高效”的AI来说,准确性显然并不在其考量范围内。信息来源:路透社#谈谈当前的AI# #ai怎么了# #人工智能分享# - https://www.toutiao.com/w/1822623058380874/
全面对标ChatGPT,Meta也要做AI聊天机器人 - https://new.qq.com/rain/a/20250304A090H800
BBC研究揭示:AI聊天机器人新闻总结错误频发,难以区分事实与观点_工具_准确性_信息 - https://www.sohu.com/a/858200082_121798711
核查 AI聊天机器人引导青少年自杀?因果难断! - https://new.qq.com/rain/a/20250223A0632600
谷歌或因对南非新闻媒体采取反竞争行为被罚数亿兰特 - https://new.qq.com/rain/a/20250225A064JG00
新闻行业现状及发展趋势 .pdf-原创力文档 - https://max.book118.com/html/2024/1128/8031036026007003.shtm
AI越聪明越会“胡编乱造”:新研究揭示大语言模型的可靠性危机!_技术_问题_OpenAI - https://www.sohu.com/a/812692629_121798711
美加州拟强制科技巨头为新闻付费,谷歌绝地反击互联网出版商_网易订阅 - https://www.163.com/dy/article/J0D8DGHV0553150T.html
AI搜索风靡,但高达60%引用出错!付费版甚至更糟 - https://new.qq.com/rain/a/20250316A038RO00
聊一下物理Ai和机器人 - https://new.qq.com/rain/a/20250309A043LU00
AI机器人成骚扰电话“帮凶”直击315晚会 - https://new.qq.com/rain/a/20250315A0836B00
AI对话,人类听不懂了!网友不安:这是机器人接管地球时的声音 - https://new.qq.com/rain/a/20250226A05YI000
青记观察丨“流量至上”时代的新闻业危机_佩特雷_工作_生产的 - https://www.sohu.com/a/503551246_121118712
记者困在流量考核系统中-虎嗅网 - https://www.huxiu.com/article/691491.html
浅析中国新闻报道的现状 - 360文档中心 - https://www.360docs.net/doc/01148631.html
流量多了但收入少了,疫情让美国地方报纸面临“灭顶之灾” - https://so.html5.qq.com/page/real/search_news?docid=70000021_9365e902aea23552&faker=1

本文来自网络,不代表678CHAT立场,转载请注明出处:https://www.678chat.com/ai/11884.html

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

返回顶部