在数字化浪潮中，AI技术的飞速发展带来了诸多便利，但同时也衍生出了一系列令人担忧的问题。尤其是针对中老年群体的AI骗局，正悄然成为社会关注的焦点。
“我爷爷每天都在追一个‘AI养生专家’，怎么劝都不听。”小李的爷爷今年75岁，最近迷上了一个短视频里的“养生专家”。视频中的“专家”看起来和蔼可亲，讲解养生知识时头头是道，可小李却发现，这位“专家”其实是一个AI生成的数字人。
如今，社交平台上充斥着大量类似的AI账号，它们以中老年人为目标群体，通过套近乎、讲道理等方式获取他们的信任。这些账号大多以情感关怀、养生保健为切入点，吸引中老年人的关注。比如，有些账号会以“亲爱的姐姐”“可爱的奶奶”开头，用温柔的话语和贴心的建议打动他们，进而引导他们购买商品或参与活动。
然而，中老年人往往缺乏对AI技术的了解和辨别能力，很容易被这些看似真实的AI形象所欺骗。小李的爷爷就是如此，尽管小李多次提醒，但他仍然坚信视频里的“专家”是真人，甚至还按照视频里的建议购买了一些所谓的“养生产品”。
这种现象并非个例。据相关报道，一些不法分子利用AI技术制造虚假信息，诱导中老年人上当受骗。比如，去年就曾有一位老人被AI换脸视频蒙蔽，差点将200万贷款转给一个自称是“靳东”的网恋男友。类似的案例屡见不鲜，让人不禁为中老年人的网络安全担忧。
事实上，AI技术的滥用已经形成了一条灰色产业链。市面上出现了许多制作数字人的外包公司，服务价格从5000元到10000元不等。这些公司为客户搭建数字人形象，并指导运营账号，通过虚假信息诱导消费者购买商品或参与活动，从而获取利益。
面对这种现象，我们必须提高警惕。AI技术的发展速度远超人们的认知速度，不仅中老年人，就连有一定科技阅历的年轻人也难以完全辨别真假。据《北京商报》报道，2024年2月，有诈骗犯利用Deepfake深度伪造技术，制作出公司高层发言视频，诱导职员将2亿港元转至指定账户。此外，还有用AI换脸制作色情影片、盗刷医保等违法案例。
AI让造假变得越来越容易，而根除互联网上的AI虚假信息却并非易事。在公共事件中，故意歪曲事实、用AI技术制作虚假图片或视频并传播的行为，将面临法律责任。北京周泰律师事务所的张子航律师表示，制作者可能面临行政责任或刑事责任，而发布虚假信息的社交平台也可能要承担法律责任。
今年两会期间，“AI安全”成为热词。全国政协委员、奇安信科技集团董事长齐向东提议，从技术保障、制度保障、成果应用三方面入手，系统提升AI安全能力。全国政协委员、360集团创始人周鸿祎则认为，传统网络安全的解题方法已无法解决AI安全问题，应由既懂安全又懂AI的企业牵头，打造安全大模型来解决大模型的应用安全问题。
目前，各平台也在加强对AI内容的治理。抖音、视频号、小红书等平台都推出了针对AI治理的管理政策。腾讯等互联网公司也在研究检测AIGC的第三方工具，以支持文本、图片等AI生成内容的检测。然而，随着生成内容越来越逼真，检测工具的模型学习难度也在增加。
要减少被AI蒙骗的发生，需要平台监管、用户意识提高以及相关法律法规的完善等多方合力。2024年9月14日，国家互联网信息办公室发布了《人工智能生成合成内容标识办法（征求意见稿）》，以规范AI生成合成内容标识，维护社会公共利益。多项规定和监管政策的落地，为刚性治理提供了更多抓手。
新的技术进步呼唤新的监管体系，而这一点不能完全依赖科技商业公司的自我约束，需要监管方和平台方的共同努力。尽管AI的应用范围广泛且难以限定，但法律和道德的边界始终清晰。未来，政策监管和平台审核的力度必然会更加深入，社交平台上的内容生态也将因此发生改变，值得我们进一步关注。
