12月23日，随着人工智能技术的突飞猛进，其在为我们的生活带来便捷的同时，也带来了一系列安全挑战。特别是深度伪造技术，其能够制造出几可乱真的视频和图像，已经对社会秩序构成了威胁。
根据央视新闻的最新报道，今年内，利用AI技术进行深度伪造名人身份的事件屡见不鲜。最近，就有犯罪分子利用AI技术模仿张文宏医生的面部和声音进行直播销售，成功售出超过1200件蛋白棒。
同样，知名艺人刘德华和企业家雷军也成为了AI伪造的受害者。刘德华的声音被用于提升短视频的点击率，对此，他的电影公司已经多次发表声明，提醒公众注意辨别真伪。
专家指出，当前的AI技术能够通过深度学习轻松复制他人的面部和声音特征，有时仅需一张照片和一段音频样本。尽管如此，这种技术并非完美无缺。例如，伪造的视频往往无法实现实时直播，而且在面部轮廓与背景的融合、细节处理上存在瑕疵。观众如果仔细分辨，尤其是在口型和语音的同步性上，不难发现其中的破绽。
法律专家指出，未经许可使用他人的形象或声音，属于侵犯他人权利的行为。依据《民法典》和《网络安全法》的规定，违规发布者可能会面临赔偿损失和承担刑事责任。同时，如果消费者因AI伪造名人带货而受到欺骗，可以根据消费者权益保护法要求“退一赔三”。
专家们还强调，短视频平台应承担起监管责任，及时撤下违规内容，并对违规发布者实施信用惩戒和相应的处罚措施。
