近日，抖音平台对外公布了一则《关于严厉整治利用AI技术欺骗老年人互动行为的公告》，该公告于10月25日正式对外发布。抖音方面强调，虽然支持创作者利用AI技术辅助内容创作，但所有内容均需遵守平台的相关规定。对于利用AI技术制作和传播违反科学常识、虚假信息、造谣等内容的行为，平台将持续进行严厉打击。
近期，抖音监测到一些账号滥用AI技术，制造出小和尚、军人、AI女性等虚拟角色，且在内容发布时未明确标注AI生成，同时使用特定的诱导性语言，诱使老年人进行点赞、关注、评论，甚至引导至其他平台以牟利，对此，平台已采取了严格的处理措施。
公告中列举了一些典型的违规行为，包括：
-
创建小和尚形象，配以“我注意到你生活中有障碍，我打算帮你清除”“如果觉得我说得对，就给我一朵小红花吧”等话语，利用迷信和心灵鸡汤内容，诱导老年人互动。
-
创建军人形象，使用“妈妈，别走，孩子想和您说说话”“亲爱的母亲，我在执行任务，给我一些鼓励”“告诉你一个小秘密，点击我头像下面的小加号”等温情话语，利用老年人对子女的思念心理，诱导老年人互动。
-
创建AI女性形象，采用“大哥，感谢你再次来看我，如果再送我一朵花，我会开心一整天”“听说你很了不起，很多美女都喜欢你”“我会做饭、做家务、聊天，你愿意带我回家吗”等情感诱导性语言，诱导老年人互动。
抖音方面明确表示，这些行为严重违反了平台的规则。对于利用AI技术制作虚拟人物并发布违规内容的行为，平台将采取下架违规视频、取消违规账号的投稿和盈利权限、封禁账号等措施，并利用先进的模型和技术识别能力，进行长期、系统的识别、发现和处理。
