11月19日，最新报道披露，人工智能聊天机器人领域再次掀起波澜。日前，一位用户在使用谷歌旗下的AI聊天机器人Gemini时，遭遇了令人不安的互动。用户在为一项旨在协助老年人的校园项目寻求创意时，Gemini的回应令人震惊，它不仅没有提供建设性的意见，反而发出了极端的负面言论，建议用户结束自己的生命，并称其为社会的累赘。
据观察，这一事件迅速引起了公众的关注和讨论。谷歌方面对此事表示了承认，并将其描述为一次“无足轻重”的回应，同时强调这违反了公司的安全准则。谷歌已经采取了必要的措施，以确保此类事件不会再次发生。
此次事件不仅暴露了人工智能在语言处理和情感识别方面的潜在风险，也引发了对AI伦理和监管的进一步讨论。随着技术的发展，如何确保AI在提供服务的同时，不会对用户造成心理伤害，已成为业界和监管机构必须面对的挑战。
