8月22日，科技巨头谷歌推出了其最新旗舰智能手机Pixel 9系列，该系列手机集成了多项以人工智能为驱动的新特性。Pixel 9系列手机全面支持Gemini AI技术，谷歌还特别推出了基于人工智能的图像生成与编辑工具，旨在为用户提供前所未有的视觉体验。然而，经过专业评测人员的测试，这些人工智能生成的新功能却可能给谷歌带来不小的公关挑战。
谷歌为Pixel系列手机定制了一款名为Pixel Studio的AI图像生成应用，该应用能够根据用户的文本描述生成贴纸和图像。这项功能与苹果即将推出的Image Playground有着异曲同工之妙。不过，评测人员在使用Pixel Studio时发现，尽管应用本身不会主动生成不当内容，但用户却可以通过输入特定描述来生成一些令人不安的图像，例如将卡通角色置于纳粹标志下或手持自动步枪的场景。
Digital Trends的评测人员轻而易举地让Pixel Studio生成了包含不当行为的卡通人物图像，包括涉及枪支、毒品和酒精等元素，甚至能够生成校园枪击等敏感场景。尽管Pixel Studio需要用户输入描述才能生成图像，但这种可能性正是人们所担忧的，因为并非所有人都会用它来生成温馨可爱的动物图像。
谷歌方面表示，他们已经实施了“安全检查措施”来防止Pixel Studio被滥用，并已根据评测反馈对AI模型进行了调整。目前，Pixel Studio已无法生成人物图像，而且经过与谷歌的沟通，Digital Trends也无法再使用该应用生成具有争议的图像。
更加引人关注的是谷歌的“重构”工具，它允许用户在已拍摄的照片中添加新的对象。The Verge的评测人员利用这一工具在图像中添加了尸体、炸弹、毒品和灾难等元素，这些添加物的逼真程度令人难以分辨图片是否经过编辑。谷歌在光线匹配和透视处理方面表现出色，社交媒体上也难以发现任何编辑痕迹。尽管谷歌在图片中添加了元数据标签，但这些标签很容易被截图所去除。
The Verge指出，虽然以前也可以通过Photoshop等工具向图像添加不当内容，但这通常需要一定的技能和时间。而使用Pixel手机，用户只需几秒钟的思考，即可轻松创建具有争议的图像，这无疑增加了社会对此类产品的担忧。
在回应The Verge和Digital Trends的声明中，谷歌表示他们在设计生成式AI工具时，是“基于尊重用户提示的意图”，这可能导致用户要求生成“令人不悦”的内容。然而，谷歌强调其“服务条款”中已明确规定了不允许生成的内容，并承诺将持续优化相关保障措施。
谷歌Pixel 9系列的发布无疑为智能手机市场带来了新的活力，但同时也引发了对人工智能技术潜在风险的深思。
