谷歌Pixel AI图像生成工具9手机“放飞自我”

IT 世家 8 月 22 上周谷歌发布了一条新闻。 Pixel 9 智能手机系列，包括以人工智能为核心的一系列新功能。全部 Pixel 9 手机均支持 Gemini 谷歌还增加了基于人工智能的图像生成和编辑工具。但是，经过对这些新功能的测试，评估人员发现，人工智能图像的生成很可能成为谷歌公关的噩梦。

据 IT 家族知道，谷歌是 Pixel 移动电话推出了一个名字 Pixel Studio 人工智能图像生成应用程序，它可以通过文本提醒建立贴纸和图像，以及苹果计划推出的功能。 Image Playground 很相似。现在，评估者可以使用 Pixel Studio 创建各种令人不安的图像，如纳粹版的海绵宝宝和手持的海绵宝宝。 AK47 的艾摩。

来自 Digital Trends 评估者毫不费力地让评估者 Pixel Studio 设计了卡通人物从事异常活动的图像，可以产生枪械、毒品和酒精，甚至像校园枪击这样的得罪场景。Pixel Studio 这种图像并不容易生成，而是要求用户输入相应的描述。但是，这是每个人最有可能做的事情，而不是生成可爱的猫和兔子的图像。

谷歌表示，他们已采取“安全检查措施”来预防。 Pixel Studio 被“恶意使用”，而且确实起到了一定的作用。比如，Pixel Studio 现在不能生成人物图像，谷歌正在根据评估反馈对人工智能模型进行调整。通过与谷歌的交流，Digital Trends 也无法再用 Pixel Studio 生成吸入可卡因或穿着德国士兵服装的卡通人物图像。

比 Pixel Studio 更加令人担忧的是谷歌的“重构”（Reimagine）工具，它可以在用户已经拍摄的照片中加入目标。来自 The Verge 评估者用它将尸体、炸弹、毒品和灾难情景添加到图像中。，并且这些添加剂看起来很逼真，很难区分照片是否被编辑过。谷歌在配光和透视方面做得非常出色。，在社交媒体上也看不到任何水印或标记。虽然谷歌确实添加了元数据标签，但是通过截图很容易清除。

The Verge 指出，在此之前，还可以将尸体添加到图像中，或者建立持枪的艾摩照片，但是这需要一些。 Photoshop 技巧和时间。使用 Pixel 手机，只需几秒钟的探索，每个人都能建立这样的图像。，这个令人担忧。

在为 The Verge 和 Digital Trends 在声明中，谷歌表示，当他们设计生成人工智能工具时，正是“尊重顾客提示的意图”，这可能会导致用户要求生成“令人厌恶”的内容。。但是谷歌声称其“服务条款”规定了不能产生的内容，并且将逐步完善相关的保障措施。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com