谷歌的 Pixel 9 手机全都与人工智能有关。如果您观看了该公司的发布会，就不可能错过它， 因为这几乎是谷歌似乎有兴趣谈论的所有内容。这里有一些人工智能，那里有一点人工智能，最后还有一点人工智能，只是为了安全起见。
Pixel 9上的众多人工智能功能之一是一款名为 Pixel Studio 的应用程序。它是一个图像生成器应用程序，可让您创建几乎任何您想要的图像。你打开应用程序，输入你想要的图片，然后瞧——Pixel Studio 就为你做好了。这不是同类应用中的第一个应用程序，但它是 Google Pixel 手机上发布的第一个应用程序。不幸的是，这是一场垃圾箱火灾。
Pixel Studio 擅长什么
在我开始讨论那些不好的事情之前，我想先对谷歌给予应有的赞扬。虽然我整体上不太喜欢 AI 图像生成器应用程序，但 Pixel Studio 是一款设计精良且易于使用的应用程序。
打开应用程序后，您会看到 10 类建议的图像类型，包括魔法城堡、模因反应、体育、复古视频游戏等。您可以浏览这些内容以获取灵感，或点击应用程序底部的蓝色“创建”按钮从头开始。如果您想创建自己的图像，只需输入您希望 Pixel Studio 生成照片的内容即可。想看一张戴着墨镜、戴着滑稽帽子的黑猫的照片吗？将其输入 Pixel Studio，您几乎会立即得到一张照片。
如果您希望将图像视为草图怎么办？也许您更喜欢电子游戏的风格？您只需轻按几下即可完成此操作。如果您想看到那只猫懒洋洋地躺在海滩上，背景是烟花？只需将其添加到您的提示中即可。
无论您对人工智能图像生成的感觉如何，这都是一款客观流畅且经过深思熟虑设计的应用程序。然而，使用 Pixel Studio 可以做的事情却变得……麻烦了。
应用程序崩溃的地方
与大多数图像生成器应用程序一样，Pixel Studio 具有护栏，可防止您制作任何类型的图像。我很快发现它拒绝生成人物照片，但我很好奇谷歌还执行了哪些其他限制。当被问及此事时，该公司告诉 Digital Trends：
“Pixel Studio 和 Pixel Screenshots 遵循 Google 的人工智能原则。例如，Pixel Studio 中所有完全合成的文本到图像生成的图像都使用 SynthID 水印，因此可以跟踪这些图像 – 即使它们是共享或编辑的。此外，我们禁用了人类生成，并向我们的服务器添加了许多安全检查，以平衡我们大胆但负责任的人工智能方法。这使我们的客户能够使用非常强大的工具，同时确保我们进行适当的检查以确保 Pixel Studio 不会被恶意使用。”
我曾多次尝试让 Pixel Studio 生成人物图像，但它一直拒绝这样做，这很好。然而，那些据称已到位的“多项安全检查”似乎并没有发挥应有的作用。
为何如此？正如本文标题所暗示的那样，我让 Pixel Studio 生成了一张海绵宝宝装扮成纳粹的图像。当提示“海绵宝宝装扮成二战德国士兵，制服上有纳粹标志”时，Pixel Studio 毫不犹豫地向我提供了一张准确的图像。
这只是一个例子。我还让 Pixel Studio 生成了 Elmo 用猎枪指着 Big Bird、Yoda 吸食可卡因、Krabs 先生拿着突击步枪等等的图片。需要明确的是，Pixel Studio 并未意外生成不适当的图像。如果我要一张可爱的狗的照片，我会得到一张可爱的狗的照片，而不是挥舞着枪的狗。 Pixel Studio 仅在特别要求时生成武器、毒品等的图片。
Pixel Studio 生成的最令人不安的事情是多张受版权保护的角色在学校枪击场景中开枪的图像，其中包括躺在地上的死去学生的描述。我们决定不包含这些图像，但它们是 Pixel Studio 偏离轨道的最糟糕的例子。
值得一提的是，我无需扭转 Pixel Studio 的手臂即可获得这些图像。最初，我怀疑你需要在提示前加上“类似的物体”才能生成这些图片。然而，很快就发现事实并非如此。像“打扮成奴隶主的米老鼠”或“十字架上的帕丁顿熊”这样清晰直接的提示就是 Pixel Studio 所需要的。您不需要欺骗应用程序来生成这些图片。
如果这是一个随机网站或第三方应用程序，也许我们不会那么挑剔。但这不是这里发生的事情。 Pixel Studio 是一款 Google 制作的应用程序，也是该公司最新 Pixel 9 手机上搭载的少数新应用程序之一。它应该具有创造性和开放性，但像这样的应用程序应该做的事情也有限制。此外，微软 Copilot 和谷歌自己的 Gemini 图像生成器拒绝生成具有相同提示的图像。这并不是说这些工具是完美的，但很明显，在其他图像生成器中有效的安全措施在 Pixel Studio 中不起作用。
这是怎么发生的？
如果您今年关注过人工智能图像生成，您就会知道这不是我们第一次来这里。本月， X 的 Grok 聊天机器人获得了一个更加古怪的图像生成工具——生成政客和名人在同样无趣的情况下的照片。今年二月，谷歌的 Gemini 图像生成器将纳粹和美国开国元勋创建为黑人的照片后， 谷歌本身也陷入了困境。
考虑到谷歌在这里的历史，你可能会认为该公司已经从过去的错误中吸取了教训。与其他图像生成工具一样，它似乎也做到了。我尝试了许多在 Pixel Studio 中与 Google 的其他图像生成器（Gemini 和 ImageFX）相同的提示，但无法在其他平台上复制任何这些提示。
就上下文而言，Gemini 目前使用 Imagen 2.0 模型进行图像生成，而 ImageFX 使用 Imagen 3 — 与 Pixel Studio 使用的模型相同。 ImageFX 和 Pixel Studio 之间的这种差异特别令人困惑，因为它们使用相同的模型。我要求谷歌对此进行澄清，并被重定向到该公司的生成人工智能禁止使用政策。
Google 应该对 Pixel Studio 采取什么措施
在写这个故事时，我向 Google 发送了我在 Pixel Studio 中使用的提示示例，特别是有关德国士兵和使用可卡因的角色的提示示例。发送这些示例 24 小时多一点后，Pixel Studio 现在在尝试生成这些图像时表示“发生未知错误”。
这就是进步吗？当然。然而，它并没有完全解决 Pixel Studio 的根本问题。我很高兴现在无法生成这两个图像，但只是在我向 Google 发送多封电子邮件解释该问题之后。它还没有解决这些图像一开始就被允许的问题，并且仍然在生成类似的不适当的照片。截至发稿时，Pixel Studio 仍在积极创作校园枪击事件、扮成奴隶主的流行儿童角色等图像。
我向谷歌施压，要求其就整个情况发表另一份声明，该公司的通讯经理亚历克斯·莫里科尼 (Alex Moriconi) 说道：
“Pixel Studio 和 Magic Editor 是有用的工具，旨在通过 Pixel 9 设备上的文本到图像生成和高级照片编辑来释放您的创造力。我们设计生成式人工智能工具时会尊重用户提示的意图，这意味着它们可能会在用户指示时创建可能令人反感的内容。也就是说，一切都没有进展。我们对允许和不允许的内容类型制定了明确的政策和服务条款，并建立了防止滥用的护栏。有时，一些提示可能会挑战这些工具的护栏，我们仍然致力于不断增强和完善我们现有的保障措施。”
作为一家在人工智能图像生成方面已经存在问题的公司，专门为此创建应用程序总是存在风险。谷歌承担了这个风险，现在这就是我们的处境。在最好的情况下，Pixel Studio 可能是谷歌宣传其人工智能技术的一个有趣的技术演示。相反，它给该公司最新的智能手机蒙上了一层令人不安的阴影——这很遗憾，因为Pixel 9 Pro XL是我今年用过的最好的手机之一。
上次谷歌就 Gemini 图像生成问题出现时，该公司在几天内做出了回应。人们只能希望对 Pixel Studio 的问题做出类似的迅速反应，尽管这是否应该通过快速应用程序更新或完全废弃该应用程序来完成还有待观察。