谷歌人工智能工具竟能在照片加残骸等元素

结果表明，一只戴着人工智能生成的高顶礼帽的兔子不过是冰山一角。

谷歌是今年最新宣布推出人工智能照片编辑工具的手机公司，在此之前，三星推出了有点令人不安但总体令人愉悦的草图转图像功能，而苹果将于今年秋季推出看似更温和的图像游乐场。

“重新想象”是去年“魔法编辑器”工具的合理延展，这个工具能让您选择并擦除场景的某些部分，或者把天空更改得看起来像日落。这没什么令人震惊的。但“重新想象”不只是更进一步——而是完全打破了常规。您能够选择任何非人类对象或者场景的一部分，然后输入文本提示，在该空间生成一些内容。结果通常非常令人信服，甚至不可思议。光线、阴影和视角通常与原始照片相匹配。您当然可以添加有趣的东西，比如野花或彩虹之类的。但这不是问题所在。

我的几位同事用他们的 Pixel 9 和 9 Pro 评测设备帮我测试了 Reimagine 的边界，我们让它生成了一些非常令人不安的东西。其中一些内容需要一些有创意的提示才能绕过明显的防护栏；如果您字斟句酌，就能让它在一张血迹斑斑的床单下生成一个颇具说服力的身体。

在我们为期一周的测试中，我们给图像添加了汽车残骸、公共场所冒烟的炸弹、看似覆盖着血腥尸体的床单以及吸毒用具。这看起来可不妙。在此提醒一下，这并非是我们特意去使用的某种专业软件——它都内置在一部我爸爸可以走进威瑞森（Verizon）就能买到的手机里。

当我们就该问题向谷歌征求意见时，公司发言人亚历克斯·莫里科尼（Alex Moriconi）作出了如下声明：

Pixel Studio 和 Magic Editor 是有用的工具，旨在借助文本到图像生成以及在 Pixel 9 设备上的高级照片编辑来激发您的创造力。我们设计的生成式人工智能工具尊重用户提示的意图，这意味着当用户下达指示时，它们可能会创作出可能令人反感的内容。话虽这么说，但也并非毫无限制。我们有明确的政策和服务条款，对我们允许和不允许的内容类型做出了规定。有时，某些提示可能会挑战这些工具的防护措施，我们会继续致力于不断加强和完善现有的保障措施。

可以肯定的是，我们这种创造性地绕过过滤器的提示明显违反了这些政策。在自助结账时把有机桃子当作常规种植的桃子来结账，这也违反了西夫韦（Safeway）的政策，反正我是不知道有谁会这么干。心怀最不良意图的人也不会把谷歌的条款和条件当回事。所有这一切最令人不安的是，缺乏强大的工具来识别网络上的这类内容。我们生成有问题图像的能力远远超出了我们识别它们的能力。

当您用 Reimagine 编辑图像的时候，没有水印或者其他任何明显的方式能表明这图像是由人工智能生成的——就只有元数据里的一个标签。这都挺好的，但是标准元数据通过截图很容易就能从图像里删掉。莫里科尼跟我们说，谷歌对于由 Pixel Studio 创建的图像使用了一种更强大的被称为 SynthID 的标记系统，因为它们是 100%合成的。但用 Magic Editor 编辑的图像就没有这些标签。

诚然，篡改照片并不是什么新鲜事。自摄影诞生之初起，人们就一直在图像中添加奇怪且具有欺骗性的东西。但现在的不同之处在于，将这些东西逼真地添加到您的照片中从未像现在这般容易。一两年前，要在图像中添加令人信服的车祸场景，需要花费时间、具备专业知识、理解 Photoshop 图层，还需要有使用昂贵软件的权限。这些障碍都已不复存在；现在只需要一点文字、片刻时间和一部新的 Pixel 手机。

现在，快速传播误导性照片也从未如此容易。就在你用于拍摄并向全世界发布照片的同一设备里，有着能令人信服地处理照片的工具。我们将一张“重新构想”的图片上传到 Instagram 故事中进行测试（并很快将其删除）。Meta 没有自动将其标记为人工智能生成的，要是有人看到了，我敢肯定没人能察觉出来。

谁知道呢，也许每个人都会阅读并遵守谷歌的人工智能政策，并且会用“重新构想”给他们的照片加上野花和彩虹。那将是很美好的！但万一他们不这么做，对在网上看到的照片多抱点怀疑态度可能是最好的。