近几个月来，人工智能生成的图像在谷歌搜索结果中变得越来越占主导地位，排挤了合法结果，使用户更难找到他们真正想要的东西。作为回应， 谷歌周二宣布，将在未来几个月内开始对人工智能生成和人工智能编辑的图像搜索结果进行标记。
该公司将通过“关于此图像”窗口标记此类内容，并将其应用于搜索、 Google Lens和 Android 的Circle to Search功能。谷歌还将这项技术应用到其广告服务中，并正在考虑在 YouTube 视频中添加类似的标志，但根据公告，“今年晚些时候会有更多更新”。
谷歌将依靠内容来源和真实性联盟（C2PA）元数据来识别人工智能生成的图像。谷歌今年早些时候作为指导委员会成员加入了这个行业组织。这种“C2PA 元数据”将用于跟踪图像的出处，识别图像的创建时间和地点，以及生成图像时使用的设备和软件。
目前已有多家行业巨头加入C2PA，包括亚马逊、微软、OpenAI、Adobe等。然而，该标准本身很少受到硬件制造商的关注，目前只能在少数索尼和徕卡相机型号上找到。一些著名的人工智能生成工具开发商也拒绝采用该标准，例如 Black Forrest Labs，该实验室开发了Grok用于图像生成的 Flux 模型。
过去两年，利用人工智能生成的深度伪造的在线诈骗数量呈爆炸式增长。例如，今年 2 月，一位香港金融家在一次视频电话会议中被骗， 向冒充该公司首席财务官的骗子转账了 2500 万美元。今年 5 月， 验证提供商 Sumsub 的一项研究发现，2023 年至 2024 年间，全球使用深度造假的诈骗数量增加了 245%，其中美国增加了 303%。
Netskope 亚太区首席信息官兼首席安全官 David Fairman 今年 5 月向CNBC表示：“这些服务的公众可访问性降低了网络犯罪分子的进入门槛。” “他们不再需要拥有特殊的技术技能。”