《泰晤士报》在 3 月对一位名叫“Luba Dovzhenko”的 18 岁乌克兰妇女进行了描述，以说明被围困的生活。文章称，她学习新闻学，说“糟糕的英语”，并在俄罗斯入侵后开始携带武器。
然而，问题是多文科在现实生活中并不存在，而且这个故事在出版后不久就被撤下了。
Luba Dovhenko 是一个虚假的在线角色，旨在利用 Twitter 上对乌克兰-俄罗斯战争故事日益增长的兴趣并获得大量追随者。该帐户不仅在 3 月之前从未发过推文，而且还拥有不同的用户名，而且它一直在推文上的更新可能会引起《纽约时报》的注意，但已从其他真实个人资料中窃取。然而，她欺诈的最该死的证据就在她的脸上。
在多文科的头像中，她的一些发丝与头部的其他部分脱落，几根睫毛不见了，最重要的是，她的眼睛引人注目地居中。它们都是由人工智能算法咳出的人工脸的迹象。
面部特征定位不是@lubadovzhenko1个人资料照片中唯一的异常；不是图像右下角脱落的头发和部分缺失的睫毛（除其他外）。 pic.twitter.com/UPuvAQh4LZ
—阴谋者 Norteño (@conspirator0) 2022 年 3 月 31 日
Dovhenko 的脸是由deepfakes背后的技术制造的，这是一种日益主流的技术，任何人都可以在视频中将一张脸叠加在另一个人的脸上，并被用于从复仇色情到操纵世界领导人演讲的所有事情。通过向此类算法提供数百万张真实人物的照片，它们可以被重新利用，以创造出像 Dovhenko 那样的栩栩如生的面孔。这是一个日益严重的问题，使与错误信息的斗争变得更加困难。
一大群 AI 生成的假脸
在过去的几年里，随着社交网络对不知名的匿名巨魔进行打击，人工智能为恶意行为者和机器人提供了一种无价的武器：表现得惊人地真实的能力。与以前不同的是，当喷子只是从互联网上撕下真实的面孔，任何人都可以通过对他们的个人资料图片进行反向成像来揭开它们的面纱，对于人工智能生成的照片来说，几乎不可能这样做，因为它们是新鲜和独特的。即使仔细观察，大多数人也无法区分。
英国兰开斯特大学心理学教授索菲·南丁格尔博士发现，人们发现 AI 合成的面孔的几率只有 50%，许多人甚至认为它们比真实面孔更值得信赖。她告诉 Digital Trends，任何人都可以访问“没有 Photoshop 或 CGI 专业知识的合成内容”，“比以前的技术对恶意使用造成更大的威胁。”
佛罗里达大学的网络安全研究员 Yassine Mekdad 说，是什么让这些面孔如此难以捉摸和高度逼真，他发现 AI 生成图片的模型具有 95.2% 的准确率，是因为他们的编程（称为生成对抗网络）使用两个相反的神经网络相互对抗以改善图像。一个（G，生成器）的任务是生成假图像并误导另一个，而第二个（D，鉴别器）学习将第一个结果与真实面孔区分开来。两者之间的这种“零和游戏”允许生成器产生“无法区分的图像”。
人工智能生成的面孔确实以惊人的速度占领了互联网。除了像 Dovhenko 这样使用合成角色来吸引追随者的帐户外，这项技术最近还为更多令人震惊的活动提供了动力。
当谷歌在 2020 年解雇了一名人工智能伦理研究员 Timnit Gebru，因为他发表了一篇强调该公司算法存在偏见的论文时，一个拥有人工智能生成面孔的机器人网络突然出现，他们声称自己曾在谷歌的人工智能研究部门工作。社交网络并伏击任何支持格布鲁的人。已发现中国等国家的类似活动在宣传政府宣传。
在粗略的 Twitter 评论中，我很快就找到了几个反 vaxxers 、亲俄罗斯人和更多人——他们都躲在电脑生成的面孔后面，以推动他们的议程并攻击任何阻碍他们前进的人。尽管 Twitter 和 Facebook 经常关闭此类僵尸网络，但它们没有一个框架来处理具有合成面孔的个人巨魔，尽管前者的误导性和欺骗性身份政策“禁止冒充个人、团体或组织来误导、混淆或欺骗他人，也不以破坏他人体验的方式使用虚假身份。”这就是为什么当我报告我遇到的个人资料时，我被告知他们没有违反任何政策。
Sensity 是一家基于 AI 的欺诈解决方案公司，估计流行社交网络上约有 0.2% 至 0.7% 的人使用计算机生成的照片。这本身看起来并不多，但对于 Facebook（29 亿用户）、Instagram（14 亿用户）和 Twitter（3 亿用户）来说，这意味着数百万机器人和参与者可能成为虚假宣传活动的一部分.
V7 Labs 的 AI 生成的人脸检测器Chrome 扩展的匹配百分比证实了 Sensity 的数据。其首席执行官 Alberto Rizzoli 声称，平均而言，人们上传的照片中有 1% 被标记为假照片。
假脸市场
人工智能生成的照片激增如此迅速的部分原因在于获取它们是多么容易。在Generated Photos等平台上，任何人都可以花几美元获得数十万张高分辨率假脸，而对于需要一些用于个人涂抹活动等一次性目的的人，他们可以从thispersondoesnotexist等网站下载它们.com ，它会在您每次重新加载时自动生成一个新的合成人脸。
对于像英国信息弹性中心的调查主任本杰明·斯特里克这样的人来说，这些网站的生活尤其具有挑战性，他的团队每天花费数小时跟踪和分析在线欺骗性内容。
“如果你将 [自动生成技术] 放入一系列假脸配置文件中，在一家假创业公司工作（通过 thisstartupdoesnotexist.com），”斯特里克告诉 Digital Trends，“这就是社会工程的秘诀和非常具有欺骗性的基础。可以在几分钟内设置的实践。”
Generated Photos 的创始人 Ivan Braun 认为这并不全是坏事。他认为 GAN 照片有很多积极的用例——比如在谷歌地图的街景中匿名面孔和在游戏中模拟虚拟世界——这就是该平台所提倡的。如果有人从事误导他人的业务，布劳恩说，他希望他的平台的反欺诈防御能够检测到有害活动，并且最终社交网络将能够从真实照片中过滤掉生成的照片。
但监管基于人工智能的生成技术也很棘手，因为它还为无数有价值的服务提供支持，包括 Snapchat 的最新过滤器和 Zoom 的智能照明功能。 Sensity 首席执行官 Giorgio Patrini 同意，禁止生成照片等服务对于阻止 AI 生成人脸的兴起是不切实际的。相反，迫切需要来自平台的更积极主动的方法。
社交网络分析公司 Graphika 的调查主管泰勒·威廉姆斯（Tyler Williams）表示，在这种情况发生之前，合成媒体的采用将继续削弱对政府和新闻业等公共机构的信任，该公司发现了一些涉及虚假角色的最广泛活动.威廉姆斯补充说，打击滥用此类技术的一个关键因素是“从小就开始的媒体素养课程和来源验证培训”。
如何识别 AI 生成的人脸？
幸运的是，有一些可靠的方法可以判断一张脸是否是人工创建的。这里要记住的是，这些面孔只是通过混合大量照片而变出的。所以虽然真实的脸看起来很真实，但你会在边缘发现很多线索：耳朵形状或耳环可能不匹配，发丝可能到处乱飞，眼镜边可能很奇怪——清单继续。最常见的问题是，当您循环浏览几张假脸时，他们所有的眼睛都会处于完全相同的位置：屏幕中央。您可以使用“ 折叠火车票”hack 进行测试，如 Strick 所示。
南丁格尔认为，人工智能生成的照片构成的最重大威胁正在助长“骗子的红利”——它们的存在就可以让任何媒体都被认为是假的。 “如果我们不能对周围世界的基本事实进行推理，”她认为，“那么这会使我们的社会和民主国家面临巨大风险。”