欧洲刑警组织本周发出严厉警告，强调犯罪分子在掌握新一波高级 AI 聊天机器人时所带来的风险。
在本周在线分享的一篇帖子中，欧洲执法机构描述了 OpenAI 的 ChatGPT 和 GPT-4 以及谷歌的 Bard等工具将如何越来越多地被犯罪分子用来寻找新的方法来欺骗公众。
它确定了它最关心的三个具体领域。
首先是欺诈和社会工程，向目标发送电子邮件，希望他们下载受恶意软件感染的文件或点击将他们带到同样危险网站的链接。
众所周知，网络钓鱼电子邮件通常充满语法错误和拼写错误，最终会进入垃圾文件夹。即使是那些确实进入收件箱的邮件也写得如此骇人听闻，以至于收件人能够毫不犹豫地迅速丢弃它。
但 AI 聊天机器人能够创建没有草率错误的精心编写的消息，使犯罪分子能够发送令人信服的电子邮件，这意味着收件人在检查消息时必须格外注意。
欧洲刑警组织表示，先进的聊天机器人能够“重现语言模式，可用于模仿特定个人或群体的讲话风格”，并补充说这种能力可能“被大规模滥用，以误导潜在受害者将他们的信任托付给他们”的犯罪演员。”
欧洲刑警组织表示，一种更有说服力的虚假信息形式也将激增，新一波聊天机器人擅长快速和大规模地创建听起来真实的文本，并补充说：“这使得该模型成为宣传和虚假信息目的的理想选择，因为它允许用户可以用相对较少的努力生成和传播反映特定叙述的消息。”
第三，欧洲刑警组织将编码列为网络犯罪分子用来创建恶意软件的新领域。该机构指出：“除了生成类人语言外，ChatGPT还能够生成多种不同编程语言的代码。” “对于缺乏技术知识的潜在犯罪分子来说，这是生成恶意代码的宝贵资源。”
它说，随着网上的邪恶活动变得更难被发现，这种情况为那些站在法律右边的人“提供了严峻的前景”。
AI 聊天机器人热潮于 2022 年 11 月掀起，当时微软支持的 OpenAI 发布了令人印象深刻的 ChatGPT 工具。最近刚刚发布了一个改进版本 GPT-4，而谷歌也推出了自己的类似工具，称为 Bard。这三者都以其令人印象深刻的能力而著称，只需几个提示即可创建听起来自然的文本，该技术可能会在未来几年协助甚至取代一系列不同的工作。
其他类似的基于 AI 的技术让您只需几个文本提示即可创建原始图像、视频和音频，突出表明随着技术的不断改进，任何形式的媒体都无法逃脱 AI 的影响。
一些主要声音对其迅速崛起的担忧是可以理解的，埃隆·马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克和多位专家最近签署了一封公开信，声称具有人类竞争情报的人工智能系统可能“对社会和人类构成深远风险”。这封信呼吁暂停六个月，以便为先进工具创建和实施安全协议，并补充说，如果处理得当，“人类可以享受人工智能带来的繁荣未来。”