ChatGPT事件中出现了一种新的威胁，网络犯罪分子已经开发出一种方法来破解 AI 聊天机器人并用恶意软件命令淹没它。
研究公司 Checkpoint发现，黑客设计的机器人可以渗透 OpenAI 的 GPT-3 API 并更改其代码，从而生成恶意内容，例如可用于网络钓鱼电子邮件和恶意软件脚本的文本。
这些机器人通过消息传递应用程序 Telegram 工作。据Ars Technica称，不良行为者使用机器人来设置不受限制的黑暗版本的 ChatGPT。
ChatGPT 有赞成和反对按钮，如果它生成的内容可能被认为具有攻击性或不当 ，您可以作为其学习算法的一部分按下这些按钮。通常情况下，生成恶意代码或网络钓鱼电子邮件等输入是禁止的，ChatGPT 拒绝做出回应。
这个邪恶的聊天机器人替代品每 100 个查询的价格为 6 美元，它背后的黑客还提供了提示和示例，说明您可以使用此版本生成不良内容。黑客还在 GitHub 上提供了一个脚本。除了通过文本生成命令生成网络钓鱼电子邮件外，基于 API 的 OpenAI 脚本还能够让用户伪造企业或个人。据PC Gamer称，这些机器人还可以帮助您将电子邮件中的网络钓鱼链接放置在理想位置。
很难知道这种发展将对 AI 文本生成器的发展构成多大的威胁，尤其是对于已经致力于使用这种日益流行的技术的大公司来说。例如，作为与 OpenAI 持续合作的一部分，Microsoft Bing 将很快在即将发布的更新中为其浏览器添加ChatGPT 支持。
虽然 ChatGPT 在可预见的未来仍然免费，但减去ChatGPT Plus 优先订阅，这并不是 AI 文本生成器第一次成为诈骗者的目标。 1 月份，有消息称，成千上万的人在为聊天机器人的 iOS 和 Android 移动应用程序付费后上当受骗，聊天机器人目前是一种基于浏览器的服务。
Apple App Store 版本特别受欢迎，尽管在试用三天后其每周订阅价格为 8 美元。用户还可以选择每月支付 50 美元的订阅费用，这显然比每周的费用还要贵。该应用程序在受到媒体关注后最终从苹果商店下架。
ChatGPT 无疑是诈骗者的主要目标，因为它的人气飙升，但坏人是否最终会跳上众多流通的ChatGPT 替代方案之一还有待观察。