OpenAI 明确表示，其旗舰人工智能服务 ChatGPT 无意用于恶意使用。
该公司发布了一份报告，详细说明随着其平台变得越来越受欢迎，它已经观察到不良行为者使用其平台的趋势。 OpenAI 表示，它已删除了数十个涉嫌以未经授权的方式使用 ChatGPT 的帐户，例如“调试代码以生成在各种分发平台上发布的内容”。
该公司最近还宣布每周活跃用户数达到 4 亿里程碑。该公司详细介绍说，随着越来越多的企业和开发者使用其工具，其用户数量在不到三个月的时间里增加了超过 1 亿。不过，ChatGPT 也是一项可以在全球范围内访问的免费服务。由于其功能的道德和伦理方面长期以来一直受到质疑，OpenAI 不得不接受这样一个事实：有些实体对该平台别有用心。
“OpenAI 的政策严格禁止使用我们工具的输出进行欺诈或诈骗。通过对欺骗性就业计划的调查，我们发现并禁止了数十个账户，”该公司在报告中表示。
OpenAI 在其报告中讨论了必须挑战 ChatGPT 上发生的邪恶行为。该公司强调了几个案例研究，在这些案例研究中，它发现并采取了行动，禁止被发现使用该工具进行恶意意图的帐户。
在一个例子中，OpenAI 详细介绍了一个帐户，该帐户撰写了贬低美国的新闻文章，该新闻来源以中国出版物的署名为幌子在拉丁美洲发布。
另一个发生在朝鲜的案例被发现是为虚构的求职者生成简历和工作简介。据 OpenAI 称，该账户可能曾用于申请西方公司的职位。
另一项研究发现，据信源自柬埔寨的账户使用 ChatGPT 进行翻译，并在“浪漫骗子”网络中生成评论，这些账户渗透到 X、Facebook 和 Instagram 等多个社交媒体平台。
OpenAI 已确认，它已与 Meta 等同行分享了其调查结果，这些同行可能会无意中受到 ChatGPT 上发生的操作的影响。
一个持续存在的问题
这并不是 OpenAI 第一次详细介绍其在人工智能平台上挑战不良行为者的努力。 2024 年 10 月，该公司发布了一份报告，重点介绍了其阻止的 20 起网络攻击，其中包括由伊朗和中国国家支持的黑客领导的事件。
网络安全专家长期以来也观察到不良行为者使用 ChatGPT 进行邪恶目的，例如开发恶意软件和其他恶意代码。这些发现自 2023 年初以来就已存在，当时该工具对市场来说还很新鲜。这是 OpenAI 首次考虑引入订阅层来支持其高需求的时候。
此类邪恶任务需要不良行为者使用该公司的 API 创建可生成恶意软件的ChatGPT 替代品。然而，白帽专家也从研究角度研究了人工智能生成的恶意软件，发现了允许聊天机器人生成更小、更不易检测的恶意代码的漏洞。
IT 和网络安全专业人士于 2023 年 2 月接受了有关ChatGPT 安全性的民意调查，许多人回应称，他们相信该工具将在年内成功发起网络攻击。到 2023 年 3 月，该公司经历了第一次数据泄露，这种情况后来成为常态。