ChatGPT是一个很棒的工具，但这种高级人工智能服务有一个阴暗面，它可以像专家一样写作几乎任何主题——剽窃。当本应通过秘密使用 ChatGPT 来证明他们对某个主题的知识和理解的学生作弊时，它会使测试和评分无效。人工智能技能很棒，但并不是学生应该学习的唯一科目。
事实证明，解决这个问题很困难。由于 ChatGPT 已经在大量人类写作数据集上进行了训练，因此教师几乎不可能确定一篇文章是由学生还是机器创作的。已经创建了几种工具来尝试识别 AI 生成的文字，但准确性太低而无法使用。
在教育工作者越来越担心和禁止学生使用 ChatGPT 的情况下， Business Insider报告称，OpenAI 正在研究解决此问题的方法。马里兰大学机器学习副教授 Tom Goldstein 最近发布的一条推文解释了它在检测由 ChatGPT 编写的带水印文本方面的准确性。
任何能够以近 100% 的准确率识别抄袭的工具都将迅速解决这个讨论并消除任何担忧。根据 Goldstein 的说法，一种解决方案是让大型语言模型 (LLM) 从有限的词汇表中挑选单词，形成一个可供 AI 使用的白名单和一个禁止使用的单词黑名单。如果样本中出现异常大量的白名单单词，则表明它是由 AI 生成的。
这种简单化的方法限制太多，因为很难像大多数 LLM 所做的那样，在一次处理一个词时预测哪些词可能是讨论所必需的。 Goldstein 建议，ChatGPT 可以被赋予比一个词更远的能力，这样它就可以计划一个可以充满白名单词的句子，同时仍然有意义。
ChatGPT 进入社区写作池后引起了轰动，也可以成为一个很好的教学助手。在学校引入人工智能很重要，因为它显然是未来需要理解的一项重要技术，但在剽窃问题得到解决之前，它将继续存在争议。