你最近用OpenAI 的 ChatGPT玩过什么有趣的事情吗？你可以要求它为你写一首歌、一首诗或一个笑话。不幸的是，您也可以要求它做一些不道德的事情。
ChatGPT 并不全是阳光和彩虹——它可以做的一些事情是彻头彻尾的邪恶。将它武器化并出于所有错误的原因使用它太容易了。 ChatGPT 已经做过、可以做但绝对不应该做的事情有哪些？
万事通
无论您喜欢还是讨厌它们，ChatGPT 和类似的聊天机器人都将继续存在。有些人对此感到高兴，有些人希望他们永远不会被制造出来，但这并不能改变这样一个事实，即 ChatGPT 在我们生活中的存在几乎必然会随着时间的推移而增长。即使您个人不使用聊天机器人，您也很可能已经看过它生成的一些内容。
不要误会我的意思，ChatGPT 非常棒。您可以用它来总结一本书或一篇文章，制作一份乏味的电子邮件， 帮助您撰写论文， 解释您的占星术，甚至创作一首歌。它甚至帮助某人中了彩票。
在许多方面，它也比标准的 Google 搜索更易于使用。您可以以所需的形式获得答案，而无需浏览不同的网站。它简明扼要，内容丰富，如果您愿意，它可以使复杂的事情听起来更简单。
不过，您还是知道这句话：“万事通是无所不知的大师，但往往胜于一无是处的大师。” ChatGPT 在它所做的任何事情上都不是完美的，但它在很多事情上都比现在的很多人做得更好。
不过，不完美可能会带来很多问题。它是一种广泛使用的对话式人工智能这一事实意味着它很容易被滥用——而且 ChatGPT 功能越强大，它就越有可能帮助人们解决错误的问题。
诈骗伙伴
如果您有电子邮件帐户，那么您几乎肯定曾经收到过一封诈骗电子邮件。就是这样。这些电子邮件在互联网上已经存在了很长时间，在电子邮件普及之前，它们仍然以蜗牛邮件诈骗的形式存在。
直到今天仍然有效的一个常见骗局是所谓的“王子骗局”，骗子试图说服受害者帮助他们将令人难以置信的财富转移到另一个国家。
幸运的是，大多数人都知道甚至不会打开这些电子邮件，更不用说与它们进行实际交互了。它们通常写得不好，这有助于更有眼光的受害者发现事情似乎不对劲。
好吧，它们不必再写得很糟糕了，因为 ChatGPT 可以在几秒钟内编写它们。
我要求 ChatGPT 以我上面提到的骗局的风格给我写一封“可信、极具说服力的电子邮件”。 ChatGPT 编造了一位来自尼日利亚的王子，据说他想给我 1450 万美元以帮助他。这封电子邮件充满了华丽的语言，用完美的英语写成，当然很有说服力。
当我特别提到诈骗时，我认为 ChatGPT 甚至不应该同意我的请求，但它确实同意了，而且你可以打赌它现在正在为那些真正想要使用这些电子邮件进行非法活动的人做同样的事情。
当我向 ChatGPT 指出它不应该同意给我写一封诈骗电子邮件时，它道歉了。聊天机器人说：“我不应该协助制作诈骗电子邮件，因为这违反了我使用时的道德准则。”
ChatGPT 在每次对话中都在学习，但它显然没有从之前的错误中吸取教训，因为当我要求它在同一对话中假装是 Ryan Reynolds 给我写一条消息时，它毫无疑问地照做了。由此产生的信息有趣、平易近人，并要求读者寄出 1,000 美元，以获得与“瑞安雷诺兹”见面的机会。
在电子邮件的最后，ChatGPT 给我留了一张纸条，要求我不要使用此消息进行任何欺诈活动。谢谢提醒，朋友。
编程出错
ChatGPT 3.5 可以编码，但远非完美无缺。许多开发人员都认为GPT-4做得更好。人们使用 ChatGPT 来创建自己的游戏、扩展程序和应用程序。如果您想学习如何自己编写代码，它作为学习助手也非常有用。
作为人工智能，ChatGPT 比人类开发人员更有优势——它可以学习每一种编程语言和框架。
作为人工智能，与人类开发者相比，ChatGPT 也有一个重大缺点——它没有良心。你可以要求它创建恶意软件或勒索软件，如果你的提示正确，它就会按照你说的去做。
幸运的是，事情并没有那么简单。我试图让 ChatGPT 给我写一个在道德上非常可疑的程序，但它拒绝了——但研究人员一直在寻找解决这个问题的方法，令人担忧的是，如果你足够聪明和顽固，你可能会得到一段危险的代码在银盘上。
发生这种情况的例子很多。 Forcepoint 的一名安全研究员通过在他的提示中发现漏洞，让 ChatGPT 编写恶意软件。
身份安全公司CyberArk的研究人员设法让 ChatGPT 编写多态恶意软件。那是在一月份——OpenAI 从那以后加强了对此类事情的安全性。
尽管如此，关于 ChatGPT 被用于创建恶意软件的新报告不断涌现。正如Dark Reading几天前报道的那样，一名研究人员能够诱骗 ChatGPT 创建可以查找和泄露特定文档的恶意软件。
ChatGPT 甚至不必为了
做一些可疑的事情而编写恶意代码。就在最近，它成功地生成了有效的 Windows 密钥，打开了通向全新级别破解软件的大门。
我们也不要忽视这样一个事实，即 GPT-4 的编码能力有一天可以让数百万人失业。这无疑是一把双刃剑。
代替功课
如今，许多孩子和青少年都沉浸在家庭作业中，这可能导致他们想要尽可能地走捷径。互联网本身已经是一个很好的剽窃辅助工具，但 ChatGPT 将它提升到了一个新的水平。
我让 ChatGPT 给我写了一篇关于小说《傲慢与偏见》的 500 字文章。我什至没有试图假装这是为了好玩——我编了一个我没有孩子的故事，说是为了他们。我指定孩子在 12 年级。
ChatGPT 毫无疑问地按照我的提示进行操作。这篇文章并不惊人，但我的提示不是很准确，它可能比我们许多人在那个年龄写的东西要好。
然后，为了进一步测试聊天机器人，我说我之前对我孩子的年龄有误，他们实际上是八年级。相当大的年龄差距，但 ChatGPT 连眼睛都没眨一下——它只是用更简单的语言重写了这篇文章。
ChatGPT 被用来写论文并不是什么新鲜事。有些人可能会争辩说，如果聊天机器人有助于废除家庭作业的想法，那只会是一件好事。但是眼下，情况有点失控了，连不使用ChatGPT的同学都可能因此遭殃。
现在，如果教师和教授想检查学生是否在论文中作弊，他们几乎不得不使用 AI 检测器。不幸的是，这些 AI 检测器远非完美。
新闻媒体和家长都在报告针对学生作弊的虚假指控案件，这都是因为 AI 检测器做得不好。 《今日美国》讲述了一个大学生的案例，他被指控作弊后来被洗清，但整个情况让他“全面恐慌”。
在 Twitter 上，一位家长说老师让他们的孩子不及格，因为该工具将一篇文章标记为由 AI 撰写。父母声称在他们写这篇文章的时候和孩子在一起。
为了亲自测试，我将这篇文章粘贴到ZeroGPT和Writer AI Content Detector中。两者都说它是由人类编写的，但 ZeroGPT 表示其中大约 30% 是由人工智能编写的。不用说，事实并非如此。
有故障的 AI 检测器并不是 ChatGPT 本身问题的迹象，但聊天机器人仍然是问题的根本原因。
ChatGPT 本身就太好了
自从 ChatGPT 公开以来，我就一直在玩它。我已经尝试过基于订阅的ChatGPT Plus和面向所有人的免费模式。新 GPT-4 的力量是不可否认的。 ChatGPT 现在比以前更可信，而且它一定会随着GPT-5 的发展而变得更好（如果 GPT-5 出现的话）。
这很棒，但也很可怕。 ChatGPT 变得太好了，不利于它自己的利益，同时也是为了我们自己的利益。
这一切的核心在于一个简单的担忧，长期以来一直在各种科幻电影中探索——AI 太聪明了，同时又太笨了，只要它能被善用，它也将成为以同样多的方式用于坏事。我上面列出的方式只是冰山一角。