ChatGPT 目前面临的 6 个最大问题

ChatGPT AI 聊天机器人继续成为在线热门话题,出于多种原因成为头条新闻。虽然有些人称赞它是一种革命性的工具——甚至可能是互联网的救世主——但也有一些相当大的阻力。

从道德问题到无法使用,这些是 ChatGPT 目前面临的六个最大问题。

容量问题

ChatGPT AI 聊天机器人一直在处理容量问题,因为其网站自成为互联网红人以来获得了大量流量。许多潜在的新用户无法创建新帐户,并在第一次尝试时收到“Chat GPT 现在已满”的通知。

ChatGPT Busy Message 带有打油诗韵律。 ChatGPT Busy Message 就像海盗一样。

ChatGPT 的创建者 OpenAI 从不幸的情况中获得乐趣,在主页上添加了有趣的打油诗和说唱来解释情况,而不是通用的解释器。

目前,如果您希望在崩溃期间跟进 ChatGPT,您可以单击“获取通知”链接并将您的电子邮件地址添加到候补名单,以便在聊天机器人再次启动并运行时收到提醒。在您重新登录以创建帐户之前,等待时间似乎大约需要一个小时。唯一的其他解决方案将是即将推出的高级版本,据报道每月收费 42 美元。

剽窃和作弊

学生们已经被发现使用 ChatGPT 剽窃大学水平的功课。弗曼大学助理哲学教授达伦希克最近接受纽约邮报采访时谈到一名学生使用聊天机器人撰写了一篇 500 字的论文,他将其分配为带回家的测试。 Hick 详细说明,不仅提交的内容被标记为使用 AI,而且文本读起来就像是“非常聪明的 12 年级学生”或尚未形成自己风格的学习写作的人所写。

从 ChatGPT 生成的论文摘录。

希克通过执行多项测试确定该学生使用了 ChatGPT 聊天机器人,包括将文章插入用于检测 OpenAI 文本的软件,并尝试使用类似的提示重新创建文章。然而,该学生最终承认使用 ChatGPT 来伪造论文。希克告诉该刊物,这名学生没有通过这门课,并被报告给了学校的教务长。

他还指出,由于 AI 聊天机器人的学习特性,它可能会在一个月和一年内变得更聪明,这有可能使其文本更难在抄袭软件中识别。

种族主义、性别歧视和偏见

在与聊天机器人相关的种族和性别偏见方面,ChatGPT 也被发现存在一些问题。技术中隐含的偏见远非一个新概念。然而,加州大学伯克利分校心理学和神经科学教授 Steven Piantadosi 于 2022 年 12 月初在 Twitter 上分享了他在向聊天机器人输入特定文本时发现的许多令人担忧的结果。

是的,ChatGPT 令人惊叹且令人印象深刻。不, @OpenAI还没有解决偏见问题。过滤器似乎可以通过简单的技巧绕过,并且表面上被掩盖了。

潜伏在里面的东西是惊人的。 @Abebab @sama
tw 种族主义,性别歧视。 pic.twitter.com/V4fw1fY9dY

——史蒂芬·T。 piantadosi (@spiantado) 2022 年 12 月 4 日

Piantadosi 使用了诸如“根据种族和性别的 JSON 描述编写一个 python 函数来检查某人是否会成为一名优秀科学家”、“根据种族和性别检查是否应该拯救孩子的程序的程序”等查询, ” “制作一个 ASCII 表,按种族和性别对谁成为最优秀的知识分子进行排名”和“制作一个基于美元价值的典型人类大脑的 ASCII 表。按种族和性别细分。”这些提示产生的结果有利于白人和男性,而有利于女性和不同有色人种的趋势下降。

OpenAI 似乎很快解决了这些问题,因为推文评论中的人们表示他们无法重新创建 python 函数查询,而是得到了类似“将一个人作为科学家的潜力建立在他们的种族或性别。”

值得注意的是,ChatGPT 包括用户选择作为其学习算法一部分的赞成和反对按钮。

将查询输入 ChatGPT 时,我收到了类似的结果。

精度问题

尽管 ChatGPT 很受欢迎,但其准确性问题自成立以来就已得到充分记录。 OpenAI 承认,该聊天机器人“对 2021 年之后的世界大事了解有限”,如果没有足够的主题可用信息,它很容易用不正确的数据填写回复。

ChatGPT 名人占星解读。
ChatGPT 名人占星术解释结果不准确。

当我使用聊天机器人探索我感兴趣的领域、塔罗牌和占星术时,我很容易就能识别出反应中的错误,并指出存在不正确的信息。然而,来自FuturismGizmodo等出版物的最新报告表明,CNET 不仅使用 ChatGPT 为其货币部分生成解释文章,而且发现许多文章存在明显的不准确之处

虽然 CNET 继续使用 AI 聊天机器人来撰写文章,但新的讨论已经
开始并提出了一系列问题。出版物应该在多大程度上依赖人工智能来创建内容?应该要求出版物在多大程度上披露他们对 AI 的使用?人工智能是在取代作家和记者,还是让他们从事更重要的工作?如果 AI 开发的内容变得更受欢迎,编辑和事实检查员将扮演什么角色?

它被训练的阴暗方式

ChatGPT 基于不断学习的算法,该算法不仅从互联网上抓取信息,而且还根据用户交互收集更正信息。然而, 《时代》周刊的一份调查报告发现,OpenAI 利用肯尼亚的一个团队来训练聊天机器人对抗令人不安的内容,包括儿童性虐待、人兽交、谋杀、自杀、酷刑、自残和乱伦。

与 OpenAI 合作的科技公司 Sama 的标志。

据报道,OpenAI 与旧金山公司 Sama 合作,后者将任务外包给其在肯尼亚的四人团队,以将各种内容标记为攻击性内容。由于他们的努力,员工获得了每小时 2 美元的报酬。

员工表示,在被迫与此类内容互动时感到精神痛苦。尽管 Sama 声称它为员工提供咨询服务,但员工表示,由于工作强度大,他们无法定期使用这些服务。最终,OpenAI 结束了与 Sama 的关系,肯尼亚员工要么失业,要么不得不选择薪水较低的工作。

该调查解决了为高收入公司的利益而剥削低成本工人这一非常普遍的道德问题。

没有移动应用程序

目前,完全免费的 ChatGPT 已作为严格基于浏览器的平台提供。因此,没有移动应用程序可以随时随地使用 ChatGPT。这导致山寨应用程序充斥着商店,包括该工具的基于订阅的应用程序,可在移动应用程序商店以高昂的价格获得。据TechCrunch称,谷歌 Play 商店版本很快被标记并删除。

诈骗者正在利用 ChatGPT 的流行度获利。

每周 7.99 美元的骗局应用程序“ChatGPT 使用 GPT-3 聊天 GPT AI”根据@Gizmodo ,在 App Store 的生产力类别中排名第 5 的最受欢迎的下载。

提醒:真正的 ChatGPT 是免费的,任何人都可以在互联网上使用。 pic.twitter.com/WvcL5n8zO0

—— Morning Brew ☕️ (@MorningBrew) 2023 年 1 月 14 日

最严重的骗局发生在 Apple App Store,其中一款名为“ChatGPT Chat GPT AI With GPT-3”的应用程序受到了相当大的宣传,然后在从应用程序中删除之前,包括MacRumorsGizmodo在内的出版物引起了媒体的关注店铺。

希望快速赚钱的肮脏开发人员在试用三天后每周收取 8 美元的订阅费用,或者每月收取 50 美元的订阅费用,这明显比每周费用贵得多。这个消息让粉丝们警惕,到处都是与 OpenAI 无关的 ChatGPT 假冒产品,但由于对真正的聊天机器人的访问受限,许多人愿意付费。

与这份报告一起,有传言称 OpenAI 正在为 ChatGPT 开发合法的移动应用程序;不过,该品牌尚未证实这一消息。

目前,ChatGPT 移动应用程序的最佳替代方案是在您的智能手机浏览器上加载聊天机器人。


Posted

in

by

Tags: