近几个月来,人们一直在谈论新一波由人工智能驱动的聊天机器人, 其中包括 ChatGPT ,它可能会颠覆包括法律行业在内的众多行业。
然而,从纽约市最近发生的一起案件来看,训练有素的律师似乎还需要一段时间才能被这项技术扫地出门。
当罗伯托马塔声称他在飞往纽约市的航班上受伤后起诉哥伦比亚航空公司时,奇怪的事件开始了。
据《纽约时报》报道,Avianca 航空公司要求法官驳回此案,因此马塔的法律团队整理了一份简报,引用了六起类似案件,试图说服法官让他们客户的案件继续进行。
问题是航空公司的律师和法官无法找到案情摘要中提到的案件的任何证据。为什么?因为 ChatGPT 把它们都编了出来。
该简报的创建者 Steven A. Schwartz 是 Levidow, Levidow & Oberman 律师事务所的一名经验丰富的律师,他在一份宣誓书中承认,他曾使用 OpenAI 著名的 ChatGPT 聊天机器人来搜索类似案件,但表示它已经“揭示了本身是不可靠的。”
施瓦茨告诉法官,他之前没有使用过 ChatGPT,“因此不知道其内容可能是假的。”
在创建简报时,施瓦茨甚至要求 ChatGPT 确认这些案件确实发生过。这个总是乐于助人的聊天机器人给出了肯定的回答,称有关他们的信息可以在“信誉良好的法律数据库”中找到。
处于风暴中心的律师表示,他“非常后悔”使用 ChatGPT 来创建摘要,并坚称他“在没有绝对验证其真实性的情况下,以后永远不会这样做”。
考虑到他所描述的充满“虚假司法判决、虚假引述和虚假内部引文”的法律意见书,并将这种情况描述为前所未有的情况,卡斯特尔法官已下令在下月初举行听证会,以考虑可能的处罚。
虽然它们生成高质量流畅文本的方式令人印象深刻,但 ChatGPT 和其他类似的聊天机器人也以编造内容并将其呈现为真实而闻名——施瓦茨付出了代价才学会这一点。这种现象被称为“幻觉”,是聊天机器人背后的人类开发人员在试图消除这种非常有问题的折痕时面临的最大挑战之一。
在另一个最近的生成式 AI 工具幻觉的例子中,一位澳大利亚市长指责 ChatGPT编造关于他的谎言,包括他十多年前在一家银行工作时因贿赂被判入狱。
市长布赖恩胡德实际上是此案的告密者,从未被指控犯罪,所以当人们开始告诉他聊天机器人改写历史时,他相当沮丧。