人工智能聊天机器人在客户服务交流过程中失控

国际快递公司 DPD 正在更新其人工智能聊天机器人,因为该机器人在与心怀不满的客户交流时给出了一些意想不到的回应。

音乐家 Ashley Beauchamp 最近求助于 DPD 的客户服务聊天机器人来寻找丢失的包裹。

在与聊天机器人取得一些进展后,他决定找点乐子,要求它写一首批评公司的诗,它也照做了。他还要求它咒骂,它再次答应了,并在回应中使用了脏话。

博尚在社交媒体上的一篇帖子中分享了他的沮丧之情,该帖子目前已被浏览近 200 万次。

“包裹递送公司 DPD 已经用人工智能机器人取代了他们的客户服务聊天,”这位音乐家写道。 “它对于回答任何问题毫无用处,当被问到时,它很高兴地创作了一首诗来描述他们作为一家公司有多么糟糕。它还咒骂我。”

屏幕截图显示,Beauchamp 要求 DPD 聊天机器人创作一首俳句——一首由 17 个音节组成的日本诗,第一行有 5 个音节,后面是 7 个音节和 5 个音节。但数字助理甚至无法做到这一点,弄乱了音节计数,即使情绪是正确的。

诗曰:
“DPD 毫无用处,
聊天机器人帮不了你。
不用费心给他们打电话。”

DPD 表示,在最近的系统更新后,其人工智能聊天机器人出现了错误,并补充说,它正在努力确保不再发生这种情况。

尽管多年来许多公司都部署了聊天机器人作为其客户服务设置的一部分,但许多公司因无法提供有意义的帮助而受到批评。但随着去年生成式人工智能通过 ChatGPT 等工具获得巨大关注,人们希望这种更先进的技术能够将客户服务聊天机器人转变为更有效的助手。但 Beauchamp 发现 DPD 的人工智能聊天机器人“完全没用”,然后才让 DPD 发誓并批评该公司,因此该技术显然仍需要一些调整。

博尚表示,他觉得这起事件很有趣,但他补充道,“这些聊天机器人本应改善我们的生活,但如果实施不当,往往只会给用户带来更令人沮丧、更不人性化的体验。”


Posted

in

by

Tags: