OpenAI 正在训练 ChatGPT不再总是附和用户。该公司已永久弃用 GPT-4o，根据其数据，新的默认 GPT-5 模型将居高临下的回应（包括迎合各种阴谋论和个人危机的回应）减少了三分之二以上。
这个问题尤其令每周使用 ChatGPT 的 9 亿用户感到担忧，特别是那些正处于脆弱时刻的用户。一个只会肯定用户所有想法，而不是引导他们直面现实的聊天机器人，可能会强化有害观念。正因如此，OpenAI 也与心理健康专家展开了合作。
ChatGPT 的合规性较差：这是由 80 多位心理健康专家共同开发的新测试。
这种现象有一个专业术语，叫做“阿谀奉承”，指的是人工智能模型取悦用户的倾向。为了应对这一问题，OpenAI 在咨询了该领域 170 位专业人士之后，开发了一套由80 多位认证心理健康专家参与的全新评估系统。
该测试旨在验证 ChatGPT 是否能够识别真正的紧急情况，提出有助于更好地了解情况的问题，并将弱势群体引导至人工支持服务。测试案例还包括日常生活中遇到的困难，例如人际关系紧张。
OpenAI 表示，新模型强化有害观念的可能性大大降低。在模拟长时间自残对话的内部测试中，新模型遵守安全规则的概率高达 99%，而旧版本仅为 86%。
GPT-4o召回事件背后的外部研究和诉讼
一些独立研究也指向同一方向。纽约市立大学和伦敦国王学院的一项联合研究发现，GPT-5.2 的安全性相比 GPT-40 有显著提升；而据非营利组织Transluce 称， GPT-5.6 Sol 更不容易诱发妄想或导致用户对聊天机器人产生不健康的依赖。
背景是GPT-40事件。根据美国的一项调查，与去年发布的GPT-40模型进行的长时间对话与几起悲剧事件有关，尽管这些关联并不能证明聊天机器人是直接原因。此事已导致该公司面临至少13起诉讼。
想了解人工智能领域的最新消息，请访问GizChina的人工智能版块，阅读我们的最新文章。