OpenAI 前员工 William Saunders 和 Daniel Kokotajlo 致信加州州长 Gavin Newsom，称该公司反对一项对未来人工智能开发实施严格安全准则和协议的州法案，这令人失望，但并不奇怪。
“我们加入 OpenAI 是因为我们希望确保该公司正在开发的极其强大的人工智能系统的安全性，”Saunders 和 Kokotajlo 写道。 “但我们从 OpenAI 辞职，因为我们不再相信它会安全、诚实、负责任地开发人工智能系统。”
两人认为，没有足够护栏的进一步发展“会给公众带来可预见的灾难性伤害风险”，无论是“前所未有的网络攻击还是协助制造生物武器”。
两人还很快指出 OpenAI 首席执行官 Sam Altman 在监管问题上的虚伪。他们指出，他最近在国会作证时呼吁对人工智能行业进行监管，但指出“当实际监管摆在桌面上时，他反对。”
根据 MITRE 公司和哈里斯民意调查 2023 年的一项调查，只有 39% 的受访者认为当今的人工智能技术“安全可靠”。
所讨论的法案SB-1047（ 《前沿人工模型安全创新法案》）将“除其他外，要求开发人员在开始最初训练涵盖的模型之前……遵守各种要求，包括实施该功能”迅速实施全面关闭……并实施书面且单独的安全协议。” OpenAI近年来遭遇多起数据泄露和系统入侵事件。
据报道，OpenAI 强烈不同意研究人员“错误描述了我们在 SB 1047 上的立场”，正如一位发言人告诉Business Insider 的那样。 OpenAI 首席战略官 Jason Kwon 在给 OpenAI 的一封信中表示，该公司辩称，“一套由联邦政府驱动的人工智能政策，而不是各州法律的拼凑，将促进创新，并使美国能够引领全球标准的制定。”加利福尼亚州参议员斯科特·维纳 (Scott Wiener)，二月。
Saunders 和 Kokotajlo 反驳说，OpenAI 推动联邦监管的行为并非出于善意。 “我们迫不及待地等待国会采取行动——他们已经明确表示他们不愿意通过有意义的人工智能监管，”两人写道。 “如果他们真的这么做了，就可以抢占加州立法的先机。”