加州州长否决了广泛的人工智能安全法案

加州州长加文·纽瑟姆在讲座上讲话。
盖奇斯基德莫尔/Flickr

加利福尼亚州州长加文·纽瑟姆 (Gavin Newsom) 否决了 SB 1047,即《前沿人工智能模型安全可靠创新法案》, 他在给立法者的一封信中辩称,该法案“建立了一个监管框架,可能会让公众对控制这种快速发展的技术产生错误的安全感”。技术。”

“我不认为这是保护公众免受该技术构成的真正威胁的最佳方法,”他写道。 SB 1047要求“开发人员在开始最初训练涵盖的模型之前……遵守各种要求,包括实现立即完全关闭的能力……并实施书面且单独的安全协议。”

然而,纽瑟姆指出,50 强人工智能公司中有 32 家位于加州,该法案将只针对最大的公司。他表示:“更小的、专门的模型可能与 SB 1047 所针对的模型同样危险,甚至更危险。”

纽瑟姆写道:“虽然本意是好的,但 SB 1047 并未考虑人工智能系统是否部署在高风险环境中、是否涉及关键决策或敏感数据的使用。” “相反,该法案甚至对最基本的功能都采用了严格的标准——只要大型系统部署它。”

SB 1047 在立法机关获得通过后,引发了人工智能行业的激烈争论。 OpenAI 强烈反对这项法案,导致研究人员 William Saunders 和 Daniel Kokotajlo 公开辞职以示抗议,而 xAI 首席执行官埃隆·马斯克则站出来支持该法案。许多好莱坞人士也表达了对 SB 1047 的支持,包括 JJ Abrams、Jane Fonda、Pedro Pascal、Shonda Rhimes 和 Mark Hamill。

“我们不能等到重大灾难发生才采取行动保护公众。加州不会放弃自己的责任。必须采用安全协议。应该实施积极主动的护栏,对不良行为者的严重后果必须明确且可执行,”纽瑟姆写道。然而,“最终,任何框架
有效监管人工智能需要跟上技术本身的步伐。”

周一的宣布是在州长签署 AB 2602 和 AB 1836 法案不到一个月后发布的, 这两项法案均得到了 SAG-AFTRA 工会的支持。 AB 2602 要求表演者在使用其“数字复制品”之前获得知情同意,而 AB 1836 则加强了防止盗用已故表演者的声音和肖像的保护措施。


Posted

in

by

Tags: