加州州长否决了制定美国首个人工智能安全措施的法案

加利福尼亚州萨克拉门托(美联社)——加利福尼亚州州长加文·纽森周日否决了一项具有里程碑意义的法案，该法案旨在建立全国首个大型人工智能模型。

这一决定对试图控制这个本土行业的努力是一个重大打击，这个行业正在迅速发展，几乎没有监管。支持者表示，该法案将在全国范围内建立一些关于大规模人工智能模型的首批法规，并为全国范围内的人工智能安全法规铺平道路。

本月早些时候，这位民主党州长在软件巨头Salesforce主办的Dreamforce年度会议上对听众说，面对联邦政府的不作为，加州必须在监管人工智能方面发挥领导作用，但这“可能会对该行业产生寒蝉效应”。

纽森说，这项提案遭到了初创公司、科技巨头和几名民主党众议员的强烈反对，它可能会因为设定了严格的要求而损害本土产业。

纽森在一份声明中说:“虽然出于善意，但SB 1047没有考虑到人工智能系统是否部署在高风险环境中，是否涉及关键决策或敏感数据的使用。”相反，该法案甚至对最基本的功能也采用了严格的标准——只要是大型系统部署它。我不认为这是保护公众免受这项技术带来的真正威胁的最佳方法。”

纽森周日宣布，该州将与包括人工智能先锋在内的几位行业专家合作，为强大的人工智能模型开发护栏。李反对人工智能安全提案。

这项旨在减少人工智能带来的潜在风险的措施，将要求公司测试他们的模型，并公开披露他们的安全协议，以防止模型被操纵，例如摧毁国家电网或帮助制造化学武器。专家表示，随着该行业继续快速发展，这些情况在未来可能会出现。它还将为工人提供举报人保护。

该法案的起草人、民主党州参议员斯科特·韦纳(Scott Weiner)称，否决“对所有相信对大公司进行监管的人来说都是一个挫折，这些大公司正在做出影响公众安全和福利以及地球未来的关键决策。”

“开发先进人工智能系统的公司承认，这些模型给公众带来的风险是真实存在的，而且正在迅速增加。Wiener在周日下午的一份声明中说:“虽然大型人工智能实验室已经做出了令人钦佩的承诺，以监测和减轻这些风险，但事实是，来自行业的自愿承诺是不可执行的，而且很少对公众有好处。”

维纳说，围绕该法案的辩论极大地推进了人工智能安全问题，他将继续强调这一点。

该法案是今年立法机关通过的监管人工智能的法案之一。州议员表示，加州今年必须采取行动，理由是他们从本有机会控制社交媒体公司的失败中吸取了惨痛的教训。

包括埃隆·马斯克(Elon Musk)和Anthropic在内的该措施的支持者表示，该提案可能会为大规模人工智能模型注入一定程度的透明度和问责制，因为开发人员和专家表示，他们仍然不完全了解人工智能模型的行为方式和原因。

该法案针对的是需要建造的系统。目前还没有人工智能模型达到这一门槛，但一些专家表示，这种情况可能会在明年发生变化。

前OpenAI研究员丹尼尔·科科塔伊洛(Daniel Kokotajlo)表示:“这是因为该行业的投资规模大幅扩大。”科科塔伊洛今年4月辞职，原因是他认为该公司无视人工智能风险。“让任何一家私人公司毫无责任地控制这么大的权力，也是非常危险的。”

美国在限制风险方面已经落后了。加州的提案不像欧洲的规定那么全面，但它将是围绕快速发展的技术设置护栏的良好开端。支持者表示，这种技术正在引发人们对失业、错误信息、侵犯隐私等问题的担忧。

去年，一些领先的人工智能公司遵循了白宫设定的保障措施，比如测试和分享有关其模型的信息。加州法案的支持者表示，该法案将要求人工智能开发商遵守与这些承诺类似的要求。

但包括前美国众议院议长南希·佩洛西在内的批评人士认为，该法案将“扼杀加州科技”，扼杀创新。他们表示，这将阻碍人工智能开发者投资大型模型或共享开源软件。

纽森否决该法案的决定标志着大型科技公司和人工智能开发商在加州的又一次胜利，其中许多人在过去一年里与加州商会(California Chamber of Commerce)一起游说，以影响州长和立法者推进人工智能法规。

另外两项全面的人工智能提案也面临着科技行业和其他行业越来越大的反对，上月在立法截止日期之前夭折。这些法案将要求人工智能开发者为人工智能生成的内容贴上标签，并用于做出雇佣决定。

这位州长在今年夏天早些时候表示，他希望保护加州作为人工智能全球领导者的地位，并指出全球前50家人工智能公司中有32家位于加州。

他推动加州成为解决高速公路拥堵、提供税收指导和简化无家可归者项目的先行者。该州上个月还宣布与人工智能巨头英伟达合作，帮助培训学生、大学教师、开发人员和数据科学家。加州也在考虑在招聘实践中针对人工智能歧视的新规定。

本月早些时候，纽森签署了一些美国最严厉的法律，以打击和阻止未经授权的人工智能使用。

但即使纽森否决了加州的安全提案，隐私未来论坛(Future of Privacy Forum)副主任塔蒂亚娜·赖斯(Tatiana Rice)说，加州的安全提案也在激励其他州的立法者采取类似措施。隐私未来论坛是一家与立法者就技术和隐私提案进行合作的非营利组织。

赖斯说:“他们可能会在下次立法会议上复制它，或者做类似的事情。”“所以它不会消失。”

—-

美联社和OpenAI允许OpenAI访问美联社的部分文本档案。