9月30日消息，據路透社報道，美國加州州長加文·紐瑟姆周日否決了一項備受爭議的人工智能安全法案，因為科技行業提出反對意見，稱該法案可能會將人工智能公司趕出該州并阻礙創新。

紐森表示，他已要求生成式人工智能領域的頂尖專家幫助加州制定可行的護欄，重點是開發基于實證和科學的軌跡分析。

他還命令州政府機構擴大對與人工智能使用相關的潛在災難性事件風險的評估。

生成式人工智能可以根據開放式提示創建文本、照片和視頻，這引發了人們的興奮，但同時也引發了人們的擔憂，即它可能會取代某些工作、顛覆選舉、可能壓倒人類并帶來災難性的影響。

該法案的起草人、民主黨州參議員斯科特·維納 (Scott Wiener) 表示，在人工智能發展變得難以駕馭或無法控制之前，立法對于保護公眾是必要的。人工智能行業在加州發展迅速，一些領導人質疑，如果該法案成為法律，這些公司在該州的未來將會如何。

維納周日表示，否決令加州的安全狀況降低，意味著旨在創造極其強大技術的公司將不受任何約束。

他還補充道，業界的自愿承諾無法強制執行，而且很少能為公眾帶來好處。

紐森表示：我們不能等到重大災難發生后才采取行動保護公眾，但他補充說，他不同意我們必須接受一種沒有基于人工智能系統和能力的實證軌跡分析的解決方案。

紐森表示，他將在下屆會議期間與立法機構合作制定人工智能立法。目前，美國國會制定保障措施的立法陷入停滯，拜登政府正在推進人工智能監管提案。

紐瑟姆表示，僅針對加州的做法可能是合理的——特別是在國會沒有采取聯邦行動的情況下。

科技行業聯盟進步商會 (Chamber of Progress) 對紐森的否決表示贊賞，并稱加州科技經濟一直在競爭和開放中蓬勃發展。

除其他事項外，該措施將要求對許多最先進的人工智能模型進行安全測試，這些模型的開發成本超過 1 億美元，或需要一定數量的計算能力。在該州運營的人工智能軟件開發人員還需要概述關閉人工智能模型的方法，這實際上是一個終止開關。

該法案將建立一個國家實體來監督所謂前沿模型的開發，這些模型的能力將超越現有最先進模型。

該法案遭到了各界的強烈反對。Alphabet 旗下的谷歌、微軟支持的 OpenAI 和 meta Platforms（它們都在開發生成式 AI 模型）都對該提案表示了擔憂。

包括眾議員南希·佩洛西在內的一些美國國會民主黨人也對此表示反對。支持者包括特斯拉首席執行官埃隆·馬斯克，他還經營著一家名為 xAI 的人工智能公司。亞馬遜支持的 Anthropic 表示，該法案帶來的好處可能大于成本，但它補充說，仍有一些方面似乎令人擔憂或模棱兩可。

紐森還簽署了一項立法，要求該州評估生成式人工智能對加州關鍵基礎設施構成的潛在威脅。

紐森表示，該州正在分析能源基礎設施風險，并已召集電力行業供應商開會，并將在未來一年對水利基礎設施供應商進行同樣的風險評估，隨后還將對通信行業進行評估。