編譯 | 尹明順

編輯 | 漠影

9月30日消息，據路透社報道，美國加利福尼亞州參議員（Scott Wiene）于今年2月7日擬定的《SB-1047前沿AI大模型安全創新法案》（簡稱SB-1047法案）于今日凌晨，被加州州長Gavin Newsom徹底否決。其認為，該法案可能會將AI公司趕出加州，并對科技創新造成阻礙。

據悉，SB-1047法案主要用于增強大模型安全性、透明性、完善AI使用規范條例，該法案一經提出就引發極大爭議。

法案要求對許多最先進的AI模型進行安全測試，這些模型的開發成本超過1億美元，需要特定數量的計算能力。此外，法案還將通過設立一個州級機構，負責監督所謂“前沿模型”的開發。

對此，多家科技公司對SB-1047法案都表達了抗拒態度。meta認為該法案有可能對AI在加州的開發和部署產生不利作用。Facebook母公司的首席科學家Yann LeCun曾在社交媒體X的一篇帖子中稱該法案可能對研究工作產生負面影響。

OpenAI的ChatGPT也認為AI應該由聯邦政府監管，但SB-1047創造了一個充滿不確定的法律環境。它認為該法案將對AI發展構成威脅，并可能導致企業家和工程師離開該州。

一、AI發展迅速，SB-1047法案提出利弊交加

生成式AI可以根據提示創建文本、照片和視頻，這令人興奮，也讓人擔憂。因為AI的使用可能會使得一些工作崗位不那么被需要，會對選舉造成顛覆性影響，還可能在某些方面因超越人類而造成災難性影響。

Wiener稱，在AI的發展變得難以駕馭或無法控制之前，有必要通過立法來保護公眾。

但一些領導人對此發出了質疑，如今AI產業在加利福尼亞州快速發展，如果該法案通過，確立為正式法律條例，可能會使那些AI公司在該州未來的發展受到影響。

Newsom認為：“我們不能等到發生重大災難后才采取行動來保護公眾”，但他同樣覺得，該法案目前尚待完善，將其正式立法可能會對AI公司在加州的發展造成阻力，不利于科技創新。

▲美國加州州長Gavin Newsom（圖源：X平臺個人社交帳號）

科技行業聯盟“進步商會”（Chamber of Progress）對Newsom的否決意見表達了贊賞，稱“加利福尼亞州的科技與經濟一直依賴于競爭和開放的環境才得以蓬勃發展。”

對于Newsom的否決，Wiener回應稱，此行會使得加利福尼亞州的安全性降低，這意味著“那些想要創造極其強大技術的公司不會面臨任何強制性限制”。他補充說：“行業的自愿承諾是缺少執行性的，對公眾來說幾乎沒什么好結果。”

二、SB-1047“BUG”眾多，急需打造AI風險科學分析體系

Newsom出面徹底否決了該法案，除去認為該法案不利科技創新與AI發展外，他還給出了這樣的一個原因：“我并不認為我們應該遵循那些沒有基于AI系統和能力的實際發展軌跡進行實證分析所得出的解決方案。”

他補充道，該法案沒有考慮到AI模型是否部署在高風險環境中。這一點很關鍵，因為在低風險環境中并不需要如此嚴格的監管措施。

另外，Newsom還解釋稱，法案對于AI對關鍵決策的影響也未進行說明，也沒有定義何為敏感數據。這一點的模糊界定會使得法案難以對隱私以及數據進行有效保護。

Newsom稱自己已經請了生成式AI的領先專家幫助加州開發“護欄”，并將專注于開發一種基于經驗與科學的AI軌跡分析模型。他還命令美國各州機構完善對與AI使用相關的潛在災難性事件的風險評估體系。

此處的護欄，意指一套機制或者系統，主要是用于保護技術使用安全并預防可能存在的風險。而AI軌跡分析模型，則是對AI未來發展路徑進行預測的一種科學分析手段。

Newsom還簽署了另一項法案，要求該州評估生成式AI對加利福尼亞州關鍵基礎設施構成的潛在威脅。

Newsom說，他將在下一屆立法會議期間與立法機構合作，推動AI立法。

這一行動恰好發生在這樣一個時刻，美國國會關于設立人AI保障措施的立法工作陷入了停滯狀態，而與此同時，拜登政府正在積極推動關于人工智能監管監督的提案。

結語：SB-1047法案在過去的半年里爭議良多

眾多團體強烈反對SB-1047法案的提出與落實。其中包括谷歌（旗下的Alphabet）、微軟支持的OpenAI和meta Platforms在內的公司都在開發生成式AI模型，它們都對該提案表達了擔憂。眾議院議長南希·佩洛西（Nancy Pelosi）在內的一些美國國會民主黨人也反對過該法案。

但該法案也有很多的支持者，其中包括特斯拉首席執行官埃隆·馬斯克（Elon Musk），他經營著一家名為xAI的AI公司。亞馬遜支持的Anthropic認為，該法案的益處可能大于成本，但也補充說，仍有一些方面含混不清，令人擔憂。

路透社、X