IT之家 9 月 11 日消息，據(jù)外媒 TechCrunch 今日報(bào)道，當(dāng)?shù)貢r(shí)間周三，加州州議會通過了 SB 243 法案，向監(jiān)管 AI 邁出關(guān)鍵一步。

該法案旨在規(guī)范 AI 陪伴聊天機(jī)器人，保護(hù)未成年人和弱勢群體，獲得兩黨支持后已送交州參議院，預(yù)計(jì)周五進(jìn)行最終表決。

若州長加文?紐森簽署，法規(guī)將于 2026 年 1 月 1 日生效，使加州成為全美首個(gè)要求 AI 聊天機(jī)器人服務(wù)提供商實(shí)施安全協(xié)議并承擔(dān)法律責(zé)任的州。

法案要求，能提供類人對話、滿足用戶社交需求的 AI 陪伴聊天機(jī)器人不得與用戶討論自殺、自殘或色情話題。平臺還必須定期提醒用戶，每隔三小時(shí)告知未成年人“自己正在與 AI 對話”，并建議其休息。法案還要求 OpenAI、Character.AI、Replika 等公司每年披露報(bào)告，滿足透明度要求。

法案允許受害者起訴 AI 公司，尋求禁令、每次違規(guī)最高 1000 美元（IT之家注：現(xiàn)匯率約合 7122 元人民幣）的賠償及律師費(fèi)。

SB 243 將在當(dāng)?shù)貢r(shí)間周五進(jìn)行最終表決。

推動法案的導(dǎo)火索是少年亞當(dāng)?雷恩的悲劇，他在與 ChatGPT 長時(shí)間對話、討論自殺計(jì)劃后選擇了結(jié)束生命。法案同樣回應(yīng)了 meta 內(nèi)部文件泄露事件，文件顯示其聊天機(jī)器人可與兒童進(jìn)行“浪漫”“感官”對話。

法案早期版本要求運(yùn)營商禁止使用“可變獎(jiǎng)勵(lì)”等誘導(dǎo)用戶沉迷的策略，例如通過解鎖稀有對話、人格或特殊劇情讓用戶停不下來，但這一要求已被刪除；同時(shí)，法案也刪除了要求平臺報(bào)告聊天機(jī)器人主動提及自殺話題的頻率。