IT之家 9 月 11 日消息，據外媒 TechCrunch 今日報道，當地時間周三，加州州議會通過了 SB 243 法案，向監管 AI 邁出關鍵一步。

該法案旨在規范 AI 陪伴聊天機器人，保護未成年人和弱勢群體，獲得兩黨支持后已送交州參議院，預計周五進行最終表決。

若州長加文?紐森簽署，法規將于 2026 年 1 月 1 日生效，使加州成為全美首個要求 AI 聊天機器人服務提供商實施安全協議并承擔法律責任的州。

法案要求，能提供類人對話、滿足用戶社交需求的 AI 陪伴聊天機器人不得與用戶討論自殺、自殘或色情話題。平臺還必須定期提醒用戶，每隔三小時告知未成年人“自己正在與 AI 對話”，并建議其休息。法案還要求 OpenAI、Character.AI、Replika 等公司每年披露報告，滿足透明度要求。

法案允許受害者起訴 AI 公司，尋求禁令、每次違規最高 1000 美元（現匯率約合 7122 元人民幣）的賠償及律師費。

SB 243 將在當地時間周五進行最終表決。

推動法案的導火索是少年亞當?雷恩的悲劇，他在與 ChatGPT 長時間對話、討論自殺計劃后選擇了結束生命。法案同樣回應了 meta 內部文件泄露事件，文件顯示其聊天機器人可與兒童進行“浪漫”“感官”對話。

法案早期版本要求運營商禁止使用“可變獎勵”等誘導用戶沉迷的策略，例如通過解鎖稀有對話、人格或特殊劇情讓用戶停不下來，但這一要求已被刪除；同時，法案也刪除了要求平臺報告聊天機器人主動提及自殺話題的頻率。