IT之家 10 月 30 日消息,北京時(shí)間今日,聊天機(jī)器人平臺 Character.AI 宣布,將針對青少年用戶推出多項(xiàng)安全措施,此前公司收到了監(jiān)管機(jī)構(gòu)、安全專家和家長的反饋。
其中一項(xiàng)關(guān)鍵措施,就是在 11 月 25 日前全面取消未滿 18 歲用戶的開放式聊天功能。在此之前,Character.AI 表示,未成年用戶每天的聊天時(shí)間將從兩小時(shí)起逐步縮短。為了讓青少年仍能保持互動,Character.AI 將推出新的創(chuàng)意功能,包括與角色共同制作視頻、故事和直播內(nèi)容。
![]()
Character.AI 還表示,將推出自主研發(fā)的年齡認(rèn)證系統(tǒng),并結(jié)合 Persona 等領(lǐng)先第三方工具,確保每位用戶只能使用適合其年齡的 Character.AI 功能。
此外,Character.AI 將成立獨(dú)立非營利的 AI 安全實(shí)驗(yàn)室,公司將提供資金支持。實(shí)驗(yàn)室將專注于下一代 AI 娛樂功能的安全設(shè)計(jì)創(chuàng)新,重點(diǎn)探索新型安全技術(shù)、加強(qiáng)合作并分享經(jīng)驗(yàn)。
Character.AI 向受開放式聊天取消影響的青少年用戶表示歉意,并承認(rèn)這是一個(gè)重大調(diào)整,但公司仍認(rèn)為此舉是正確選擇。
據(jù)IT之家此前報(bào)道,美國佛羅里達(dá)州一名母親 Megan Garcia 指控人工智能平臺 Character.AI 的聊天機(jī)器人導(dǎo)致其 14 歲兒子自殺。聯(lián)邦法官裁定,谷歌與 Character.AI 必須面對這起訴訟。





京公網(wǎng)安備 11011402013531號