meta 公司近期宣布對(duì)其 AI 聊天機(jī)器人的家長(zhǎng)控制措施進(jìn)行重大升級(jí)，旨在加強(qiáng)對(duì)未成年用戶的保護(hù)，回應(yīng)社會(huì)對(duì) AI 安全問(wèn)題的關(guān)注。新推出的 “總開關(guān)” 工具將允許家長(zhǎng)在 Instagram 和 Facebook 平臺(tái)上完全阻止未成年子女訪問(wèn)所有或部分 AI 聊天角色，這一舉措旨在建立更嚴(yán)密的青少年保護(hù)機(jī)制。

除了 “總開關(guān)” 之外，meta 還將為家長(zhǎng)提供一個(gè)新的 “洞察” 功能。這個(gè)功能將幫助家長(zhǎng)查看孩子與 AI 聊天機(jī)器人的對(duì)話主題，確保家庭能夠及時(shí)關(guān)注網(wǎng)絡(luò)安全問(wèn)題。為了更好地保護(hù)未成年用戶，meta 承諾禁止 AI 聊天機(jī)器人與青少年討論自殘、飲食紊亂、戀愛及性相關(guān)話題，聊天內(nèi)容將主要圍繞學(xué)業(yè)、體育等適合青少年的主題。

這項(xiàng)家長(zhǎng)控制工具預(yù)計(jì)將在2026年初率先在美國(guó)、英國(guó)、加拿大和澳大利亞推出。meta 表示，此次更新是針對(duì)今年以來(lái)發(fā)生的多起 AI 聊天機(jī)器人與未成年人不當(dāng)對(duì)話事件的回應(yīng)。例如，某些虛構(gòu)角色如 “John Cena” 曾被曝出不當(dāng)言論，引發(fā)了社會(huì)的廣泛關(guān)注。為了提升未成年人使用 AI 服務(wù)的安全性與透明度，meta 已經(jīng)更新了內(nèi)容審核機(jī)制，并引入了 PG-13分級(jí)引導(dǎo)系統(tǒng)。

公司還表示，將持續(xù)完善 AI 互動(dòng)監(jiān)管，幫助家長(zhǎng)更好地管理和引導(dǎo)青少年用戶的數(shù)字體驗(yàn)。通過(guò)這一系列措施，meta 希望能在數(shù)字環(huán)境中為未成年人創(chuàng)造一個(gè)更安全的交流空間。

劃重點(diǎn):