據(jù)美聯(lián)社報(bào)道，當(dāng)?shù)貢r(shí)間9月11日，美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)宣布已對(duì)多家社交媒體和人工智能公司展開調(diào)查，關(guān)注其AI聊天機(jī)器人可能對(duì)兒童和青少年造成的負(fù)面影響。

FTC表示，已向谷歌母公司 Alphabet、Facebook 及 Instagram 母公司 meta Platforms、Snap、Character Technologies Inc.(Character.Al的開發(fā)商)、ChatGPT 制造商 OpenAI 以及 xAI 發(fā)出函件。希望了解這些公司是否已采取措施評(píng)估其聊天機(jī)器人作為伴侶時(shí)的安全性，以限制兒童和青少年的使用這些產(chǎn)品及其潛在的負(fù)面影響，并向用戶和家長(zhǎng)通報(bào)與聊天機(jī)器人相關(guān)的風(fēng)險(xiǎn)。

FTC宣布展開調(diào)查行動(dòng)后，meta 拒絕對(duì)調(diào)查發(fā)表評(píng)論，Alphabet、Snap、OpenAI 和 xAI 也尚未立即回應(yīng)置評(píng)請(qǐng)求。

Character.AI 表示，期待與 FTC 就此次調(diào)查展開合作，并為消費(fèi)者人工智能行業(yè)及其快速發(fā)展的技術(shù)領(lǐng)域提供專業(yè)見解。公司強(qiáng)調(diào)：“作為初創(chuàng)企業(yè)，我們?cè)谛湃闻c安全領(lǐng)域投入了大量資源。過去一年間，我們推出了多項(xiàng)實(shí)質(zhì)性安全功能，包括全新的未成年人專屬體驗(yàn)?zāi)Ｊ胶图议L(zhǎng)洞察功能。所有聊天界面均設(shè)有醒目標(biāo)注，提醒用戶：虛擬角色并非真實(shí)人物，其所有言論均應(yīng)視為虛構(gòu)內(nèi)容。”

本月初，OpenAI 和 meta 宣布已對(duì)其聊天機(jī)器人在青少年提出自殺問題或表現(xiàn)出精神和情緒痛苦跡象時(shí)的反應(yīng)方式進(jìn)行了調(diào)整。

OpenAI 表示，正在推出新的控制措施，使父母能夠?qū)⑺麄兊馁~戶與青少年的賬戶連接起來。根據(jù)該公司的一篇博客文章，父母可以選擇禁用一些功能，并在系統(tǒng)檢測(cè)到他們的孩子處于極度痛苦時(shí)收到通知。相關(guān)調(diào)整預(yù)計(jì)將在今年秋季生效。

meta指出，當(dāng)前正在阻止其聊天機(jī)器人與青少年談?wù)撟詺垺⒆詺ⅰ嬍呈д{(diào)和不恰當(dāng)?shù)膽賽蹖?duì)話，并引導(dǎo)他們?cè)L問專業(yè)資源，也已經(jīng)在青少年賬戶上提供了家長(zhǎng)控制功能。