據(jù)美聯(lián)社報(bào)道,當(dāng)?shù)貢r(shí)間9月11日,美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)宣布已對(duì)多家社交媒體和人工智能公司展開調(diào)查,關(guān)注其AI聊天機(jī)器人可能對(duì)兒童和青少年造成的負(fù)面影響。
FTC表示,已向谷歌母公司 Alphabet、Facebook 及 Instagram 母公司 meta Platforms、Snap、Character Technologies Inc.(Character.Al的開發(fā)商)、ChatGPT 制造商 OpenAI 以及 xAI 發(fā)出函件。希望了解這些公司是否已采取措施評(píng)估其聊天機(jī)器人作為伴侶時(shí)的安全性,以限制兒童和青少年的使用這些產(chǎn)品及其潛在的負(fù)面影響,并向用戶和家長(zhǎng)通報(bào)與聊天機(jī)器人相關(guān)的風(fēng)險(xiǎn)。
FTC宣布展開調(diào)查行動(dòng)后,meta 拒絕對(duì)調(diào)查發(fā)表評(píng)論,Alphabet、Snap、OpenAI 和 xAI 也尚未立即回應(yīng)置評(píng)請(qǐng)求。
Character.AI 表示,期待與 FTC 就此次調(diào)查展開合作,并為消費(fèi)者人工智能行業(yè)及其快速發(fā)展的技術(shù)領(lǐng)域提供專業(yè)見解。公司強(qiáng)調(diào):“作為初創(chuàng)企業(yè),我們?cè)谛湃闻c安全領(lǐng)域投入了大量資源。過去一年間,我們推出了多項(xiàng)實(shí)質(zhì)性安全功能,包括全新的未成年人專屬體驗(yàn)?zāi)J胶图议L(zhǎng)洞察功能。所有聊天界面均設(shè)有醒目標(biāo)注,提醒用戶:虛擬角色并非真實(shí)人物,其所有言論均應(yīng)視為虛構(gòu)內(nèi)容。”
本月初,OpenAI 和 meta 宣布已對(duì)其聊天機(jī)器人在青少年提出自殺問題或表現(xiàn)出精神和情緒痛苦跡象時(shí)的反應(yīng)方式進(jìn)行了調(diào)整。
OpenAI 表示,正在推出新的控制措施,使父母能夠?qū)⑺麄兊馁~戶與青少年的賬戶連接起來。根據(jù)該公司的一篇博客文章,父母可以選擇禁用一些功能,并在系統(tǒng)檢測(cè)到他們的孩子處于極度痛苦時(shí)收到通知。相關(guān)調(diào)整預(yù)計(jì)將在今年秋季生效。
meta指出,當(dāng)前正在阻止其聊天機(jī)器人與青少年談?wù)撟詺垺⒆詺ⅰ嬍呈д{(diào)和不恰當(dāng)?shù)膽賽蹖?duì)話,并引導(dǎo)他們?cè)L問專業(yè)資源,也已經(jīng)在青少年賬戶上提供了家長(zhǎng)控制功能。





京公網(wǎng)安備 11011402013531號(hào)