財聯(lián)社9月12日訊(編輯 趙昊)當(dāng)?shù)貢r間周四(9月11日),美國聯(lián)邦貿(mào)易委員會(FTC)宣布已向七家公司發(fā)出命令,要求他們提供信息,以了解人工智能聊天機器人可能對兒童和青少年的負(fù)面影響。
七家公司分別為谷歌母公司Alphabet、OpenAI、meta、meta旗下的子公司Instagram、Snap、xAI以及Character Technologies Inc.(Character.AI的開發(fā)商)。
這家監(jiān)管機構(gòu)表示,人工智能(AI)聊天機器人可能被用于模擬類人交流以及與用戶建立人際關(guān)系,因此需要了解這些公司采取了哪些措施來“評估機器人在充當(dāng)陪伴者時的安全性”。
![]()
FTC官網(wǎng)
聲明提到,AI聊天機器人能夠有效地模仿人類的特征、情感和意圖,并且通常被設(shè)計成像朋友或知己一樣進行交流,這可能會促使一些用戶,尤其是兒童和青少年,信任聊天機器人并與其建立關(guān)系。
FTC主席安德魯·弗格森(Andrew Ferguson)在聲明中表示,保護兒童的網(wǎng)絡(luò)安全是特朗普政府時期FTC的首要任務(wù),同時該部門也致力于推動經(jīng)濟關(guān)鍵領(lǐng)域的創(chuàng)新。
FTC表示,其尋求的信息包括這些公司如何通過用戶互動變現(xiàn)、如何開發(fā)和批準(zhǔn)角色、如何使用和共享個人信息、如何監(jiān)控并執(zhí)行公司規(guī)則和服務(wù)條款的合規(guī)性,以及如何減輕負(fù)面影響等問題。
OpenAI回應(yīng)道:“我們的首要任務(wù)是讓ChatGPT對所有人都有用且安全,尤其在涉及年輕用戶時,安全性至關(guān)重要。我們理解FTC存在一些問題和擔(dān)憂,我們承諾將積極配合并直接回應(yīng)。”
自2022年底ChatGPT推出以來,大量聊天機器人相繼面世。與此同時,這些聊天機器人也帶來了越來越多的倫理和隱私擔(dān)憂。
盡管行業(yè)仍處于早期階段,但聊天機器人“陪伴”功能可能會對社會產(chǎn)生深遠(yuǎn)影響,尤其是在美國正經(jīng)歷“孤獨流行病”的背景下。
2023年時,美國政府醫(yī)療總監(jiān)辦公室曾公布了81頁針對孤獨危機的報告。報告指出,有約一半的美國人每天都會感到孤獨。研究表明,缺乏社會聯(lián)系的人早逝風(fēng)險比社會聯(lián)系充分的人高出26%。缺乏社會聯(lián)系還可能增加多種疾病風(fēng)險,包括心臟病、中風(fēng)、抑郁癥等。
專家還表示,一旦AI技術(shù)開始自己訓(xùn)練自己,倫理與安全問題可能會進一步加劇,甚至導(dǎo)致不可預(yù)測的結(jié)果。
當(dāng)下,全球一些最富有的企業(yè)家正在推動“陪伴型 AI”的發(fā)展。其中最知名的當(dāng)屬xAI推出的“AI伴侶”Ani——她的設(shè)定是一個金發(fā)碧眼、梳著辮子的女性人物。
在Ani上線將滿30天時,馬斯克透露,搭載該功能的Grok應(yīng)用月活突破2000萬,其中付費用戶超400萬,核心用戶日均互動時長2.5小時,驗證了情感交互場景的用戶粘性。
不過,界定情感交互的邊界非常復(fù)雜。上月,meta在監(jiān)管壓力下調(diào)整了其AI聊天機器人的相關(guān)政策。
本月早些時候,OpenAI被迫推出一項政策,允許家長在系統(tǒng)檢測到“嚴(yán)重痛苦”時鏈接帳戶并接收警報。





京公網(wǎng)安備 11011402013531號