財聯(lián)社9月12日訊（編輯 趙昊）當(dāng)?shù)貢r間周四（9月11日），美國聯(lián)邦貿(mào)易委員會（FTC）宣布已向七家公司發(fā)出命令，要求他們提供信息，以了解人工智能聊天機器人可能對兒童和青少年的負(fù)面影響。

七家公司分別為谷歌母公司Alphabet、OpenAI、meta、meta旗下的子公司Instagram、Snap、xAI以及Character Technologies Inc.（Character.AI的開發(fā)商）。

這家監(jiān)管機構(gòu)表示，人工智能（AI）聊天機器人可能被用于模擬類人交流以及與用戶建立人際關(guān)系，因此需要了解這些公司采取了哪些措施來“評估機器人在充當(dāng)陪伴者時的安全性”。

FTC官網(wǎng)

聲明提到，AI聊天機器人能夠有效地模仿人類的特征、情感和意圖，并且通常被設(shè)計成像朋友或知己一樣進行交流，這可能會促使一些用戶，尤其是兒童和青少年，信任聊天機器人并與其建立關(guān)系。

FTC主席安德魯·弗格森（Andrew Ferguson）在聲明中表示，保護兒童的網(wǎng)絡(luò)安全是特朗普政府時期FTC的首要任務(wù)，同時該部門也致力于推動經(jīng)濟關(guān)鍵領(lǐng)域的創(chuàng)新。

FTC表示，其尋求的信息包括這些公司如何通過用戶互動變現(xiàn)、如何開發(fā)和批準(zhǔn)角色、如何使用和共享個人信息、如何監(jiān)控并執(zhí)行公司規(guī)則和服務(wù)條款的合規(guī)性，以及如何減輕負(fù)面影響等問題。

OpenAI回應(yīng)道：“我們的首要任務(wù)是讓ChatGPT對所有人都有用且安全，尤其在涉及年輕用戶時，安全性至關(guān)重要。我們理解FTC存在一些問題和擔(dān)憂，我們承諾將積極配合并直接回應(yīng)。”

自2022年底ChatGPT推出以來，大量聊天機器人相繼面世。與此同時，這些聊天機器人也帶來了越來越多的倫理和隱私擔(dān)憂。

盡管行業(yè)仍處于早期階段，但聊天機器人“陪伴”功能可能會對社會產(chǎn)生深遠(yuǎn)影響，尤其是在美國正經(jīng)歷“孤獨流行病”的背景下。

2023年時，美國政府醫(yī)療總監(jiān)辦公室曾公布了81頁針對孤獨危機的報告。報告指出，有約一半的美國人每天都會感到孤獨。研究表明，缺乏社會聯(lián)系的人早逝風(fēng)險比社會聯(lián)系充分的人高出26%。缺乏社會聯(lián)系還可能增加多種疾病風(fēng)險，包括心臟病、中風(fēng)、抑郁癥等。

專家還表示，一旦AI技術(shù)開始自己訓(xùn)練自己，倫理與安全問題可能會進一步加劇，甚至導(dǎo)致不可預(yù)測的結(jié)果。

當(dāng)下，全球一些最富有的企業(yè)家正在推動“陪伴型 AI”的發(fā)展。其中最知名的當(dāng)屬xAI推出的“AI伴侶”Ani——她的設(shè)定是一個金發(fā)碧眼、梳著辮子的女性人物。

在Ani上線將滿30天時，馬斯克透露，搭載該功能的Grok應(yīng)用月活突破2000萬，其中付費用戶超400萬，核心用戶日均互動時長2.5小時，驗證了情感交互場景的用戶粘性。

不過，界定情感交互的邊界非常復(fù)雜。上月，meta在監(jiān)管壓力下調(diào)整了其AI聊天機器人的相關(guān)政策。

本月早些時候，OpenAI被迫推出一項政策，允許家長在系統(tǒng)檢測到“嚴(yán)重痛苦”時鏈接帳戶并接收警報。