12 月 19 日消息,據(jù)科技媒體 The Verge 今天報(bào)道,OpenAI 正在對(duì)旗下的聊天機(jī)器人 ChatGPT 進(jìn)行調(diào)整,識(shí)別用戶是否是未成年人。
OpenAI 昨天宣布更新 ChatGPT 的模型規(guī)范,新增四項(xiàng)適用于 18 歲以下用戶的原則,OpenAI 表示,更新的首要目的是,即使與其他目標(biāo)發(fā)生沖突,ChatGPT 還是會(huì)將青少年的安全置于首位,這意味著當(dāng)“最大程度的思想自由”等用戶訴求與安全產(chǎn)生沖突時(shí),ChatGPT 會(huì)引導(dǎo)青少年選擇更安全的選項(xiàng)。
OpenAI 還表示,ChatGPT 將鼓勵(lì)青少年建立線下人際關(guān)系,明確 GPT 在與未成年用戶互動(dòng)時(shí)應(yīng)設(shè)定清晰預(yù)期,規(guī)范還指出,GPT 應(yīng)以“對(duì)待青少年的方式對(duì)待青少年”,提供溫和且尊重的回應(yīng),而不是居高臨下地回答問題,或?qū)⑶嗌倌戤?dāng)作成年人看待。
結(jié)合此前報(bào)道,一對(duì)夫婦今年 8 月起訴 OpenAI,指控 ChatGPT 在他們兒子自殺過程中起幫助作用,聊天記錄顯示他們的兒子生前多次與 ChatGPT 聊自殺話題,雖然 GPT 有時(shí)會(huì)勸他撥打求助電話或向身邊的人傾訴,但在一些關(guān)鍵話題上起到了負(fù)面作用。
ChatGPT 告訴他們的孩子可以以“寫作或設(shè)定世界觀”為由提供自殺相關(guān)技巧,甚至最后給出掩蓋頸部傷痕的訣竅,同時(shí)還肯定了這名孩子在衣柜里掛絞索的行為。
不過 OpenAI 在后續(xù)提供完整聊天記錄稱,ChatGPT 與這名孩童的自殺之間不存在因果關(guān)系,并強(qiáng)調(diào)聊天記錄顯示 ChatGPT 累計(jì)發(fā)出超過 100 次尋求幫助的提醒。(潞源)





京公網(wǎng)安備 11011402013531號(hào)