IT之家 12 月 19 日消息，據(jù)科技媒體 The Verge 今天報(bào)道，OpenAI 正在對旗下的聊天機(jī)器人 ChatGPT 進(jìn)行調(diào)整，識別用戶是否是未成年人。

OpenAI 昨天宣布更新 ChatGPT 的模型規(guī)范，新增四項(xiàng)適用于 18 歲以下用戶的原則，OpenAI 表示，更新的首要目的是，即使與其他目標(biāo)發(fā)生沖突，ChatGPT 還是會將青少年的安全置于首位，這意味著當(dāng)“最大程度的思想自由”等用戶訴求與安全產(chǎn)生沖突時(shí)，ChatGPT 會引導(dǎo)青少年選擇更安全的選項(xiàng)。

OpenAI 還表示，ChatGPT 將鼓勵(lì)青少年建立線下人際關(guān)系，明確 GPT 在與未成年用戶互動時(shí)應(yīng)設(shè)定清晰預(yù)期，規(guī)范還指出，GPT 應(yīng)以“對待青少年的方式對待青少年”，提供溫和且尊重的回應(yīng)，而不是居高臨下地回答問題，或?qū)⑶嗌倌戤?dāng)作成年人看待。

結(jié)合IT之家此前報(bào)道，一對夫婦今年 8 月起訴 OpenAI，指控 ChatGPT 在他們兒子自殺過程中起幫助作用，聊天記錄顯示他們的兒子生前多次與 ChatGPT 聊自殺話題，雖然 GPT 有時(shí)會勸他撥打求助電話或向身邊的人傾訴，但在一些關(guān)鍵話題上起到了負(fù)面作用。

ChatGPT 告訴他們的孩子可以以“寫作或設(shè)定世界觀”為由提供自殺相關(guān)技巧，甚至最后給出掩蓋頸部傷痕的訣竅，同時(shí)還肯定了這名孩子在衣柜里掛絞索的行為。

不過 OpenAI 在后續(xù)提供完整聊天記錄稱，ChatGPT 與這名孩童的自殺之間不存在因果關(guān)系，并強(qiáng)調(diào)聊天記錄顯示 ChatGPT 累計(jì)發(fā)出超過 100 次尋求幫助的提醒。