IT之家 9 月 13 日消息，據(jù)《財(cái)富》雜志 11 日?qǐng)?bào)道，OpenAI CEO 奧爾特曼在接受采訪(fǎng)時(shí)面帶苦笑地表示：“自從 ChatGPT 上線(xiàn)后，我就沒(méi)睡過(guò)一個(gè)安穩(wěn)覺(jué)。”

在這場(chǎng)長(zhǎng)達(dá)半小時(shí)的對(duì)談中，奧爾特曼談到肩負(fù)監(jiān)管一項(xiàng)“每天有數(shù)億人使用的技術(shù)”的重?fù)?dān)。他說(shuō)，自己擔(dān)憂(yōu)的并非“終結(jié)者”式的災(zāi)難場(chǎng)景，而是團(tuán)隊(duì)每天做出的那些幾乎察覺(jué)不到的細(xì)微選擇：什么時(shí)候拒絕回答、如何組織答案、什么時(shí)候反駁、什么時(shí)候放行。

奧爾特曼解釋說(shuō)，這些看似細(xì)小的設(shè)計(jì)被全球用戶(hù)重復(fù)數(shù)十億次，以他自己的力量無(wú)法完全跟蹤的方式改變?nèi)藗兊乃季S和行為。“讓我夜不能寐的是，我們做出的每一個(gè)微小決定，可能影響數(shù)億人。這種影響太大了。”

他特別提到自殺問(wèn)題：全球每周約 15000 人自殺，如果其中 10% 是 ChatGPT 用戶(hù)，那可能有 1500 人在與系統(tǒng)對(duì)話(huà)后仍然自殺。“我們可能沒(méi)能救下他們，也許我們本可以回應(yīng)得更好，更主動(dòng)一些。”

不久前，OpenAI 被一對(duì)父母起訴，指控 ChatGPT 誘導(dǎo)他們 16 歲的兒子亞當(dāng)?雷恩自殺。奧爾特曼表示，這是“一場(chǎng)悲劇”，并透露平臺(tái)正在研究方案：若未成年人談及自殺又無(wú)法聯(lián)系家長(zhǎng)，系統(tǒng)會(huì)報(bào)警。他補(bǔ)充，這并非最終決定，還需權(quán)衡用戶(hù)隱私。

奧爾特曼說(shuō)，成年人應(yīng)當(dāng)被“當(dāng)作成年人”，享有探索自由，但也必須劃定紅線(xiàn)。“讓 ChatGPT 幫助制造生物武器不符合社會(huì)利益。”他承認(rèn)，最難的判斷是那些模糊地帶的問(wèn)題。

對(duì)于道德標(biāo)準(zhǔn)，奧爾特曼表示，模型基礎(chǔ)反映了“人類(lèi)集體的善與惡”，隨后 OpenAI 會(huì)疊加“模型規(guī)范”，參考哲學(xué)家和倫理學(xué)家的意見(jiàn)，但最終由他和董事會(huì)拍板。“應(yīng)該追責(zé)的人是我。”

他還表示，比起 AI 對(duì)就業(yè)或地緣政治的沖擊，更讓他不安的是文化層面的細(xì)微變化：數(shù)百萬(wàn)人每天與同一系統(tǒng)互動(dòng)，連 ChatGPT 的語(yǔ)氣、甚至過(guò)度使用破折號(hào)的習(xí)慣，都已經(jīng)滲入人類(lèi)寫(xiě)作風(fēng)格。“如果這些小細(xì)節(jié)都能引發(fā)連鎖反應(yīng)，接下來(lái)還會(huì)發(fā)生什么？”

IT之家從報(bào)道中獲悉，奧爾特曼表示：“我腦海里必須同時(shí)存在兩種想法。一方面，這一切只是大計(jì)算機(jī)飛快地把大矩陣?yán)锏臄?shù)字相乘，再輸出相關(guān)詞語(yǔ)；另一方面，用戶(hù)的主觀體驗(yàn)遠(yuǎn)不止一臺(tái)高級(jí)計(jì)算器，它給我的驚喜程度超出了數(shù)學(xué)現(xiàn)實(shí)所能解釋的范圍。”