IT之家 10 月 30 日消息，前 OpenAI 安(an)全(quan)研究員史蒂文?阿德勒當地(di)時間(jian) 10 月 28 日在《紐約時報》撰文批評(ping)前公司(si)，稱其在應對(dui)(dui)“AI 時代的(de)心(xin)理健康危機”上力(li)度不足，并受“競爭壓力(li)”影(ying)響而放松了對(dui)(dui) AI 安(an)全(quan)的(de)重(zhong)視(shi)。
此前，奧爾特曼宣稱公司已憑借“新工具”緩解了嚴重的心理健康問題，并“很快允許”平臺出現成人內容。對此，阿德勒提出批評：“基于我在 OpenAI 工作的四年經歷以及去年離職后進行的獨立研究，我對這些心理健康問題是否真正解決存在重大疑問。公眾不應僅僅依賴公司口頭承諾來相信安全問題已獲解決，換句話說：（公司需要）拿出證據來證明這一點。”
阿德勒警告稱，放開成人內容可能帶來嚴重后果。“問題不在于內容本身，而在于用戶對 AI 聊天機器人的強烈情感依賴顯(xian)示(shi)出明顯(xian)的預(yu)警信號(hao)。”
阿德勒回憶自己在 2021 年領導 OpenAI 的產品安全團隊時寫道：“對那些看似正在與心理健康問題掙扎的用戶而言，情感或性互動的不穩定性尤其危險。”
阿德勒認為，OpenAI 關于心理健康問題普遍性的最新通報是個良好開端，但批評 OpenAI 在公布數據時沒有將這些比率與過去數月的數據作比較。與其“快速推進并打破規則”，OpenAI 和同行更應“放慢腳步”，給全社會時間去開發新的安全方法，這些(xie)方法應當即便面對別有用心的組織也無法輕易(yi)規避。因此，若要讓(rang)人們信(xin)(xin)任 OpenAI 及其競(jing)爭對手去打(da)造他們所追求的顛覆性技(ji)術，相關企業(ye)就必(bi)須證明(ming)自己(ji)今(jin)天在風險管理方面是可信(xin)(xin)的。
據IT之家此前報道，OpenAI 在本周發布(bu)的(de)公告中(zhong)估計，相當比例的(de)活(huo)躍 ChatGPT 用戶顯示出“可能與精神病(bing)或(huo)躁狂有關的(de)心理(li)健康緊急情況(kuang)的(de)跡(ji)象”。不僅如(ru)此，OpenAI 還發現更多用戶的(de)對話中(zhong)包含“明(ming)確表明(ming)存(cun)在潛(qian)在自殺(sha)計劃或(huo)意向(xiang)的(de)跡(ji)象”。
相關閱讀：
廣告(gao)聲(sheng)明(ming)(ming)：文內含有的對外跳轉鏈接（包括不限于(yu)超鏈接、二維碼(ma)、口令等形式），用于(yu)傳遞更多(duo)信息，節省甄選時間，結(jie)果僅(jin)供參考，IT之家(jia)所有文章均(jun)包含本聲(sheng)明(ming)(ming)。