IT之家 10 月(yue) 16 日消息，當(dang)地(di)時(shi)間周三(san)，OpenAI 首席執行官薩姆?奧爾特曼（Sam Altman）在(zai)面對(dui)外界對(dui)其放寬內容限制政(zheng)策的(de)批(pi)評時(shi)回應稱，該公司“并(bing)非(fei)世界選(xuan)出(chu)的(de)道(dao)德警察”。

此前，奧爾特曼宣布將放松對旗下聊天機器人 ChatGPT 的內容管制，允許包括情色內容在內的成人主題內容上線，此舉引發了廣泛爭議。作為回應，奧爾特曼于周三表示，OpenAI 并不打算充當全球用戶行為的道德裁決者。

IT之家(jia)注意到，這(zhe)家(jia)人工智能初創(chuang)公司(si)在過去數(shu)月已逐步加強安全管控措施，以應對外界日益(yi)增長的質疑 —— 即其如何保護用戶，尤其是(shi)未成年人的安全。

然而(er)，奧爾特曼(man)周二在社(she)交媒體 X 平臺發帖稱，隨著公司開發出新的技術工具，并成功緩解了“嚴重的心理健康問(wen)題”，現在已能(neng)夠(gou)“安全地放寬”大部分內容限(xian)制。

去年 12 月(yue)，奧爾特曼稱(cheng) OpenAI 已(yi)決定向“經(jing)驗證的成年人”開(kai)放更多內容，包括情色題材。

周三(san)，奧爾特曼再次(ci)發文試圖澄清這(zhe)一政(zheng)策調整。他表示，OpenAI“非常重視(shi)(shi)將成年(nian)用戶視(shi)(shi)為成年(nian)人(ren)(ren)來對(dui)待”的原(yuan)則，但同時(shi)強(qiang)調，平臺(tai)仍不會(hui)允許(xu)任何可(ke)能對(dui)他人(ren)(ren)造成傷害的內(nei)容(rong)存(cun)在。

他(ta)寫道：“正如(ru)社(she)會(hui)在其他(ta)領(ling)域設定適當(dang)界限（例如(ru) R 級電影）一樣(yang)，我(wo)們也(ye)希(xi)望在此采取(qu)類似的區(qu)分方式。”

這一立場與奧爾特曼今年 8 月在一檔播客節目中的表態形成鮮明對比。當時(shi)他(ta)表示，自己為 OpenAI 拒絕推(tui)出(chu)某些可能提升用戶活躍度(du)的功(gong)能（如(ru)“性愛機(ji)器(qi)人頭像(xiang)”）感到(dao)“自豪”。“有很(hen)多短期手段可以(yi)顯著推(tui)動增(zeng)長或增(zeng)加(jia)收入(ru)，但(dan)這些做法與(yu)我們的長期目標嚴重背道而(er)馳。”奧爾(er)特曼當時(shi)說道。

今年 9 月(yue)，美國(guo)聯邦貿(mao)易委員會(hui)（FTC）啟動對 OpenAI 及(ji)其(qi)他科技公司的(de)調查，關注諸如 ChatGPT 之類的(de)聊天機器人是否(fou)會(hui)對兒童(tong)和青少年產(chan)生負面影響。此外，OpenAI 還(huan)卷入一(yi)起過失致(zhi)死訴(su)訟案，一(yi)個(ge)家庭指控(kong) ChatGPT 導致(zhi)其(qi)青少年兒子(zi)自(zi)殺(sha)身亡。

自上述調查和訴訟發生以來，OpenAI 已采取多項公開舉措以提升 ChatGPT 的安全性。上(shang)個月底(di)，公司(si)推出了一系列家長(chang)控制功能，并正在開發一套年(nian)齡預(yu)測系統，可自動為 18 歲以下用(yong)戶啟用(yong)適合青少年(nian)的設(she)置(zhi)。

就(jiu)在周(zhou)二(er)，OpenAI 宣(xuan)布成(cheng)立(li)一(yi)(yi)個(ge)由八位專家組成(cheng)的顧問委員會，旨(zhi)在深入(ru)研究(jiu)人(ren)工智能對用(yong)戶心(xin)理健康、情(qing)緒狀態及內(nei)在動機的影(ying)響。同一(yi)(yi)天，奧爾特曼發布了關于(yu)放寬(kuan)內(nei)容(rong)限制的聲明，隨即引發公(gong)眾困惑和社會媒體上的迅速反彈。

奧爾特曼坦言(yan)，輿論(lun)反應“遠超(chao)預期”。

他的言(yan)論也引(yin)(yin)起(qi)了多個倡導組織的關注。其中(zhong)，美國(guo)全國(guo)反(fan)性(xing)剝削中(zhong)心(xin)（National Center on Sexual Exploitation, NCOSE）呼吁(yu) OpenAI 撤銷(xiao)允許情色內容(rong)上線的決定。該組織執行(xing)主(zhu)任(ren)海莉?麥克納馬(ma)拉（Haley McNamara）周三發(fa)表聲明(ming)指(zhi)出(chu)：“性(xing)化的 AI 聊天機器人本質(zhi)上具有高(gao)風險，會在缺乏明(ming)確行(xing)業(ye)安全標準(zhun)的情況下，因(yin)‘合成親密關系’而引(yin)(yin)發(fa)真實的心(xin)理健康危害。”

廣告聲明：文內(nei)含(han)有的對外跳轉(zhuan)鏈(lian)接（包括不限于超鏈(lian)接、二維碼、口(kou)令等(deng)形式(shi)），用(yong)于傳遞更多信息，節省甄選時間，結(jie)果僅供參(can)考，IT之家所有文章均包含(han)本聲明。