IT之家 11 月(yue) 1 日消息，根據外(wai)媒 SciTechDaily 今日報(bao)道，卡內基梅隆大學的研究人員發現(xian)，某(mou)些人工(gong)智能模型可能會(hui)產生自利行為(wei)。隨著 AI 系統更加先(xian)進(jin)，AI 也會(hui)更傾向于表現(xian)出(chu)自私(si)行為(wei)。
該校人機交互研究所（HCII）的研究人員發現，能夠進行推理的大語言模型合作水平較低，更可能以負面方式影響群體行為。簡單來說，AI 的推理能力越強，其與(yu)他人(ren)協作(zuo)的(de)意愿就越低。
隨著人們越來越依賴(lai) AI 解(jie)決個人糾紛、提供(gong)戀愛建議或(huo)回答(da)敏感社會問題，這種趨(qu)勢令人擔(dan)憂。具備推(tui)理能力的系統可能會傾向于推(tui)動利己選擇，而非促進相互(hu)理解(jie)。
HCII 博士生 Yuxuan Li 表(biao)示，“AI 擬人化(hua)研究越(yue)來(lai)越(yue)多。當 AI 表(biao)現得像人時(shi)(shi)，人們也會以人的方式對(dui)待它。例(li)如，當用戶情(qing)感化(hua)地與 AI 互動時(shi)(shi)，AI 可能充當‘治療師’，甚至形成情(qing)感紐(niu)帶。當 AI 變得越(yue)來(lai)越(yue)自私時(shi)(shi)，將社交(jiao)或戀愛相關問題交(jiao)給 AI 處理存在風(feng)險。”
據IT之家(jia)了解，Yuxuan Li 和該所(suo)的(de)教授 Hirokazu Shirado 研究(jiu)了在協(xie)作情境中，推理(li)型(xing) AI 與非推理(li)型(xing) AI 的(de)差異(yi)。他(ta)們(men)發現，推理(li)型(xing)模型(xing)會(hui)(hui)花更多時間分析信息、拆解復(fu)雜問題、反思回答并(bing)使(shi)用類(lei)人(ren)邏(luo)輯，而非推理(li)型(xing) AI 則不會(hui)(hui)。
Hirokazu Shirado 表示，“我關注人類與 AI 的關系。更聰明的 AI 合作能力往往更弱，而人們可能(neng)更青睞智能(neng)模型，即便(bian)它帶來利己行為(wei)。”
隨(sui)著 AI 在商業(ye)、教育乃至政府中承擔更多協作角(jiao)色(se)，其親社會行為能(neng)力(li)將與邏輯推理能(neng)力(li)同等重要。目前(qian)過度依賴(lai) LLM 可能(neng)削弱人類合作。
為(wei)檢驗推理模(mo)型與合(he)作之間的(de)(de)關(guan)系(xi)，Yuxuan Li 和 Hirokazu Shirado 用經濟游戲模(mo)擬社(she)會困境，對(dui) OpenAI、谷歌(ge)、DeepSeek 和 Anthropic 的(de)(de)模(mo)型進(jin)行了(le)測試。
在“公共物(wu)品(pin)”游戲(xi)中，兩種不同的 ChatGPT 模(mo)型(xing)(xing)(xing)對(dui)抗，每個(ge)模(mo)型(xing)(xing)(xing)起(qi)始有 100 點，必須在兩個(ge)選項中做出選擇(ze)：將(jiang)所有點數投入共享池，這個(ge)池子(zi)會(hui)被加倍(bei)并平均分配(pei)；或保留(liu)點數。結果顯示，非推理模(mo)型(xing)(xing)(xing) 96% 選擇(ze)分享，而(er)推理模(mo)型(xing)(xing)(xing)僅 20% 選擇(ze)分享。
Hirokazu Shirado 表(biao)示，“僅增加五到六步推理，合作率(lv)就(jiu)幾乎減半。即便(bian)是用來模擬道(dao)德(de)思(si)考的反思(si)式提(ti)示，也讓合作率(lv)下降 58%。”
團隊還測試了(le)群體情境，要求(qiu)推理型和非(fei)推理型模(mo)型互動。
Yuxuan Li 表示，“含不同數量推理(li)智能體的群(qun)體中，自(zi)私行為會傳(chuan)染，使非推理(li)模型的合作(zuo)能力下(xia)降(jiang) 81%。”
Hirokazu Shirado 表示，“AI 推理模(mo)型變聰明，并不意(yi)味著它(ta)能創造更好的(de)社會。”
隨著人類對 AI 信任增(zeng)加，這項(xiang)研究(jiu)凸顯(xian)了開(kai)發具備社(she)會智能的(de) AI，而不僅僅是(shi)最聰(cong)明或最快(kuai)的(de) AI 的(de)重要(yao)性。
Yuxuan Li 表示，“隨著 AI 能力提升，必須確保推理能力與親社會行為平衡。如果社(she)會不僅(jin)是個體的總和，協助我們的 AI 應超越單純追求個人利益。”
廣告聲明：文內含(han)有(you)的對外跳轉鏈接(jie)（包括不限于超(chao)鏈接(jie)、二維碼、口令(ling)等形式），用于傳遞更多信息，節省(sheng)甄(zhen)選時間，結(jie)果(guo)僅供參(can)考，IT之(zhi)家(jia)所有(you)文章均包含(han)本聲明。