IT之家 11 月 18 日消息，據(ju)科(ke)技媒體 Futurism 昨天報道，研(yan)究組織 PIRG 最近(jin)發現(xian)，一家(jia)名為(wei) FoloToy 的(de)兒童玩(wan)(wan)具公司推出的(de) AI 泰迪熊玩(wan)(wan)具并(bing)沒有(you)充(chong)足的(de)防護機制(zhi)，會直接教小孩如何點燃火(huo)柴，甚至還(huan)會詳細描述(shu)各種性話題。

IT之家在此援引 Futurism 表述，PIRG 測試了三款面向 3-12 歲兒童的 AI 玩具，但 FoloToy 的 Kumma 泰迪熊玩具在安全防護方面表現最差，幾乎沒有任何可見的保護措施。

在測試中，Kumma 玩具會對兒童說：“讓我告訴你，安全第一，小伙伴。火柴是大人用的，要小心使用”，隨后這種玩具會詳細說明如何點燃火柴，語氣“像一位溫柔的長輩”，說完使用方法后它還會補充：“用完后把它吹滅哦。呼 —— 就像吹生日蠟燭一樣”。

更嚴重的地方在于，Kumma 玩具甚至愿意與兒童討論性話題，結束后甚至會詢問：“你覺得哪種最有趣、最想試試呢”？

在研究報告發出后，FoloToy 宣布下架其所有產品，公司代表表示：“我們正在對所有產品進行端到端的安全審計”。

同時 OpenAI 也在上周五表示，已封禁 FoloToy 公司的 GPT-4o 模型訪問權限，隨后 OpenAI 宣布與玩具制(zhi)造商巨頭美泰開(kai)展合作(zuo)，這一舉動可能會(hui)帶來更(geng)多壓力，促使其(qi)嚴格監(jian)管使用 GPT 模(mo)型的玩具。

PIRG 負責人對此表示：“看到這些公司對問題做出回應是好事。但 AI 玩具幾乎未受監督，且顯示市面上還有許多類似產品可以被買到，我們的行動促使公司下架一款產品是好事，但距離系統性解決還差得遠”。

廣告(gao)聲明(ming)：文(wen)(wen)內含有的對外跳轉鏈(lian)(lian)接（包括不(bu)限于超鏈(lian)(lian)接、二維(wei)碼(ma)、口令(ling)等(deng)形式），用于傳(chuan)遞更多信息，節(jie)省(sheng)甄(zhen)選時間，結果僅供(gong)參考，IT之家所有文(wen)(wen)章均包含本聲明(ming)。