IT之家 11 月(yue) 16 日消息，近期(qi)，一(yi)些社交平臺上出(chu)現所謂“營(ying)養專家”出(chu)鏡推薦的“獨家減(jian)肥食譜(pu)”，不少消費者信以為真，紛紛下單(dan)購買。

那么，這些看似權威(wei)的(de)推薦，是否真(zhen)的(de)出自(zi)專家本人(ren)？背后隱藏著什么秘密？對此(ci)，央視《每周質量報告(gao)》今日進行了調(diao)查報道，我們一起來看一下(xia)吧。

央視表示，近期在(zai)多個社交平臺及直播間，出現利(li)用 AI 技術(shu)仿冒(mao)知名專家、主持人(ren)形(xing)象進(jin)行虛假營銷的現象。此類行為傳播虛假信息(xi)，侵害消費者權益，引發廣(guang)泛關注(zhu)。

調查發(fa)現，一些自媒體賬號發(fa)布(bu)了(le)所謂的“科普視(shi)頻”，其中“北(bei)京協(xie)和醫(yi)院臨床營養科主(zhu)任于康(kang)教(jiao)授”出鏡推(tui)薦減肥(fei)食譜。經北(bei)京協(xie)和醫(yi)院及于康(kang)教(jiao)授本人核(he)實，其從(cong)未參與錄(lu)制此類視(shi)頻。視(shi)頻中的形(xing)象和聲音均由 AI 技術偽造生成。

對此(ci)(ci)，于康教授(shou)明(ming)確表(biao)示，他本人并未(wei)參(can)與錄制此(ci)(ci)類視(shi)頻，視(shi)頻中介紹的營養(yang)知識，毫無依據(ju)，沒有得到(dao)科學(xue)驗證。

此類視(shi)頻不僅(jin)盜(dao)用其個人形象，更傳播未經科(ke)學驗證的錯誤(wu)營養信(xin)息，誤(wu)導消費者購(gou)買(mai)相關產品(pin)，對公眾健康認(ren)知造成負面影響，并(bing)削弱(ruo)了專業(ye)科(ke)普的公信(xin)力。

北京(jing)協(xie)和醫(yi)(yi)院表示(shi)，遭遇類似 AI 仿冒困擾的醫(yi)(yi)生(sheng)不在少數，包括馬(ma)方教授等多名專家形象被擅自用于(yu)“養生(sheng)”、“瘦身”等虛假(jia)宣傳(chuan)，甚至有不法(fa)分(fen)子(zi)偽造虛假(jia)醫(yi)(yi)生(sheng)身份(fen)，打(da)著(zhu)協(xie)和醫(yi)(yi)院旗(qi)號銷售商品。

此類(lei)仿冒行為(wei)不僅(jin)涉及醫(yi)療專家，也(ye)波及公(gong)眾人物。北京市海淀區(qu)市場監管局曾查處(chu)一(yi)起案件：某(mou)商家在直播(bo)間及短視頻中，使用(yong) AI 技術偽造中央廣播(bo)電視總(zong)臺主持人李梓萌的形象，宣稱(cheng)一(yi)款魚油產品具有醫(yi)療功(gong)效。

經監管部(bu)門(men)核查(cha)及(ji)商家承認，該視頻系通過剪輯(ji)加工李梓(zi)萌的(de)公開(kai)新聞片段合成。該產(chan)品實(shi)為普(pu)通食(shi)品（糖果類），其宣傳構(gou)成虛假廣告，商家被處以 20 萬元(yuan)罰款。銷(xiao)售記錄顯示，該虛假視頻上線半月(yue)內，帶動涉事(shi)魚油(you)產(chan)品銷(xiao)售額(e)達 6 萬余元(yuan)。

調查顯示，此類 AI 仿冒營銷泛濫(lan)的原(yuan)因之一(yi)在于相關技術工(gong)具獲取及操作簡便。手(shou)機(ji)應用商店中存(cun)在大量(liang)可(ke)免費使用的換臉、擬聲(sheng) App 或小程(cheng)序。

記者測(ce)試發(fa)現(xian)，僅(jin)需上傳(chuan)幾(ji)張照片，即可將目(mu)標視(shi)(shi)頻中的人物(wu)替換為(wei)自(zi)己或他(ta)人面容。部(bu)分工(gong)具還提供“AI 文生視(shi)(shi)頻”、“AI 對口(kou)型(xing)”等功能(neng)，能(neng)在短時間(jian)內生成特定場景（如診(zhen)室）和(he)身份(fen)（如醫生）的營銷(xiao)視(shi)(shi)頻，并可選擇不添(tian)加 AI 生成標識。

針對 AI 生(sheng)(sheng)成(cheng)內(nei)容的管理，《人工智(zhi)能生(sheng)(sheng)成(cheng)合成(cheng)內(nei)容標(biao)識(shi)辦(ban)(ban)法(fa)》已于 2025 年(nian) 9 月 1 日實施。該(gai)辦(ban)(ban)法(fa)明確要求(qiu)，利用(yong) AI 技術生(sheng)(sheng)成(cheng)或(huo)(huo)合成(cheng)的文本、圖(tu)片、音(yin)頻(pin)、視頻(pin)等信息，必須依法(fa)添(tian)加(jia)顯性(xing)標(biao)識(shi)（使公眾可識(shi)別）和隱性(xing)標(biao)識(shi)（如元數據(ju)，標(biao)明來源、用(yong)途等）。但在(zai)(zai)實際(ji)操作中，部分(fen)發(fa)布者使用(yong)不顯眼字體(ti)或(huo)(huo)在(zai)(zai)畫面邊角添(tian)加(jia)標(biao)識(shi)，甚至(zhi)故意(yi)隱匿標(biao)識(shi)。

監管部門(men)和專家(jia)指(zhi)出，治理(li)此類亂(luan)象面臨挑戰(zhan)：AI 深度(du)(du)偽造(zao)視頻鑒別(bie)難度(du)(du)大(da)、成(cheng)(cheng)(cheng)本高；造(zao)假成(cheng)(cheng)(cheng)本低(di)；權利人維權周期長、程序復雜。專家(jia)建議需通過制度(du)(du)設計強(qiang)化(hua)保護力(li)度(du)(du)，并推動社會共治。平臺(tai)作為內(nei)容(rong)發(fa)布渠(qu)道，應建立 AI 生成(cheng)(cheng)(cheng)內(nei)容(rong)審核(he)機制，加強(qiang)對(dui)逃避標識行為的處理(li)（如下架、限流）。

IT之家注意到，網信(xin)部門近期(qi)已(yi)重拳處置一批(pi)違規賬(zhang)(zhang)號，同時督促平臺集中(zhong)整治，已(yi)累計(ji)清理 8700 余條違規信(xin)息、處置 11000 多個違規賬(zhang)(zhang)號。

網信(xin)部(bu)門表(biao)示，將繼(ji)續壓實(shi)網站平(ping)臺主體責任(ren)，對利用 AI 仿冒公眾人(ren)物開展直播營銷(xiao)問題保持高壓嚴管態勢，對惡意營銷(xiao)賬號，發現一(yi)批(pi)、處置一(yi)批(pi)、曝光(guang)一(yi)批(pi)。

隨著(zhu)大模(mo)型在各行業深度應用，其安全風險呈(cheng)現出(chu)復合(he)化特征。網(wang)絡專家指(zhi)出(chu)，AI 大模(mo)型安全涵蓋(gai)數據、基礎設(she)施(shi)與模(mo)型本(ben)身三大層面，其中(zhong)個(ge)人(ren)使用中(zhong)的(de)數據安全風險尤為(wei)突(tu)出(chu)。看似簡單的(de)圖片、文字信(xin)息(xi)等內容(rong)通過 AI 處理(li)，就(jiu)可能(neng)泄露個(ge)人(ren)身份信(xin)息(xi)、人(ren)際關系等敏感內容(rong)。

網絡安全(quan)專(zhuan)家(jia)李虎表示：可能只是(shi)上(shang)傳了(le)(le)一(yi)張合照，我覺(jue)得(de)就是(shi)通(tong)過(guo) AI 來(lai)幫我美化一(yi)下或者加一(yi)項(xiang)特殊處(chu)理。但是(shi)其實有可能就暴(bao)露了(le)(le)，因為照片上(shang)傳之后(hou)(hou)，它其實可以通(tong)過(guo)人(ren)像識(shi)別技術(shu)把人(ren)的身份提(ti)(ti)取(qu)(qu)出(chu)來(lai)，然后(hou)(hou)通(tong)過(guo)人(ren)物(wu)(wu)的關系，比如親密程度，可能猜測(ce)是(shi)什么人(ren)物(wu)(wu)關系，是(shi)朋友關系還是(shi)家(jia)人(ren)關系諸如此類的，然后(hou)(hou)這(zhe)些數(shu)據(ju)都被提(ti)(ti)取(qu)(qu)出(chu)來(lai)之后(hou)(hou)又可能被進(jin)一(yi)步利(li)(li)用(yong)，比如被詐騙分子(zi)拿來(lai)利(li)(li)用(yong)。

除(chu)了 AI 大(da)模型使用帶來的(de)數據安全外，公共場合不(bu)明來源 Wi-Fi 的(de)不(bu)當(dang)連(lian)接也會(hui)造成敏感信(xin)息泄露。

網絡安(an)全專家王媛(yuan)媛(yuan)提醒：這種免費沒有密碼的 Wi-Fi 連(lian)接(jie)，不(bu)法分子(zi)可能會(hui)利用漏洞去架設一個(ge)偽基(ji)站，誘導大家進行連(lian)接(jie)，連(lian)接(jie)之后有可能會(hui)截取(qu)你(ni)的個(ge)人信(xin)息。

據介(jie)紹(shao)，只要有人接入了不法分子(zi)(zi)偽裝的 Wi-Fi，在使用(yong)手機(ji)等電子(zi)(zi)設備時的一(yi)些操作都可能被截(jie)取，其中(zhong)包括輸入用(yong)戶名、密碼等個人隱私(si)信息(xi)都會被竊取。

網絡安全專家建(jian)議，個人用戶要加強安全意識，優先選擇(ze)合規大模(mo)型平臺與正(zheng)規渠道安裝應用；另外，連接 Wi-Fi 時要警惕無密(mi)碼(ma)熱點，避(bi)免落(luo)入釣魚陷阱。那么，我們在日常(chang)上網時還有哪些注意事項，防(fang)止(zhi)個人隱私信息泄露(lu)呢？

• 不曬自(zi)己的(de)(de)火車票(piao)、飛機(ji)票(piao)登機(ji)牌(pai)、車牌(pai)：發布含有個(ge)人信息的(de)(de)火車票(piao)、飛機(ji)票(piao)、登機(ji)牌(pai)、車牌(pai)等票(piao)證，可能會被另有圖謀(mou)的(de)(de)陌生人獲取(qu)，從而導致個(ge)人隱私(si)泄露(lu)；

• 不(bu)曬自己的(de)證(zheng)件照片：身份證(zheng)、護照、駕(jia)駛(shi)證(zheng)、結婚證(zheng)等證(zheng)件中，都包含(han)重(zhong)要(yao)的(de)個人隱私，不(bu)要(yao)隨(sui)意在網上發布；

• 不曬自己(ji)(ji)的(de)位置信息：盡量不要(yao)發自己(ji)(ji)的(de)定位信息，這些信息容易(yi)暴(bao)露真實個人(ren)住址，有可(ke)能(neng)帶(dai)來(lai)不必要(yao)的(de)麻煩和風險；

• 不曬老(lao)人(ren)和(he)孩子的(de)信息：避(bi)免發布老(lao)人(ren)和(he)孩子的(de)照片及姓名，以(yi)防不法(fa)分(fen)子利(li)用這些(xie)信息進行(xing)違法(fa)活動，建議以(yi)分(fen)組(zu)的(de)形式(shi)分(fen)享給(gei)親人(ren)看。

央視指出(chu)，技術創新必須(xu)以誠(cheng)信為底(di)線，只(zhi)有讓 AI 在法治(zhi)軌道上運行，才能凈化網(wang)絡生(sheng)態和市(shi)場(chang)生(sheng)態，真(zhen)正服(fu)務社會。

廣(guang)告聲明：文(wen)(wen)內含有的對外跳(tiao)轉鏈接(jie)（包括不限于超(chao)鏈接(jie)、二維碼、口令等(deng)形(xing)式），用(yong)于傳遞(di)更多信(xin)息，節省甄(zhen)選時間(jian)，結(jie)果僅供參考，IT之(zhi)家(jia)所有文(wen)(wen)章均包含本聲明。