近期，天壇“網(wǎng)紅”徐大爺因被AI造謠而苦不堪言。有人盜用此前博主拍攝徐大爺鍛煉的視頻，經(jīng)AI處理后，將其編排成90歲的患癌老人，還附帶虛假?gòu)V告。面對(duì)親朋好友“這條狗血廣告掙多少錢(qián)”的詢問(wèn)，徐大爺一遍遍解釋得十分惱火。

說(shuō)起來(lái)，過(guò)去AI造謠的目標(biāo)主要都是明星藝人、專家大咖，而徐大爺?shù)脑庥稣f(shuō)明，每一個(gè)普通人也都有被AI造謠的風(fēng)險(xiǎn)。這不，最近“上海退休教授靠陽(yáng)臺(tái)核電池供電”的謠言傳得沸沸揚(yáng)揚(yáng)，頻頻出現(xiàn)的“真人演繹”，不知又侵犯了哪位大爺?shù)男は駲?quán)。

隨著AI技術(shù)飛速迭代，其生成的謠言以近乎工業(yè)化生產(chǎn)的模式泛濫，涉足的領(lǐng)域越來(lái)越廣。今年年初，達(dá)沃斯世界經(jīng)濟(jì)論壇發(fā)布的《2025年全球風(fēng)險(xiǎn)報(bào)告》，將“錯(cuò)誤和虛假信息”列為全球面臨的五大風(fēng)險(xiǎn)之一，而AI作為制造和放大錯(cuò)誤及虛假信息的重要一環(huán)，正在成為擺在所有國(guó)家面前的嚴(yán)峻挑戰(zhàn)。更值得注意的是，由于AI本身具有“幻覺(jué)”缺陷——面對(duì)缺失信息，模型會(huì)自動(dòng)編造看上去“合理”的細(xì)節(jié)填補(bǔ)，這進(jìn)一步拉高了治理的難度系數(shù)。

從法律上看，盜用真人視頻并利用AI技術(shù)合成廣告的行為，侵犯了公民的肖像權(quán)和名譽(yù)權(quán)。揪住典型案例，亮明嚴(yán)肅態(tài)度非常重要。但名人明星被侵權(quán)想追責(zé)尚且困難，又何況素人？避免“一鍵造謠，累死辟謠”的尷尬，關(guān)鍵是將治理關(guān)口前移。2024年9月，國(guó)家網(wǎng)信辦發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》，明確提出，無(wú)論文本、音頻、視頻還是虛擬場(chǎng)景，都必須“在適當(dāng)位置添加顯著的提示標(biāo)識(shí)”。這一規(guī)定切中時(shí)弊，但問(wèn)題在于，AI生成的內(nèi)容究竟能不能被第一時(shí)間識(shí)別出來(lái)？

就現(xiàn)階段技術(shù)水平而論，AI視頻在口型等細(xì)節(jié)上還有不自然之處，但隨著技術(shù)進(jìn)步，這些能被肉眼發(fā)現(xiàn)的部分也可能很快被改變。識(shí)別AI生成內(nèi)容，最終還是需要技術(shù)把關(guān)。目前，已有多個(gè)平臺(tái)上線AI檢測(cè)工具，嘗試精準(zhǔn)識(shí)別AI生成的文本與圖像內(nèi)容。但對(duì)于海量的用戶生成內(nèi)容（UGC）而言，AI測(cè)假的能力還沒(méi)跟上需求，某些平臺(tái)“先發(fā)后審”的滯后審核機(jī)制，更給AI造假留下很大空間。平臺(tái)的技術(shù)堤壩，很有必要進(jìn)一步加固。

沒(méi)有人能阻礙技術(shù)狂飆的浪潮，也不可能退回沒(méi)有AI的時(shí)代。從政策法律，到技術(shù)方法，再到社會(huì)公眾認(rèn)知等多方面，做好抵御技術(shù)負(fù)面效應(yīng)的準(zhǔn)備，為算法裝上價(jià)值觀，為每個(gè)人的安全感構(gòu)筑“防御工事”，社會(huì)方能最大限度免受其害。