以前我們都說“有圖有真相”
但隨著AI的發(fā)展
有圖也未必有真相

過去半年，AI生成的謠言
從文字到圖片到視頻
以近乎工業(yè)化生產(chǎn)的模式泛濫
形成“謠言→AI引用→更多謠言”的傳播鏈條

年初，達(dá)沃斯世界經(jīng)濟(jì)論壇發(fā)布的
《2025年全球風(fēng)險報告》
將“錯誤和虛假信息”
與武裝沖突、極端天氣、
經(jīng)濟(jì)對抗和社會極化
列為2025年全球面臨的五大風(fēng)險

AI正在成為制造
和放大錯誤和虛假信息的重要一環(huán)
一些網(wǎng)民通過AI憑空杜撰
另一邊，AI幻覺與一些人的盲信交織
加劇了謠言的破壞力


新疆拜城縣發(fā)生地震時期，造謠者利用AI技術(shù)手段發(fā)布虛假信息誤導(dǎo)公眾。

虛假信息不僅誤導(dǎo)消費(fèi)者
還可能對社會秩序、國家安全
甚至人民群眾的生命財產(chǎn)安全構(gòu)成威脅

如何破解AI幻覺技術(shù)難題
從源頭打擊謠言
避免人工智能成為造謠幫兇
構(gòu)建多維度治理體系
正成為當(dāng)下網(wǎng)絡(luò)輿論社會治理的新命題

“偽造”
AI謠言正在批量生產(chǎn)

近半年來，AI的生成能力多次被注入“謠言生產(chǎn)線”。AI工具的低門檻濫用讓謠言制造呈現(xiàn)工業(yè)化、專業(yè)化趨勢。

在自然災(zāi)害方面，利用AI制造的謠言成為恐慌放大器。

2025年1月7日，西藏定日縣發(fā)生6.8級地震，而一系列“小男孩被埋圖”在互聯(lián)網(wǎng)平臺廣泛傳播，并配文日喀則地震等關(guān)鍵詞，引發(fā)大量網(wǎng)民關(guān)注。

鑒于該圖片存在明顯AI生成痕跡，如圖中的小男孩有6根手指，虛假圖片很快就暴露了。

但在這之后，一出現(xiàn)自然災(zāi)害，AI謠言常常相伴而生。由于AI工具的發(fā)展日新月異，相關(guān)圖片的“真實度”也越來越高。

3月初，廣東出現(xiàn)強(qiáng)對流天氣，多地下起了冰雹。但在一些網(wǎng)絡(luò)平臺，有網(wǎng)民發(fā)布了“冰雹比雞蛋還大”“冰雹砸壞汽車”“冰雹砸垮了房屋頂棚”等圖片，并配文“廣東多地最近下冰雹”。

經(jīng)核實，這些圖片均為通過AI制作生成的虛假圖片，其畫面明顯夸大了災(zāi)情。

“AI冰雹圖片”的謠言過去還沒兩天，2025年3月5日，新疆阿克蘇地區(qū)拜城縣發(fā)生4.5級地震，震后僅3小時，某短視頻平臺便出現(xiàn)“已致3人死亡、65戶房屋倒塌”的謠言，配以AI拼接的房屋坍塌圖片和方言配音的“災(zāi)民呼救”視頻。

經(jīng)核查，這是造謠者利用AI技術(shù)手段拼接網(wǎng)絡(luò)舊圖，發(fā)布與此次地震不符的圖文、音視頻等虛假信息誤導(dǎo)公眾。實際上，經(jīng)當(dāng)?shù)卣婷牛舜蔚卣鹞丛斐扇藛T傷亡和財產(chǎn)損失。


新疆拜城縣發(fā)生地震時期，造謠者利用AI技術(shù)手段拼接網(wǎng)絡(luò)舊圖，發(fā)布虛假信息誤導(dǎo)公眾。

除自然災(zāi)害領(lǐng)域的謠言外，AI的“理性氣質(zhì)”也越來越多被用來包裝成反常識的“科普類”謠言。

警惕AI生成網(wǎng)絡(luò)謠言，
切勿讓“神器”變“兇器

AI技術(shù)正在逐漸改變我們的生活方式，提升工作效率，為解決許多問題提供途徑。但與此同時，個別別有用心之人在利用AI技術(shù)時走向了迷途……造謠者借助AI 工具，生產(chǎn)仿真度高的虛假信息。

!警惕！AI被用來“造謠”

典型AI謠言場景

偽造熱點(diǎn)事件
用AI生成“某地重大事故”圖文/視頻，配煽動性標(biāo)題博流量。

捏造名人言論
篡改語音、合成視頻，假借權(quán)威人士發(fā)布虛假政策解讀。

炮制偽科普
利用AI生成“科學(xué)數(shù)據(jù)”，兜售偽劣產(chǎn)品（如“AI檢測抗癌神藥”）。

嫁接虛假證據(jù)
將無關(guān)圖片通過AI換臉/換背景，捏造“維權(quán)證據(jù)”“聊天記錄”。

四步識別AI謠言
不當(dāng)“受害者”更別當(dāng)“幫兇”

1查源頭

警惕無明確作者、無正規(guī)信源的內(nèi)容，AI生成信息常偽裝成“網(wǎng)友投稿”“內(nèi)部消息”。

2看細(xì)節(jié)

AI圖像：觀察手指數(shù)量異常、光影不自然等；

AI視頻：注意口型與聲音不同步、背景模糊扭曲。

3驗邏輯

AI生成謠言常出現(xiàn)時間矛盾（如“2024年政策”引用2025年數(shù)據(jù)）、地名錯誤等。

4用工具

關(guān)注“公安部網(wǎng)安局”新媒體賬號打謠信息，或通過“中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺”“騰訊較真”等渠道一鍵驗證。

真實案例

近日，西安公安網(wǎng)安部門工作查明，一網(wǎng)民利用AI生成軟件將一起多年前發(fā)生于外地的舊聞進(jìn)行重新編輯，通過輸入指令制作文案，將其包裝成本地近期發(fā)生的事件，文案多處通過添油加醋的筆法虛構(gòu)事實真相，以達(dá)到博取流量的目的，造成謠言傳播擴(kuò)散。目前，屬地公安機(jī)關(guān)已依法給予該網(wǎng)民行政處罰。

網(wǎng)警提示

01.嚴(yán)守法律紅線

不利用AI偽造公文、證件，不生成謠言、暴力等違法信息。

02.抵制AI謠言

遇所謂“爆炸性新聞”做到“三不”：不輕信、不轉(zhuǎn)發(fā)、不擴(kuò)散。通過官方平臺驗證信息，發(fā)現(xiàn)AI謠言立即舉報，保存證據(jù)協(xié)助溯源。

03.共擔(dān)監(jiān)督責(zé)任

主動標(biāo)注AI生成內(nèi)容，人人爭做“謠言粉碎者”，共同維護(hù)清朗網(wǎng)絡(luò)空間。

技術(shù)向善，始于你我。讓我們以理性駕馭AI，用法律守護(hù)底線，攜手傳遞正能量！

來源: 南方日報、公安部網(wǎng)安局、江西宣傳