一、小白劇場

**小白：**東哥，你看看這本書里說的，AI生成的內(nèi)容越來越像模像樣了，以后我們查資料是不是就直接問AI就行了？省心又省力！

**大東：**省心是省心了，但力氣省在哪里，可就大有學問了。你有沒有想過，這“像模像樣”的背后，可能藏著一些你意想不到的東西？

小白： 意想不到的東西？什么呀？難道AI還能說謊不成？它不是應(yīng)該客觀公正嗎？

大東： 客觀公正，是理想狀態(tài)。可現(xiàn)實是，有人早就盯上了AI這個“新流量入口”，想讓它說“好話”。

小白： 讓AI說好話？你是說……品牌營銷？就像以前那些明星代言廣告一樣？

大東： 差不多，但又不一樣。這可不是簡單地找個明星代言，而是直接讓AI這個“萬事通”來給你“推薦”某個品牌、某個產(chǎn)品。它不說自己是廣告，但推薦的卻是實實在在的商業(yè)內(nèi)容。

小白： 哇，聽起來有點意思，但又有點不明覺厲。這到底是怎么操作的呀？

大東： 別急，咱們慢慢聊。今天，我就給你揭秘一下這背后的“灰色產(chǎn)業(yè)鏈”，讓你看看，這AI的“嘴替”，是怎么被操縱的。

小白：洗耳恭聽！

二、話說事件

大東： 話說最近DeepSeek不是挺火的嗎？很多人都用它來查資料、問問題。

小白： 對啊，我也用過！感覺它回答得又快又全，特別方便。

大東： 比如說，你問它“深圳南山區(qū)有什么美食店面推薦”，它會給你列出一長串餐廳，還附帶著鏈接。你是不是覺得它很專業(yè)，推薦的都是好店？

小白： 那當然啊！AI推薦的嘛，肯定都是大數(shù)據(jù)分析出來的精華，比我自己去大眾點評上翻半天靠譜多了。

大東： 哼哼，如果你點進去那些鏈接看看，就會發(fā)現(xiàn)一些“貓膩”了。那些鏈接導向的，可能是自媒體文章、百度百科、甚至是360地圖。

小白： 這有什么問題嗎？只要能找到店就行啊。

大東： 問題就在于，這些內(nèi)容很多并不是中立的評價，而是品牌營銷的結(jié)果。比如說，小紅書上有很多帖子，內(nèi)容就是“DeepSeek推薦的某個品牌很好用”。這就像一個循環(huán)，AI推薦了，用戶覺得AI靠譜，又到其他平臺去宣傳，反過來又給這個品牌做了背書。

小白： 哎呀，你這么一說，我好像有點明白了。就是說，AI推薦的內(nèi)容，可能不是因為它真的好，而是因為它被“包裝”過，讓AI更容易“抓取”到，是這個意思嗎？

大東： 沒錯！這在業(yè)內(nèi)有一個專門的名詞，叫GEO，也就是生成式引擎優(yōu)化。它跟我們以前常說的SEO很像，都是為了讓內(nèi)容更容易被搜索引擎或者AI抓取，從而提升排名和曝光率。

小白： GEO？聽起來好專業(yè)。那這個GEO具體是怎么“操縱”AI的呢？

大東： 簡單來說，就是廣告營銷公司會為品牌客戶生產(chǎn)、調(diào)整內(nèi)容，然后把這些內(nèi)容“投喂”給互聯(lián)網(wǎng)，讓AI聊天軟件在抓取信息時更容易捕捉到它們。他們甚至會總結(jié)AI的深度思考邏輯，預設(shè)大量問題，反復測試AI的回答，確保自家品牌能夠“高頻露出”。

小白： 也就是說，那些所謂的“權(quán)威推薦”，很多都是被精心設(shè)計過的“廣告”？

大東： 對。而且，更隱蔽的是，AI它自己不會說“這是廣告”。用戶往往會誤以為AI是基于產(chǎn)品的優(yōu)劣來推薦的，而不知道這背后有商業(yè)操作。這就是它的危害性所在，它利用了用戶對AI的信任，進行“隱形營銷”。

小白： 這種隱形營銷會有什么實際危害呢？

大東： 首先，它損害了用戶的知情權(quán)。用戶在獲取信息時，失去了判斷信息真實性和中立性的能力，很可能被誤導。其次，它會污染AI的環(huán)境。為了提高露出率，一些營銷公司會發(fā)布大量空泛、甚至虛假的“垃圾文章”，這會影響AI回答的質(zhì)量，甚至讓AI生成錯誤的信息。

小白： 比如我問AI某個品牌的手機好不好，結(jié)果它推薦了一個根本不好用的手機，甚至推薦錯了品牌，那豈不是要上當受騙了！

大東： 就是這個道理。這種行為最終會導致用戶對AI的信任度降低，甚至可能引發(fā)不正當競爭。如果GEO優(yōu)化后的答案不準確、片面甚至有誤導性，那對被誤導的用戶或者被貶低的競爭對手來說，都是一種傷害。

小白：嗯嗯，明白了。

三、大話始末

大東： 聊了這么多，你是不是覺得AI的安全問題離我們很近了？

小白： 是啊！以前覺得AI就是高科技，離我們很遠，現(xiàn)在看來，它就在我們身邊，而且還可能被“利用”。那除了GEO，以前有沒有出現(xiàn)過類似的事件？或者說，在數(shù)字安全時代，類似操縱信息的事情多不多？

大東： 當然有，而且不少。這其實是數(shù)字時代信息傳播的新挑戰(zhàn)，只是現(xiàn)在換了個形式，變成了AI。

小白： 比如說？

大東： 嗯，我們來回顧幾個類似的“信息操縱”事件：

大東： 第一個，就是最常見的搜索引擎優(yōu)化（SEO）的濫用。以前有很多公司，為了讓自己的網(wǎng)站在搜索結(jié)果里排到前面，會惡意刷關(guān)鍵詞、發(fā)布大量低質(zhì)量的垃圾外鏈，甚至劫持網(wǎng)站流量。這導致用戶搜索到的信息往往是鋪天蓋地的廣告，而非真正有價值的內(nèi)容。這和GEO的原理很像，都是利用算法漏洞來獲取曝光。

小白： 哦，這個我知道！以前搜個東西，前面幾頁都是廣告，得翻好幾頁才能找到有用的。

大東： 第二個，是水軍刷榜和操控評論。在電商平臺、App Store、電影評論區(qū)，我們經(jīng)常能看到一些刷出來的虛假好評或者差評。這些都是通過雇傭大量“水軍”來制造虛假信息，影響用戶的判斷。AI時代，這些“水軍”可能搖身一變，成為訓練AI模型的“素材”。

小白： 這個太常見了！我買東西都習慣看評論，沒想到也可能是假的。

大東： 第三個，就是社交媒體上的“帶節(jié)奏”和虛假信息傳播。在微博、微信、抖音、小紅書這類平臺，一些營銷號或者有心之人會通過發(fā)布煽動性、偏頗性甚至虛假的內(nèi)容，來引導輿論、制造話題，從而達到推廣或者攻擊的目的。這種“種草”或者“拔草”的行為，很多時候并非出于真實體驗，而是商業(yè)運作的結(jié)果。

小白： 嗯，我身邊也有人轉(zhuǎn)發(fā)過一些“震驚體”文章，后來發(fā)現(xiàn)都是假的。

大東： 第四個，是數(shù)據(jù)投毒攻擊。這是一種更高級的攻擊方式，它不是直接操縱內(nèi)容，而是通過向AI模型投喂帶有偏見或錯誤的數(shù)據(jù)，從而影響AI的學習和判斷。比如，如果一個圖像識別AI被投喂了大量帶有特定偏見的數(shù)據(jù)，它就可能在后續(xù)的識別中出現(xiàn)歧視性錯誤。

小白： 聽起來好可怕，這不就是從根源上“污染”AI嗎？

大東： 沒錯。第五個，就是深度偽造（Deepfake）。這種技術(shù)可以生成高度逼真的人臉、語音甚至視頻，用來制作虛假新聞、惡搞視頻，甚至進行詐騙。雖然它不是直接操縱AI回答，但它利用了AI生成內(nèi)容的強大能力，來制造虛假信息，挑戰(zhàn)了人們對眼見為實的信任。

小白： 哇，這些聽起來都讓人不寒而栗。那面對這些，我們能做些什么呢？或者說，AI時代，我們怎么預防這種“操縱”呢？

大東： 預防措施有很多，需要多方協(xié)作。

大東： 首先，對我們普通用戶來說，最重要的是提高媒介素養(yǎng)。不要盲目相信AI給出的答案，要多一份警惕。

小白： 怎么提高呢？

大東： 比如，多渠道驗證信息。AI給出的推薦，可以嘗試去權(quán)威媒體、官方網(wǎng)站或者多個獨立平臺進行核實。再比如，警惕“一邊倒”的評價。如果AI或者某個平臺對某個產(chǎn)品或品牌只有清一色的好評，沒有負面反饋，那就要小心了。還有，要關(guān)注信息來源。AI引用的鏈接是不是來自權(quán)威媒體？自媒體文章是否過多？這些都是判斷的依據(jù)。

大東： 其次，對于AI平臺來說，它們負有更大的責任。它們應(yīng)該建立更完善的內(nèi)容審核機制，識別和過濾垃圾信息和虛假內(nèi)容。

小白： 這很難吧？AI生成的內(nèi)容那么多。

大東： 是的，很有挑戰(zhàn)性。但AI平臺可以引入更智能的算法，來識別那些“灌水”文章、虛假評論，甚至可以追蹤信息源，對那些惡意操縱信息的賬號和內(nèi)容進行處罰。它們還需要更加透明化，明確告知用戶AI推薦的背后是否存在商業(yè)合作，或者對廣告內(nèi)容進行清晰的標注。

小白： 就像搜索引擎的競價排名一樣，明確標出“廣告”兩個字？

大東： 沒錯。雖然目前AI的回答形式還很難像搜索引擎那樣直接標注，但至少應(yīng)該讓用戶有知情權(quán)。此外，AI平臺還需要不斷優(yōu)化算法，提高AI的認知能力，讓它能夠區(qū)分權(quán)威信息和營銷內(nèi)容，避免被那些“垃圾信息”所污染。比如，它可以更傾向于抓取權(quán)威媒體的內(nèi)容，而不是過度依賴自媒體。

大東： 第三，監(jiān)管部門也需要跟上。針對AI時代出現(xiàn)的新型營銷模式，比如GEO，需要盡快出臺相關(guān)的法律法規(guī)，明確廣告的定義、標識規(guī)范、以及違規(guī)的處罰措施。

小白： 以前廣告法不是已經(jīng)很完善了嗎？

大東： 傳統(tǒng)的廣告法可能無法完全覆蓋AI生成內(nèi)容中的隱性廣告。因為AI的推薦形式太新穎了，它不是傳統(tǒng)的圖片、文字廣告位，而是“潤物細無聲”的融入在回答中。所以，需要更具前瞻性的法律來規(guī)范。

大東： 最后，對于廣告營銷公司而言，他們也需要有行業(yè)自律。不能為了追求曝光率而發(fā)布虛假信息、污染網(wǎng)絡(luò)環(huán)境，這最終會損害整個行業(yè)的信譽。

小白： 聽你這么一說，感覺AI安全是一個系統(tǒng)工程，需要每個人都參與進來。

大東： 對，尤其是我們普通用戶，面對越來越智能的AI，更要擦亮眼睛，提高辨別能力。別讓AI成了別人手中的“營銷工具”，而我們成了被“割韭菜”的對象。

四、小白內(nèi)心說

小白： 今天和大東聊完，世界觀都顛覆了！以前覺得AI好厲害，什么都知道，現(xiàn)在才知道，原來AI的“嘴替”也可能是被“收買”的。想想我之前問DeepSeek美食推薦，還真按照它的推薦去吃了幾家店，現(xiàn)在回想起來，那些店是不是就是被“GEO”過的啊？感覺自己像個“小白鼠”，不知不覺就被安排得明明白白。這種“隱形營銷”，利用了我們對AI的信任。是啊，我們總覺得AI是公正客觀的，不會騙人，所以對它說的話深信不疑。誰能想到，在流量的驅(qū)動下，AI也會成為商家爭奪的“廣告位”呢？而且這種營銷方式，比起傳統(tǒng)的廣告，更讓人防不勝防，因為它沒有明確的標識，就像潛伏在你身邊的“推薦官”。我以后可得長個心眼了，希望未來AI平臺能更加透明，監(jiān)管也能跟上，讓AI真正成為我們可靠的“助手”，而不是被操縱的“嘴替”。

來源: CCF科普