一、小白劇場

**小白：**東哥，你看看這本書里說的，AI生成的內(nèi)容越來越像模像樣了，以后我們查資料是不是就直接問AI就行了？省心又省力！

**大東：**省心是省心了，但力氣省在哪里，可就大有學(xué)問了。你有沒有想過，這“像模像樣”的背后，可能藏著一些你意想不到的東西？

小白： 意想不到的東西？什么呀？難道AI還能說謊不成？它不是應(yīng)該客觀公正嗎？

大東： 客觀公正，是理想狀態(tài)。可現(xiàn)實(shí)是，有人早就盯上了AI這個(gè)“新流量入口”，想讓它說“好話”。

小白： 讓AI說好話？你是說……品牌營銷？就像以前那些明星代言廣告一樣？

大東： 差不多，但又不一樣。這可不是簡單地找個(gè)明星代言，而是直接讓AI這個(gè)“萬事通”來給你“推薦”某個(gè)品牌、某個(gè)產(chǎn)品。它不說自己是廣告，但推薦的卻是實(shí)實(shí)在在的商業(yè)內(nèi)容。

小白： 哇，聽起來有點(diǎn)意思，但又有點(diǎn)不明覺厲。這到底是怎么操作的呀？

大東： 別急，咱們慢慢聊。今天，我就給你揭秘一下這背后的“灰色產(chǎn)業(yè)鏈”，讓你看看，這AI的“嘴替”，是怎么被操縱的。

小白：洗耳恭聽！

二、話說事件

大東： 話說最近DeepSeek不是挺火的嗎？很多人都用它來查資料、問問題。

小白： 對(duì)啊，我也用過！感覺它回答得又快又全，特別方便。

大東： 比如說，你問它“深圳南山區(qū)有什么美食店面推薦”，它會(huì)給你列出一長串餐廳，還附帶著鏈接。你是不是覺得它很專業(yè)，推薦的都是好店？

小白： 那當(dāng)然啊！AI推薦的嘛，肯定都是大數(shù)據(jù)分析出來的精華，比我自己去大眾點(diǎn)評(píng)上翻半天靠譜多了。

大東： 哼哼，如果你點(diǎn)進(jìn)去那些鏈接看看，就會(huì)發(fā)現(xiàn)一些“貓膩”了。那些鏈接導(dǎo)向的，可能是自媒體文章、百度百科、甚至是360地圖。

小白： 這有什么問題嗎？只要能找到店就行啊。

大東： 問題就在于，這些內(nèi)容很多并不是中立的評(píng)價(jià)，而是品牌營銷的結(jié)果。比如說，小紅書上有很多帖子，內(nèi)容就是“DeepSeek推薦的某個(gè)品牌很好用”。這就像一個(gè)循環(huán)，AI推薦了，用戶覺得AI靠譜，又到其他平臺(tái)去宣傳，反過來又給這個(gè)品牌做了背書。

小白： 哎呀，你這么一說，我好像有點(diǎn)明白了。就是說，AI推薦的內(nèi)容，可能不是因?yàn)樗娴暮茫且驗(yàn)樗弧鞍b”過，讓AI更容易“抓取”到，是這個(gè)意思嗎？

大東： 沒錯(cuò)！這在業(yè)內(nèi)有一個(gè)專門的名詞，叫GEO，也就是生成式引擎優(yōu)化。它跟我們以前常說的SEO很像，都是為了讓內(nèi)容更容易被搜索引擎或者AI抓取，從而提升排名和曝光率。

小白： GEO？聽起來好專業(yè)。那這個(gè)GEO具體是怎么“操縱”AI的呢？

大東： 簡單來說，就是廣告營銷公司會(huì)為品牌客戶生產(chǎn)、調(diào)整內(nèi)容，然后把這些內(nèi)容“投喂”給互聯(lián)網(wǎng)，讓AI聊天軟件在抓取信息時(shí)更容易捕捉到它們。他們甚至?xí)偨Y(jié)AI的深度思考邏輯，預(yù)設(shè)大量問題，反復(fù)測試AI的回答，確保自家品牌能夠“高頻露出”。

小白： 也就是說，那些所謂的“權(quán)威推薦”，很多都是被精心設(shè)計(jì)過的“廣告”？

大東： 對(duì)。而且，更隱蔽的是，AI它自己不會(huì)說“這是廣告”。用戶往往會(huì)誤以為AI是基于產(chǎn)品的優(yōu)劣來推薦的，而不知道這背后有商業(yè)操作。這就是它的危害性所在，它利用了用戶對(duì)AI的信任，進(jìn)行“隱形營銷”。

小白： 這種隱形營銷會(huì)有什么實(shí)際危害呢？

大東： 首先，它損害了用戶的知情權(quán)。用戶在獲取信息時(shí)，失去了判斷信息真實(shí)性和中立性的能力，很可能被誤導(dǎo)。其次，它會(huì)污染AI的環(huán)境。為了提高露出率，一些營銷公司會(huì)發(fā)布大量空泛、甚至虛假的“垃圾文章”，這會(huì)影響AI回答的質(zhì)量，甚至讓AI生成錯(cuò)誤的信息。

小白： 比如我問AI某個(gè)品牌的手機(jī)好不好，結(jié)果它推薦了一個(gè)根本不好用的手機(jī)，甚至推薦錯(cuò)了品牌，那豈不是要上當(dāng)受騙了！

大東： 就是這個(gè)道理。這種行為最終會(huì)導(dǎo)致用戶對(duì)AI的信任度降低，甚至可能引發(fā)不正當(dāng)競爭。如果GEO優(yōu)化后的答案不準(zhǔn)確、片面甚至有誤導(dǎo)性，那對(duì)被誤導(dǎo)的用戶或者被貶低的競爭對(duì)手來說，都是一種傷害。

小白：嗯嗯，明白了。

三、大話始末

大東： 聊了這么多，你是不是覺得AI的安全問題離我們很近了？

小白： 是啊！以前覺得AI就是高科技，離我們很遠(yuǎn)，現(xiàn)在看來，它就在我們身邊，而且還可能被“利用”。那除了GEO，以前有沒有出現(xiàn)過類似的事件？或者說，在數(shù)字安全時(shí)代，類似操縱信息的事情多不多？

大東： 當(dāng)然有，而且不少。這其實(shí)是數(shù)字時(shí)代信息傳播的新挑戰(zhàn)，只是現(xiàn)在換了個(gè)形式，變成了AI。

小白： 比如說？

大東： 嗯，我們來回顧幾個(gè)類似的“信息操縱”事件：

大東： 第一個(gè)，就是最常見的搜索引擎優(yōu)化（SEO）的濫用。以前有很多公司，為了讓自己的網(wǎng)站在搜索結(jié)果里排到前面，會(huì)惡意刷關(guān)鍵詞、發(fā)布大量低質(zhì)量的垃圾外鏈，甚至劫持網(wǎng)站流量。這導(dǎo)致用戶搜索到的信息往往是鋪天蓋地的廣告，而非真正有價(jià)值的內(nèi)容。這和GEO的原理很像，都是利用算法漏洞來獲取曝光。

小白： 哦，這個(gè)我知道！以前搜個(gè)東西，前面幾頁都是廣告，得翻好幾頁才能找到有用的。

大東： 第二個(gè)，是水軍刷榜和操控評(píng)論。在電商平臺(tái)、App Store、電影評(píng)論區(qū)，我們經(jīng)常能看到一些刷出來的虛假好評(píng)或者差評(píng)。這些都是通過雇傭大量“水軍”來制造虛假信息，影響用戶的判斷。AI時(shí)代，這些“水軍”可能搖身一變，成為訓(xùn)練AI模型的“素材”。

小白： 這個(gè)太常見了！我買東西都習(xí)慣看評(píng)論，沒想到也可能是假的。

大東： 第三個(gè)，就是社交媒體上的“帶節(jié)奏”和虛假信息傳播。在微博、微信、抖音、小紅書這類平臺(tái)，一些營銷號(hào)或者有心之人會(huì)通過發(fā)布煽動(dòng)性、偏頗性甚至虛假的內(nèi)容，來引導(dǎo)輿論、制造話題，從而達(dá)到推廣或者攻擊的目的。這種“種草”或者“拔草”的行為，很多時(shí)候并非出于真實(shí)體驗(yàn)，而是商業(yè)運(yùn)作的結(jié)果。

小白： 嗯，我身邊也有人轉(zhuǎn)發(fā)過一些“震驚體”文章，后來發(fā)現(xiàn)都是假的。

大東： 第四個(gè)，是數(shù)據(jù)投毒攻擊。這是一種更高級(jí)的攻擊方式，它不是直接操縱內(nèi)容，而是通過向AI模型投喂帶有偏見或錯(cuò)誤的數(shù)據(jù)，從而影響AI的學(xué)習(xí)和判斷。比如，如果一個(gè)圖像識(shí)別AI被投喂了大量帶有特定偏見的數(shù)據(jù)，它就可能在后續(xù)的識(shí)別中出現(xiàn)歧視性錯(cuò)誤。

小白： 聽起來好可怕，這不就是從根源上“污染”AI嗎？

大東： 沒錯(cuò)。第五個(gè)，就是深度偽造（Deepfake）。這種技術(shù)可以生成高度逼真的人臉、語音甚至視頻，用來制作虛假新聞、惡搞視頻，甚至進(jìn)行詐騙。雖然它不是直接操縱AI回答，但它利用了AI生成內(nèi)容的強(qiáng)大能力，來制造虛假信息，挑戰(zhàn)了人們對(duì)眼見為實(shí)的信任。

小白： 哇，這些聽起來都讓人不寒而栗。那面對(duì)這些，我們能做些什么呢？或者說，AI時(shí)代，我們?cè)趺搭A(yù)防這種“操縱”呢？

大東： 預(yù)防措施有很多，需要多方協(xié)作。

大東： 首先，對(duì)我們普通用戶來說，最重要的是提高媒介素養(yǎng)。不要盲目相信AI給出的答案，要多一份警惕。

小白： 怎么提高呢？

大東： 比如，多渠道驗(yàn)證信息。AI給出的推薦，可以嘗試去權(quán)威媒體、官方網(wǎng)站或者多個(gè)獨(dú)立平臺(tái)進(jìn)行核實(shí)。再比如，警惕“一邊倒”的評(píng)價(jià)。如果AI或者某個(gè)平臺(tái)對(duì)某個(gè)產(chǎn)品或品牌只有清一色的好評(píng)，沒有負(fù)面反饋，那就要小心了。還有，要關(guān)注信息來源。AI引用的鏈接是不是來自權(quán)威媒體？自媒體文章是否過多？這些都是判斷的依據(jù)。

大東： 其次，對(duì)于AI平臺(tái)來說，它們負(fù)有更大的責(zé)任。它們應(yīng)該建立更完善的內(nèi)容審核機(jī)制，識(shí)別和過濾垃圾信息和虛假內(nèi)容。

小白： 這很難吧？AI生成的內(nèi)容那么多。

大東： 是的，很有挑戰(zhàn)性。但AI平臺(tái)可以引入更智能的算法，來識(shí)別那些“灌水”文章、虛假評(píng)論，甚至可以追蹤信息源，對(duì)那些惡意操縱信息的賬號(hào)和內(nèi)容進(jìn)行處罰。它們還需要更加透明化，明確告知用戶AI推薦的背后是否存在商業(yè)合作，或者對(duì)廣告內(nèi)容進(jìn)行清晰的標(biāo)注。

小白： 就像搜索引擎的競價(jià)排名一樣，明確標(biāo)出“廣告”兩個(gè)字？

大東： 沒錯(cuò)。雖然目前AI的回答形式還很難像搜索引擎那樣直接標(biāo)注，但至少應(yīng)該讓用戶有知情權(quán)。此外，AI平臺(tái)還需要不斷優(yōu)化算法，提高AI的認(rèn)知能力，讓它能夠區(qū)分權(quán)威信息和營銷內(nèi)容，避免被那些“垃圾信息”所污染。比如，它可以更傾向于抓取權(quán)威媒體的內(nèi)容，而不是過度依賴自媒體。

大東： 第三，監(jiān)管部門也需要跟上。針對(duì)AI時(shí)代出現(xiàn)的新型營銷模式，比如GEO，需要盡快出臺(tái)相關(guān)的法律法規(guī)，明確廣告的定義、標(biāo)識(shí)規(guī)范、以及違規(guī)的處罰措施。

小白： 以前廣告法不是已經(jīng)很完善了嗎？

大東： 傳統(tǒng)的廣告法可能無法完全覆蓋AI生成內(nèi)容中的隱性廣告。因?yàn)锳I的推薦形式太新穎了，它不是傳統(tǒng)的圖片、文字廣告位，而是“潤物細(xì)無聲”的融入在回答中。所以，需要更具前瞻性的法律來規(guī)范。

大東： 最后，對(duì)于廣告營銷公司而言，他們也需要有行業(yè)自律。不能為了追求曝光率而發(fā)布虛假信息、污染網(wǎng)絡(luò)環(huán)境，這最終會(huì)損害整個(gè)行業(yè)的信譽(yù)。

小白： 聽你這么一說，感覺AI安全是一個(gè)系統(tǒng)工程，需要每個(gè)人都參與進(jìn)來。

大東： 對(duì)，尤其是我們普通用戶，面對(duì)越來越智能的AI，更要擦亮眼睛，提高辨別能力。別讓AI成了別人手中的“營銷工具”，而我們成了被“割韭菜”的對(duì)象。

四、小白內(nèi)心說

小白： 今天和大東聊完，世界觀都顛覆了！以前覺得AI好厲害，什么都知道，現(xiàn)在才知道，原來AI的“嘴替”也可能是被“收買”的。想想我之前問DeepSeek美食推薦，還真按照它的推薦去吃了幾家店，現(xiàn)在回想起來，那些店是不是就是被“GEO”過的啊？感覺自己像個(gè)“小白鼠”，不知不覺就被安排得明明白白。這種“隱形營銷”，利用了我們對(duì)AI的信任。是啊，我們總覺得AI是公正客觀的，不會(huì)騙人，所以對(duì)它說的話深信不疑。誰能想到，在流量的驅(qū)動(dòng)下，AI也會(huì)成為商家爭奪的“廣告位”呢？而且這種營銷方式，比起傳統(tǒng)的廣告，更讓人防不勝防，因?yàn)樗鼪]有明確的標(biāo)識(shí)，就像潛伏在你身邊的“推薦官”。我以后可得長個(gè)心眼了，希望未來AI平臺(tái)能更加透明，監(jiān)管也能跟上，讓AI真正成為我們可靠的“助手”，而不是被操縱的“嘴替”。

來源: CCF科普