文│啟元實(shí)驗(yàn)室 徐禎；北京理工大學(xué)教授 徐源；啟元實(shí)驗(yàn)室副研究員 劉媛媛

在生成式人工智能與平臺(tái)算法深度嵌入社會(huì)信息循環(huán)的背景下，認(rèn)知域安全風(fēng)險(xiǎn)正在從“單點(diǎn)內(nèi)容風(fēng)險(xiǎn)”躍遷為“系統(tǒng)性鏈路風(fēng)險(xiǎn)”。上游數(shù)據(jù)與語(yǔ)料的獲取、標(biāo)注與投喂，中游模型與算法的訓(xùn)練、微調(diào)與復(fù)用，下游平臺(tái)分發(fā)、搜索與人機(jī)交互的解釋權(quán)配置，以及貫穿全鏈路的反饋與迭代機(jī)制，共同構(gòu)成智能時(shí)代的認(rèn)知供應(yīng)鏈。這一鏈路一旦被外部力量滲透，就可能在不直接摧毀網(wǎng)絡(luò)或物理系統(tǒng)的情況下，通過(guò)議程設(shè)置、框架塑造、情緒喚起與行為偏移，改變社會(huì)信任結(jié)構(gòu)與戰(zhàn)略決策環(huán)境，從而威脅國(guó)家認(rèn)知域安全?；诖?，文章提出認(rèn)知供應(yīng)鏈安全分析框架，將認(rèn)知域安全治理從內(nèi)容處置升級(jí)為全鏈條治理，以期為推動(dòng)認(rèn)知域安全發(fā)展提供參考。

一、認(rèn)知供應(yīng)鏈的內(nèi)涵與特征

一般供應(yīng)鏈可以理解為是圍繞核心主體對(duì)象，通過(guò)對(duì)信息流、過(guò)程流與資源流的控制，將供應(yīng)者、制造者、分發(fā)者及最終用戶連成的整體功能網(wǎng)鏈結(jié)構(gòu)模式，覆蓋從生產(chǎn)到產(chǎn)品應(yīng)用的全流程。認(rèn)知供應(yīng)鏈可以被理解為信息從最初的數(shù)據(jù)材料狀態(tài)最終傳達(dá)到受眾端，并且影響受眾認(rèn)知的全過(guò)程鏈條。智能時(shí)代，在以生成式人工智能與推薦算法為核心的媒介環(huán)境，信息的生產(chǎn)、加工、傳播與反饋不再是傳統(tǒng)的大眾傳播模式，轉(zhuǎn)而呈現(xiàn)出高度的技術(shù)整合性。認(rèn)知供應(yīng)鏈演變成一種對(duì)公眾觀點(diǎn)、情感與共識(shí)進(jìn)行全流程管控的生產(chǎn)體系。這一生產(chǎn)體系主要包含四個(gè)核心環(huán)節(jié)，上游聚焦海量多模態(tài)數(shù)據(jù)的抓取、清洗及精細(xì)化標(biāo)注，完成認(rèn)知的原材料初加工；中游通過(guò)基礎(chǔ)模型的預(yù)訓(xùn)練、特定議程指令的微調(diào)以及智能體的邏輯復(fù)用，實(shí)現(xiàn)認(rèn)知產(chǎn)品的整合；下游則掌握分發(fā)算法的優(yōu)先級(jí)權(quán)重與人機(jī)對(duì)話的配置解釋權(quán)，決定了認(rèn)知的終端觸達(dá)；最終，全鏈路的實(shí)時(shí)響應(yīng)數(shù)據(jù)回流至引擎，驅(qū)動(dòng)敘事邏輯的自動(dòng)化迭代。在智能技術(shù)的驅(qū)動(dòng)下，認(rèn)知供應(yīng)鏈從信息分發(fā)媒介，逐漸向認(rèn)知塑造系統(tǒng)轉(zhuǎn)變，呈現(xiàn)四個(gè)方面特征。

一是認(rèn)知產(chǎn)品生產(chǎn)門(mén)檻快速降低。隨著大模型快速發(fā)展，認(rèn)知產(chǎn)品的生產(chǎn)成本呈現(xiàn)斷崖式下跌，信息的生產(chǎn)不再受限于人類編輯的產(chǎn)出速度，而是能夠針對(duì)特定議程，在短時(shí)間內(nèi)生成海量、多模態(tài)且能自我演化的敘事文本。根據(jù)美國(guó)斯坦福大學(xué)《2025年人工智能指數(shù)報(bào)告》（2025 AI Index），調(diào)用頂級(jí)大模型的推理成本在18個(gè)月內(nèi)從每百萬(wàn)Token20美元驟降至約0.07美元，降幅接近280倍。

二是傳播結(jié)構(gòu)呈網(wǎng)狀式演化。在前算法時(shí)代，信息經(jīng)過(guò)源頭通過(guò)編輯過(guò)濾最終單向傳達(dá)到終端受眾。人獲取信息依賴于主動(dòng)檢索與隨機(jī)接收。在互聯(lián)網(wǎng)時(shí)代，信息傳播模式具有明顯去中心化和節(jié)點(diǎn)化特征，傳播從“漏斗”結(jié)構(gòu)變成“網(wǎng)狀”結(jié)構(gòu)，信息通過(guò)社交關(guān)系鏈呈放射狀擴(kuò)散，每一個(gè)節(jié)點(diǎn)（公眾）既是信息的接收者，也是傳播者和生產(chǎn)者。

三是分發(fā)端掌握注意力分配權(quán)。在去中心化信息生產(chǎn)表象下，信息流推薦、搜索排序與熱榜機(jī)制等成為新的注意力控制手段，平臺(tái)可以通過(guò)權(quán)重配置、限流、取消推薦等“可見(jiàn)性管理”手段，改變某類內(nèi)容被看到的概率、出現(xiàn)的位置與重復(fù)曝光次數(shù)，對(duì)議題的議程設(shè)置產(chǎn)生系統(tǒng)性影響，從而無(wú)聲無(wú)息地控制大眾情緒和輿論走向。

四是認(rèn)知供應(yīng)鏈成為自適應(yīng)的演化系統(tǒng)。系統(tǒng)通過(guò)集成實(shí)時(shí)輿情監(jiān)測(cè)模塊，對(duì)分發(fā)終端的互動(dòng)數(shù)據(jù)如點(diǎn)擊率、停留時(shí)長(zhǎng)、情感極性、轉(zhuǎn)發(fā)漣漪效應(yīng)等進(jìn)行全量回傳。供應(yīng)鏈的上游大模型根據(jù)回傳數(shù)據(jù)自動(dòng)調(diào)整生成策略，實(shí)現(xiàn)對(duì)認(rèn)知弱點(diǎn)的迭代式攻擊。個(gè)體的獨(dú)立性往往在潛移默化中被消解，最終實(shí)現(xiàn)認(rèn)知結(jié)構(gòu)的預(yù)設(shè)重組。

二、智能時(shí)代認(rèn)知供應(yīng)鏈安全風(fēng)險(xiǎn)轉(zhuǎn)向

對(duì)認(rèn)知供應(yīng)鏈安全的理解是基于認(rèn)知域安全“主體—狀態(tài)—能力”安全結(jié)構(gòu)的系統(tǒng)性解釋，分別從主體是否免于誘導(dǎo)操縱、環(huán)境狀態(tài)是否穩(wěn)定有序，以及主體是否具備持續(xù)穩(wěn)健認(rèn)知能力的系統(tǒng)性狀態(tài)。認(rèn)知供應(yīng)鏈安全是圍繞數(shù)據(jù)與語(yǔ)料供給、模型與算法生產(chǎn)、平臺(tái)分發(fā)與交互解釋，以及反饋迭代機(jī)制構(gòu)成的認(rèn)知供應(yīng)鏈路完整有效，其關(guān)鍵節(jié)點(diǎn)與關(guān)鍵機(jī)制安全可控，不受外部操縱性滲透及技術(shù)優(yōu)勢(shì)危害，并具備保障持續(xù)安全狀態(tài)的能力。隨著智能技術(shù)深度介入，認(rèn)知安全風(fēng)險(xiǎn)特征也隨之表現(xiàn)出多維度的演進(jìn)與轉(zhuǎn)向。

（一）風(fēng)險(xiǎn)對(duì)象從“內(nèi)容干擾”轉(zhuǎn)向“邏輯重塑”

認(rèn)知供應(yīng)鏈安全威脅不再僅限于虛假信息，而在于數(shù)據(jù)、模型、分發(fā)與反饋機(jī)制的結(jié)構(gòu)性偏置，包括通過(guò)在預(yù)訓(xùn)練語(yǔ)料中植入特定意識(shí)形態(tài)的數(shù)據(jù)投毒，使算法邏輯在底層產(chǎn)生系統(tǒng)性傾斜。攻擊者通過(guò)在海量的開(kāi)源代碼、學(xué)術(shù)論文、社交媒介評(píng)論或政策分析報(bào)告中，植入特定意識(shí)形態(tài)的價(jià)值基準(zhǔn)或邏輯陷阱，使人工智能模型在學(xué)習(xí)語(yǔ)言模式的同時(shí)，將這些偏置內(nèi)化為自身的原生邏輯，甚至不需要大規(guī)模投入。美國(guó)人工智能公司Anthropic、英國(guó)人工智能安全研究所、英國(guó)艾倫·圖靈研究所聯(lián)合研究發(fā)現(xiàn)，只需250份投毒文件，就能成功在大模型中植入后門(mén)。由于數(shù)據(jù)投毒并非直接篡改結(jié)論，而是重塑算法的因果推理路徑，一旦算法邏輯在底層產(chǎn)生系統(tǒng)性傾斜，即便輸入的數(shù)據(jù)是客觀的，模型輸出的結(jié)論也會(huì)在邏輯上“自圓其說(shuō)”地滑向預(yù)設(shè)的意識(shí)形態(tài)陷阱。同時(shí)，這種結(jié)構(gòu)性偏置會(huì)通過(guò)“分發(fā)與反饋”機(jī)制形成自我強(qiáng)化，進(jìn)一步收窄用戶的認(rèn)知帶寬，形成更為牢固的信息繭房。

（二）風(fēng)險(xiǎn)機(jī)制從“線性傳播”轉(zhuǎn)向“閉環(huán)迭代”

人工智能對(duì)認(rèn)知的攻擊與操縱不再是單一維度的信息投送，而是演變?yōu)橐环N由數(shù)據(jù)驅(qū)動(dòng)、算法引導(dǎo)、情緒反饋觸發(fā)的自適應(yīng)系統(tǒng)。在此機(jī)制下，攻防博弈被深度嵌入實(shí)時(shí)互動(dòng)的反饋回路，呈現(xiàn)出類似生成式對(duì)抗網(wǎng)絡(luò)的動(dòng)態(tài)演化特征，即攻擊主體不再依賴預(yù)設(shè)固定話術(shù)，而是憑借對(duì)受眾情緒極性與交互行為的快速捕捉，實(shí)現(xiàn)敘事策略的自我修正與精準(zhǔn)對(duì)標(biāo)。這種閉環(huán)效應(yīng)不僅極大地壓縮了防御方的響應(yīng)窗口，更通過(guò)“干擾—反饋—進(jìn)化”的無(wú)限循環(huán)迭代，推動(dòng)認(rèn)知威脅從表層的“信息污染”向深層的“算法圍獵”轉(zhuǎn)變，實(shí)現(xiàn)針對(duì)個(gè)體認(rèn)知弱點(diǎn)實(shí)時(shí)生成高貼合度的定制化認(rèn)知陷阱。例如，在巴以沖突期間出現(xiàn)在社交媒體平臺(tái)的算法協(xié)同操縱中，攻擊方不是投送通用文案，而是通過(guò)分析不同地域受眾在社交媒體平臺(tái)對(duì)“宗教敘事”或“人權(quán)敘事”的點(diǎn)擊傾向，驅(qū)動(dòng)生成式模型實(shí)時(shí)產(chǎn)出高貼合度的虛構(gòu)視聽(tīng)內(nèi)容，從而在個(gè)體認(rèn)知防線最薄弱處精準(zhǔn)植入定制化陷阱。

（三）風(fēng)險(xiǎn)形態(tài)從“顯性操控”轉(zhuǎn)向“隱性議程重塑”

傳統(tǒng)的認(rèn)知操控通常依賴于信息投送等顯性手段，而在智能時(shí)代的認(rèn)知供應(yīng)鏈中，風(fēng)險(xiǎn)形態(tài)已完成向“隱性議程重塑”的轉(zhuǎn)變。它不再試圖改變個(gè)體“怎么想”，而是通過(guò)對(duì)底層邏輯的操縱，決定個(gè)體能夠“看到什么”。這種操控隱匿于代碼之下，將意識(shí)形態(tài)的偏好轉(zhuǎn)化為算法的“自然排序”。當(dāng)用戶在信息流中反復(fù)曝光于某些經(jīng)過(guò)算法篩選的“高頻觀點(diǎn)”時(shí)，個(gè)體的心理閾值會(huì)逐漸向該方向偏移。這種調(diào)度并非直接說(shuō)教，而是通過(guò)操縱信息的曝光率，潛移默化地建立起一種認(rèn)知假象。這種認(rèn)知操縱是在用戶難以察覺(jué)的情況下完成的。用戶以為自己是在自由檢索，實(shí)際上卻是在攻擊者預(yù)設(shè)的信息圍欄內(nèi)投喂信息。當(dāng)原本多元化的社會(huì)共識(shí)因信息的排序差異而被層層削減，算法潛移默化地重新定義了什么是“正確的”，從而實(shí)現(xiàn)對(duì)社會(huì)心理結(jié)構(gòu)的深層重組。

（四）風(fēng)險(xiǎn)成本呈現(xiàn)“低成本攻擊”與“高成本防御”強(qiáng)非對(duì)稱性

在開(kāi)源大模型與生成式技術(shù)快速擴(kuò)散的背景下，發(fā)起認(rèn)知攻擊的門(mén)檻和邊際成本明顯降低，同時(shí)，開(kāi)源模型可被本地化部署并移除安全護(hù)欄，直接用于批量生成內(nèi)容，并與社交媒體分發(fā)機(jī)制結(jié)合實(shí)現(xiàn)話題劫持、定向敘事。以烏克蘭危機(jī)中的認(rèn)知攻防為例，一場(chǎng)由3634個(gè)自動(dòng)化賬戶組成、發(fā)布超過(guò)31萬(wàn)條定向敘事的網(wǎng)絡(luò)活動(dòng)，按照輸出每百萬(wàn)Token1.5美元的價(jià)格估算，技術(shù)成本僅為幾百美元量級(jí)。然而，這些自動(dòng)化輸出的內(nèi)容并非簡(jiǎn)單重復(fù)，而是會(huì)結(jié)合當(dāng)?shù)厣钭h題、水電中斷和治理秩序等場(chǎng)景，有針對(duì)性地在網(wǎng)絡(luò)平臺(tái)發(fā)言。與之相對(duì)，認(rèn)知防御既要做好跨平臺(tái)態(tài)勢(shì)感知、異常傳播網(wǎng)絡(luò)識(shí)別、人工核驗(yàn)與跟蹤，也要推進(jìn)內(nèi)容溯源與可信標(biāo)識(shí)、標(biāo)準(zhǔn)化取證與歸因協(xié)同等基礎(chǔ)設(shè)施，治理成本呈現(xiàn)持續(xù)投入、長(zhǎng)周期運(yùn)維和多部門(mén)聯(lián)動(dòng)特征。僅就烏克蘭相關(guān)的事實(shí)核查能力建設(shè)，歐洲媒體與信息基金會(huì)（European Media and Information Fund）向?yàn)蹩颂m公開(kāi)資助8萬(wàn)歐元用于訓(xùn)練、更新數(shù)字取證技能，支持更多實(shí)時(shí)核查產(chǎn)出。同時(shí)，烏克蘭、美國(guó)、北約等國(guó)家與組織成立的烏克蘭通信小組（Ukraine Communications Group）協(xié)調(diào)多方力量應(yīng)對(duì)輿論相關(guān)的虛假敘事。攻擊方只需幾百美元即可成功發(fā)動(dòng)一場(chǎng)攻擊活動(dòng)，防御方卻同時(shí)需要大量事實(shí)核查項(xiàng)目資金、跨國(guó)協(xié)調(diào)機(jī)制、平臺(tái)執(zhí)法和長(zhǎng)期人員投入。因此，攻防博弈中效能與成本深度失衡。

三、認(rèn)知供應(yīng)鏈安全風(fēng)險(xiǎn)治理國(guó)內(nèi)外實(shí)踐

在生成式人工智能時(shí)代高頻率、多模態(tài)、低成本、強(qiáng)隱蔽性的系統(tǒng)性認(rèn)知塑形新階段，認(rèn)知供應(yīng)鏈安全風(fēng)險(xiǎn)治理，逐步由以事件處置為中心的被動(dòng)應(yīng)對(duì)，轉(zhuǎn)向以前瞻識(shí)別、監(jiān)測(cè)預(yù)警、精準(zhǔn)反制為特征的主動(dòng)干預(yù)。不同國(guó)家圍繞認(rèn)知供應(yīng)鏈各關(guān)鍵環(huán)節(jié)開(kāi)展多層次制度探索與治理實(shí)踐。

（一）中國(guó)：源頭準(zhǔn)入、過(guò)程約束與專項(xiàng)整治相結(jié)合

中國(guó)在生成式人工智能普遍應(yīng)用背景下，已逐步形成覆蓋模型備案、訓(xùn)練語(yǔ)料管理、生成內(nèi)容標(biāo)識(shí)、平臺(tái)監(jiān)測(cè)甄別、傳播分發(fā)控制和專項(xiàng)執(zhí)法整治的認(rèn)知供應(yīng)鏈治理機(jī)制。中國(guó)出臺(tái)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》，為網(wǎng)絡(luò)運(yùn)行安全、數(shù)據(jù)處理和行為分析提供總體法律依據(jù)。在專項(xiàng)規(guī)制層面，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》等政策文件，分別對(duì)算法分發(fā)、深度偽造、生成式人工智能服務(wù)和生成內(nèi)容標(biāo)識(shí)作出規(guī)范，覆蓋了認(rèn)知供應(yīng)鏈中的推薦、生成、標(biāo)識(shí)、審核和追溯等關(guān)鍵節(jié)點(diǎn)，體現(xiàn)了中國(guó)已將認(rèn)知供應(yīng)鏈風(fēng)險(xiǎn)治理推進(jìn)到源頭治理、過(guò)程控制與末端執(zhí)法聯(lián)動(dòng)的階段。

2025年“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，體現(xiàn)了中國(guó)將認(rèn)知供應(yīng)鏈全鏈條治理分為技術(shù)內(nèi)生治理層和應(yīng)用衍生治理層的總體思路。一是強(qiáng)化源頭準(zhǔn)入，將未履行大模型備案或登記程序的人工智能產(chǎn)品列為第一類重點(diǎn)整治對(duì)象，通過(guò)備案、登記將模型和應(yīng)用納入可監(jiān)管名單。二是加強(qiáng)標(biāo)識(shí)管理，要求加強(qiáng)生成合成技術(shù)和內(nèi)容標(biāo)識(shí)管理，并推動(dòng)網(wǎng)站平臺(tái)提升檢測(cè)鑒偽能力，把治理重心從真假爭(zhēng)議轉(zhuǎn)移到可識(shí)別性和可追溯性。三是規(guī)范訓(xùn)練數(shù)據(jù)，將訓(xùn)練數(shù)據(jù)庫(kù)納入治理范圍，對(duì)使用非法來(lái)源數(shù)據(jù)、網(wǎng)上爬取的虛假或無(wú)效內(nèi)容、侵犯知識(shí)產(chǎn)權(quán)或隱私的信息進(jìn)行追責(zé)。四是打擊違規(guī)內(nèi)容，打擊利用人工智能制作發(fā)布謠言、不實(shí)信息、色情低俗內(nèi)容、假冒他人、從事網(wǎng)絡(luò)水軍等行為。五是壓實(shí)平臺(tái)流量分發(fā)責(zé)任，要求社交平臺(tái)對(duì)應(yīng)用程序接口（API）接入的人工智能自動(dòng)回復(fù)情況嚴(yán)格把關(guān)。可以說(shuō)，中國(guó)在生成式人工智能時(shí)代的認(rèn)知安全治理，正在由傳統(tǒng)的事后應(yīng)急處置，轉(zhuǎn)向兼顧源頭治理、過(guò)程控制與末端執(zhí)法的系統(tǒng)化治理模式。

（二）美國(guó)：以風(fēng)險(xiǎn)管理框架為引導(dǎo)、以重點(diǎn)場(chǎng)景執(zhí)法為核心

美國(guó)治理認(rèn)知供應(yīng)鏈安全風(fēng)險(xiǎn)的特點(diǎn)，不是強(qiáng)制性全鏈條準(zhǔn)入，而是政府提供方法、關(guān)鍵場(chǎng)景強(qiáng)化執(zhí)法、平臺(tái)和市場(chǎng)自我治理補(bǔ)位。美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）在2024年發(fā)布《人工智能風(fēng)險(xiǎn)管理框架：生成式人工智能畫(huà)像》（Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），作為人工智能風(fēng)險(xiǎn)管理框架的配套文件，專門(mén)針對(duì)生成式人工智能風(fēng)險(xiǎn)提出識(shí)別和管理方法，包括虛構(gòu)內(nèi)容、信息完整性、來(lái)源可信度、誤用和雙重用途風(fēng)險(xiǎn)等。然而，該框架本質(zhì)上是一個(gè)跨行業(yè)、可操作的風(fēng)險(xiǎn)管理工具，而不是強(qiáng)制性的行政許可制度。

以2024年新罕布什爾州初選前的“拜登深偽電話”事件治理為例，美國(guó)在應(yīng)對(duì)認(rèn)知攻擊時(shí)采取“監(jiān)測(cè)通報(bào)、公眾澄清、基礎(chǔ)設(shè)施防護(hù)、個(gè)案執(zhí)法、完善規(guī)則”的治理路徑。一是對(duì)選舉謠言、被篡改敘事和外國(guó)影響行動(dòng)進(jìn)行預(yù)警與澄清，重點(diǎn)在于穩(wěn)定公眾對(duì)選舉程序安全性的認(rèn)知預(yù)期，削弱虛假信息對(duì)民主合法性的侵蝕。二是通過(guò)查封認(rèn)知攻擊行動(dòng)相關(guān)的互聯(lián)網(wǎng)域名、打擊偽裝正規(guī)媒體的虛假傳播網(wǎng)絡(luò)，并對(duì)相關(guān)實(shí)體進(jìn)行制裁。對(duì)利用人工智能語(yǔ)音克隆誤導(dǎo)選民的行為作出約600萬(wàn)美元罰款，同時(shí)，對(duì)相關(guān)通信服務(wù)提供商實(shí)施合規(guī)整改。在完成事件處理后補(bǔ)充完善規(guī)制工具，通過(guò)“人工智能合規(guī)行動(dòng)”打擊利用人工智能實(shí)施欺騙性宣傳、身份冒充和誤導(dǎo)性商業(yè)行為，并推動(dòng)將人工智能驅(qū)動(dòng)的個(gè)人冒充納入規(guī)則更新范圍。

美國(guó)對(duì)認(rèn)知供應(yīng)鏈安全風(fēng)險(xiǎn)的治理，并非依賴統(tǒng)一的前置制度，而是采取以風(fēng)險(xiǎn)管理框架為引導(dǎo)，延伸適用現(xiàn)有部門(mén)法，并針對(duì)高風(fēng)險(xiǎn)場(chǎng)景進(jìn)行重點(diǎn)治理的模式。尤其在內(nèi)容生成環(huán)節(jié)，美國(guó)沒(méi)有類似中國(guó)的統(tǒng)一標(biāo)識(shí)制度，也沒(méi)有人工智能內(nèi)容前置審核制度，而是對(duì)高危生成用途從嚴(yán)處置，是以結(jié)果為導(dǎo)向的治理。在傳播節(jié)點(diǎn)上，美國(guó)對(duì)一般性的內(nèi)容流動(dòng)留有較大的空間，但對(duì)于選舉、政治廣告等高風(fēng)險(xiǎn)敏感主體實(shí)施更細(xì)致、更強(qiáng)硬的干預(yù)，且相關(guān)的制度更新通常采取以事件推動(dòng)的補(bǔ)丁式升級(jí)方式。

（三）歐盟：強(qiáng)調(diào)立法先行與規(guī)則的完整性

歐盟在認(rèn)知供應(yīng)鏈治理的多個(gè)關(guān)鍵節(jié)點(diǎn)領(lǐng)先，體現(xiàn)了制度設(shè)計(jì)的系統(tǒng)性。歐盟的《人工智能法案》針對(duì)通用人工智能模型設(shè)定了明確義務(wù)，如果模型被認(rèn)定具有系統(tǒng)性風(fēng)險(xiǎn)，還要承擔(dān)風(fēng)險(xiǎn)評(píng)估與緩解、事件報(bào)告和網(wǎng)絡(luò)安全保護(hù)等額外義務(wù)。歐盟認(rèn)知供應(yīng)鏈上游源頭風(fēng)險(xiǎn)處理與中國(guó)現(xiàn)階段主要通過(guò)《生成式人工智能服務(wù)管理暫行辦法》進(jìn)行原則性約束相比，歐盟對(duì)通用模型義務(wù)的要求更明確、更制度化。

歐盟最重視內(nèi)容生成的透明度?！度斯ぶ悄芊ò浮访鞔_了透明度義務(wù)，即深度偽造和人工智能生成文本必須披露其為人工生成內(nèi)容，人工生成或操縱內(nèi)容應(yīng)清楚標(biāo)明并且可以被檢測(cè)為人工生成。規(guī)定義務(wù)的目標(biāo)是降低欺騙、冒充和虛假信息風(fēng)險(xiǎn)，維護(hù)信息生態(tài)完整性。歐盟的做法不是把所有生成式內(nèi)容都當(dāng)成“天然有害”的，而是要求其在進(jìn)入公共信息環(huán)境時(shí)具備最低限度的透明度和可識(shí)別性，是以人工智能生成內(nèi)容的知情權(quán)、信息生成與傳播過(guò)程的透明度，以及防止受眾因深度偽造、虛假標(biāo)識(shí)或誤導(dǎo)性內(nèi)容而受到欺騙為核心。

除了《人工智能法案》，歐盟《數(shù)字服務(wù)法》不僅覆蓋社交媒體，也覆蓋應(yīng)用商店、搜索引擎等在線服務(wù)。它要求大型平臺(tái)披露算法推薦系統(tǒng)的主要參數(shù)，并對(duì)超大型在線平臺(tái)和超大型搜索引擎施加更嚴(yán)格的義務(wù)。在2024年羅馬尼亞總統(tǒng)選舉期間，歐盟委員會(huì)依據(jù)《數(shù)字服務(wù)法》向TikTok發(fā)出補(bǔ)充信息要求，要求其說(shuō)明如何管理信息操縱風(fēng)險(xiǎn)以及數(shù)據(jù)保全命令，要求凍結(jié)并保存與選舉程序和公共話語(yǔ)系統(tǒng)性風(fēng)險(xiǎn)有關(guān)的數(shù)據(jù)，并正式啟動(dòng)關(guān)于選舉風(fēng)險(xiǎn)管理的調(diào)查。

（四）印度：以能力建設(shè)為前提、以高風(fēng)險(xiǎn)場(chǎng)景規(guī)范為重點(diǎn)

印度認(rèn)知供應(yīng)鏈治理的整體思路呈現(xiàn)出“能力建設(shè)優(yōu)先、信任嵌入全價(jià)值鏈、高風(fēng)險(xiǎn)場(chǎng)景先行治理”的特征。印度人工智能使命（India AI Mission）將公共算力、基礎(chǔ)模型、可信安全人工智能工具和數(shù)字基礎(chǔ)設(shè)施納入國(guó)家人工智能戰(zhàn)略重點(diǎn)。印度《人工智能治理指南》（AI Governance Guidelines）進(jìn)一步從數(shù)據(jù)管理、算法透明、風(fēng)險(xiǎn)分類、生成式人工智能責(zé)任、安全測(cè)試和申訴救濟(jì)等方面，提出“信任嵌入全價(jià)值鏈”的治理框架。

以2024年印度人民院選舉期間的深度偽造與錯(cuò)誤信息治理為例，印度選舉委員會(huì)（Election Commission of India）明確警告政黨不得濫用人工智能工具制作深度偽造內(nèi)容、扭曲信息或傳播錯(cuò)誤信息，并發(fā)布社交媒體負(fù)責(zé)任和合乎倫理使用指引；印度電子和信息技術(shù)部（Ministry of Electronics and Information Technology）則通過(guò)中介平臺(tái)盡職義務(wù)咨詢，要求平臺(tái)依據(jù)印度《信息技術(shù)法》（Information Technology Act）和《中介指南和數(shù)字媒體倫理規(guī)范》（Intermediary Guidelines and Digital Media Ethics Code）加強(qiáng)內(nèi)容管理和風(fēng)險(xiǎn)控制。此外，印度政府把深度偽造風(fēng)險(xiǎn)接入既有《信息技術(shù)法》、中介平臺(tái)責(zé)任規(guī)則和網(wǎng)絡(luò)安全應(yīng)對(duì)體系。

相比于其他技術(shù)水平相對(duì)領(lǐng)先的國(guó)家強(qiáng)調(diào)認(rèn)知供應(yīng)鏈安全，以及平臺(tái)內(nèi)容治理與內(nèi)容安全的取向，印度首先擔(dān)心的不是平臺(tái)內(nèi)容秩序失控，而是如果沒(méi)有算力、模型和可信工具，印度在人工智能價(jià)值鏈中就會(huì)長(zhǎng)期處于被動(dòng)地位，即優(yōu)先提升人工智能基礎(chǔ)能力，而在認(rèn)知供應(yīng)鏈高風(fēng)險(xiǎn)傳播場(chǎng)景再?gòu)?qiáng)調(diào)規(guī)范治理。

四、應(yīng)對(duì)思考

當(dāng)前，我國(guó)在認(rèn)知供應(yīng)鏈治理方面已經(jīng)具備較強(qiáng)的制度基礎(chǔ)與實(shí)踐土壤。面對(duì)日益復(fù)雜的國(guó)際競(jìng)爭(zhēng)環(huán)境以及認(rèn)知攻擊技術(shù)快速迭代帶來(lái)的挑戰(zhàn)，應(yīng)圍繞“算力、算法、數(shù)據(jù)、機(jī)制、公眾”五個(gè)核心支柱，構(gòu)建全鏈條系統(tǒng)性治理格局，強(qiáng)化認(rèn)知供應(yīng)鏈安全韌性。

（一）構(gòu)建算力資源溯源與異常使用干預(yù)機(jī)制

智能化時(shí)代認(rèn)知供應(yīng)鏈安全風(fēng)險(xiǎn)首先體現(xiàn)在內(nèi)容能夠以低成本、自動(dòng)化的方式進(jìn)行大規(guī)模生產(chǎn)。因此，認(rèn)知供應(yīng)鏈治理的重點(diǎn)不是泛化傳統(tǒng)的算力資源管理，而應(yīng)聚焦支撐內(nèi)容生成、文本改寫(xiě)和批量傳播的計(jì)算資源使用活動(dòng)，建立更具針對(duì)性的治理機(jī)制。具體而言，一是確立全鏈路核驗(yàn)框架。對(duì)相關(guān)計(jì)算資源的調(diào)用、使用和輸出形成可識(shí)別、可追蹤的記錄，提高異常生成行為的發(fā)現(xiàn)和溯源能力。二是建立自適應(yīng)的動(dòng)態(tài)調(diào)節(jié)機(jī)制，可根據(jù)異常內(nèi)容生產(chǎn)和傳播的規(guī)模、頻率及風(fēng)險(xiǎn)程度，及時(shí)采取限流、降低任務(wù)處理強(qiáng)度、收緊外部連接權(quán)限等分級(jí)干預(yù)措施，防止風(fēng)險(xiǎn)快速放大。通過(guò)源頭管控模式打破認(rèn)知攻擊的非對(duì)稱性，可以在技術(shù)資源層面壓縮認(rèn)知攻擊的擴(kuò)散能力，將認(rèn)知防御從“被動(dòng)響應(yīng)”轉(zhuǎn)化為對(duì)“攻擊產(chǎn)能”的主動(dòng)抑制。

（二）強(qiáng)化算法過(guò)程審查與敘事糾偏

認(rèn)知供應(yīng)鏈治理的核心挑戰(zhàn)不再僅限于對(duì)有害內(nèi)容的事后清理，而是進(jìn)一步延伸到算法對(duì)敘事的可見(jiàn)度、傳播強(qiáng)度及理解方向的影響。為把握認(rèn)知供應(yīng)鏈各環(huán)節(jié)的解釋權(quán)，一是完善算法全生命周期管控體系，針對(duì)關(guān)鍵平臺(tái)的推薦權(quán)重、搜索優(yōu)先級(jí)及生成式摘要等，實(shí)施認(rèn)知供應(yīng)鏈安全相關(guān)的算法登記、備案與持續(xù)評(píng)估制度。二是組織測(cè)評(píng)算法傳播效應(yīng)評(píng)估。重點(diǎn)考查算法是否存在過(guò)度放大特定敘事、強(qiáng)化情緒化表達(dá)、降低信息平衡性以及易受操縱等問(wèn)題，并提高對(duì)惡意誘導(dǎo)、錯(cuò)誤引導(dǎo)和生成內(nèi)容失真風(fēng)險(xiǎn)的識(shí)別能力。三是確立算法熔斷與糾偏機(jī)制。要求涉及重大議題的生成式內(nèi)容能夠說(shuō)明其生成依據(jù)、信息來(lái)源和結(jié)果可信程度。同時(shí)，將異常傳播預(yù)警與應(yīng)急干預(yù)規(guī)則制度化，推動(dòng)治理方式由單純依賴末端刪除和修改，轉(zhuǎn)向?qū)λ惴ㄆ詈蛿⑹率Ш獾那岸思m正。

（三）建設(shè)主權(quán)語(yǔ)料庫(kù)與數(shù)據(jù)溯源核驗(yàn)體系

認(rèn)知操縱的本質(zhì)是利用算法環(huán)境對(duì)可引用資源進(jìn)行系統(tǒng)性重塑。要應(yīng)對(duì)這一挑戰(zhàn)，亟須構(gòu)建主權(quán)語(yǔ)料庫(kù)。一是在供給側(cè)構(gòu)建規(guī)范體系，通過(guò)建設(shè)關(guān)鍵概念本體庫(kù)與權(quán)威事實(shí)源，統(tǒng)一引用規(guī)范，為語(yǔ)義生成提供內(nèi)生的邏輯校準(zhǔn)。二是在過(guò)程側(cè)強(qiáng)化風(fēng)險(xiǎn)穿透，對(duì)訓(xùn)練語(yǔ)料、檢索知識(shí)庫(kù)、外部數(shù)據(jù)源與插件接口實(shí)施分級(jí)分類管理，建立數(shù)據(jù)來(lái)源證明、授權(quán)合規(guī)與投毒檢測(cè)制度。三是在應(yīng)用側(cè)推動(dòng)建立溯源共識(shí)，依托監(jiān)管核驗(yàn)與多源交叉驗(yàn)證機(jī)制，以置信度標(biāo)注與“分歧呈現(xiàn)”替代單一真?zhèn)闻卸?，確保即便在遭受攻擊時(shí)，解釋權(quán)的偏移仍處于可控、可對(duì)沖的韌性區(qū)間。

（四）搭建聯(lián)動(dòng)處置與復(fù)盤(pán)問(wèn)責(zé)體系

以“機(jī)制治理”為牽引，建立認(rèn)知事件風(fēng)險(xiǎn)指揮機(jī)制，統(tǒng)一態(tài)勢(shì)指標(biāo)、證據(jù)標(biāo)準(zhǔn)與處置節(jié)奏，完善強(qiáng)制報(bào)告與協(xié)查制度，對(duì)協(xié)同賬號(hào)網(wǎng)絡(luò)、異常話題遷移、模型越界輸出與數(shù)據(jù)投毒等設(shè)定報(bào)告門(mén)檻與時(shí)限，并固化證據(jù)保全與歸因協(xié)同流程。形成分級(jí)響應(yīng)的認(rèn)知反制工具箱，包括權(quán)威錨定、延遲擴(kuò)散、降權(quán)限流、人工復(fù)核、跨平臺(tái)同步標(biāo)注、功能熔斷等，在認(rèn)知風(fēng)險(xiǎn)關(guān)鍵窗口期實(shí)現(xiàn)“快壓制、穩(wěn)糾偏、可追責(zé)”。引入評(píng)估審計(jì)與整改閉環(huán)考核，把復(fù)發(fā)率、閉環(huán)時(shí)長(zhǎng)、取證完整率、協(xié)查響應(yīng)效率與公眾糾偏觸達(dá)率納入監(jiān)管評(píng)價(jià)，同時(shí)，前置開(kāi)展預(yù)警演練與“預(yù)防性澄清”，以制度化方式提升社會(huì)認(rèn)知免疫力，最終實(shí)現(xiàn)從“事件處置”到“能力競(jìng)爭(zhēng)”的治理升級(jí)。

（五）增強(qiáng)公眾認(rèn)知韌性與自主研判能力

認(rèn)知供應(yīng)鏈治理不能僅依賴技術(shù)防控和平臺(tái)處置，還應(yīng)重視公眾在復(fù)雜信息環(huán)境的自主判斷能力建設(shè)。為此，應(yīng)將媒介素養(yǎng)、信息素養(yǎng)和人工智能素養(yǎng)教育納入學(xué)校教育、社會(huì)教育和公共傳播體系，重點(diǎn)提升公眾對(duì)信息來(lái)源、內(nèi)容真實(shí)性、生成式人工智能特征及常見(jiàn)誤導(dǎo)方式的識(shí)別能力。同時(shí)，應(yīng)針對(duì)不同群體開(kāi)展分層分類的教育引導(dǎo)，加強(qiáng)對(duì)深度偽造、虛假敘事、情緒煽動(dòng)和算法誤導(dǎo)等風(fēng)險(xiǎn)的識(shí)別訓(xùn)練，幫助公眾在高頻、碎片化的信息環(huán)境保持基本的理性判斷。通過(guò)推動(dòng)學(xué)校、媒體、平臺(tái)和社會(huì)組織共同參與，可逐步形成以教育賦能為基礎(chǔ)的認(rèn)知韌性培育機(jī)制，從社會(huì)基礎(chǔ)層面提升抵御認(rèn)知操控和信息誤導(dǎo)的能力。

五、結(jié) 語(yǔ)

認(rèn)知對(duì)抗的底層化與系統(tǒng)化，標(biāo)志著人類信息文明進(jìn)入了“算法操縱意義”的新階段。從“內(nèi)容治理”向“全鏈路能力形成”的范式躍遷，不僅是應(yīng)對(duì)生成式人工智能挑戰(zhàn)的選擇，更是捍衛(wèi)國(guó)家認(rèn)知域安全的戰(zhàn)略核心。在這一進(jìn)程中，治理的本質(zhì)已不再是局部的、被動(dòng)的信息清洗，而是對(duì)認(rèn)知供應(yīng)鏈關(guān)鍵節(jié)點(diǎn)的深度嵌入與底層規(guī)則的系統(tǒng)重塑。面向未來(lái)，國(guó)家認(rèn)知域安全將越來(lái)越依賴算力基礎(chǔ)能力、算法可審計(jì)性、語(yǔ)料與知識(shí)底座質(zhì)量控制以及跨部門(mén)情報(bào)與響應(yīng)機(jī)制的協(xié)同耦合。通過(guò)構(gòu)建覆蓋預(yù)警、防御與反制的閉環(huán)體系，方能在持續(xù)演化的算法驅(qū)動(dòng)對(duì)抗環(huán)境中降低鏈路性偏置的累積效應(yīng)，保持公共議題解釋框架的穩(wěn)定性，并增強(qiáng)重大風(fēng)險(xiǎn)情境的決策韌性。

（本文刊登于《中國(guó)信息安全》雜志2026年第3期）