深度解读315曝光的“GEO乱象” ：AI的回答是如何“被操控”的

\u003cdiv class=\"rich_media_content\"\u003e\u003cp\u003e\u003cspan data-widget=\"image\" style=\"display: inline-block; max-width: 100%\"\u003e\u003cspan style=\"font-size: 12px; display: flex; color: #999999; align-items: center;\"\u003e\u003csvg width=\"1.4em\" height=\"1.4em\" viewBox=\"0 0 18 18\" xmlns=\"http://www.w3.org/2000/svg\"\u003e\u003cmask id=\"exclamation-mask\"\u003e\u003crect width=\"16\" height=\"16\" fill=\"white\"\u003e\u003c/rect\u003e\u003cpath d=\"M8 3.5a1 1 0 0 1 1 1v4a1 1 0 1 1-2 0v-4a1 1 0 0 1 1-1zM8 12a1 1 0 1 0 0-2 1 1 0 0 0 0 2z\" fill=\"black\"\u003e\u003c/path\u003e\u003c/mask\u003e\u003ccircle cx=\"8\" cy=\"8\" r=\"8\" fill=\"#999999\" mask=\"url(#exclamation-mask)\"\u003e\u003c/circle\u003e\u003c/svg\u003e 该图片可能由AI生成\u003c/span\u003e\u003c!--IMG_0--\u003e\u003cspan style=\"color: rgb(153, 153, 153); display: block; font-size: 12px; line-height: 18px; overflow-wrap: break-word; text-align: center\"\u003e\u003c!--NO_READ_BEGIN--\u003e图片由AI工具制作\u003c!--NO_READ_END--\u003e\u003c/span\u003e\u003c/span\u003e\u003c/p\u003e\u003cp\u003e\u003cstrong\u003e文丨AI安全专家、BraneMatrix公司CEO 李光辉\u003c/strong\u003e\u003c/p\u003e\u003cp\u003e\u003cstrong\u003e编辑丨陆屿\u003c/strong\u003e\u003c/p\u003e\u003cp\u003e3月15日晚间，“315晚会”曝光了AI大模型被“投毒”的问题，矛头直指GEO（生成式引擎优化）技术。\u003c/p\u003e\u003cp\u003e\u003cstrong\u003e这项技术原本用于优化信息发布、提升内容曝光效率，\u003c/strong\u003e却被一些公司开发成了“操控AI大模型”的工具，让虚假信息堂而皇之地成为AI给出的“标准答案”。\u003c/p\u003e\u003cp\u003e在记者的探访视频中，为了验证\u003c!--VERTICAL_CARD_BEGIN_0--\u003eGEO技术\u003c!--VERTICAL_CARD_END_0--\u003e，业内人士用“力擎GEO优化系统”捏造了一款名为“Apollo-9”的智能手环，编造夸张卖点和虚假用户评价，并自动生成十几篇软文发布到自媒体。仅两个小时后，AI大模型竟引用这些虚构内容，正经推荐该手环，并给出购买建议。三天后，追加发布11篇虚拟测评后，已有两个AI模型开始推荐这款根本不存在的产品，且排名靠前。\u003c!--MID_AD_0--\u003e\u003c!--EOP_0--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_0--\u003e\u003cp\u003e一款凭空捏造的商品，就这样被推向了消费者。\u003c/p\u003e\u003cp\u003eGEO背后究竟是怎样的逻辑在运作？AI为何如此容易被“带节奏”？对普通用户又意味着什么？本文将从技术原理、影响机制和应对思路三个维度，警示大家这场由AI引起的“信息围猎”。\u003c/p\u003e\u003ch3\u003e01 当GEO变味儿：一场针对AI的“信息围猎”\u003c/h3\u003e\u003cp\u003e实际上，\u003cstrong\u003e当前被讨论的付费GEO乱象，已经不能再被简单理解为传统意义上的营销优化。\u003c/strong\u003e\u003c/p\u003e\u003cp\u003e所谓GEO，本质上是围绕 AI 搜索和生成式引擎展开的一种“可见度优化”，目标是让内容更容易被AI平台提及、引用或推荐。从这个角度看，它是SEO在AI时代的自然延伸，其本身并不天然带有问题。\u003cstrong\u003e如果GEO只是帮助内容更规范地被搜索系统或AI系统理解，那仍属于正常的信息分发竞争\u003c/strong\u003e。\u003c!--AI_AD_1000--\u003e\u003c!--MID_AD_1--\u003e\u003c!--EOP_1--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_1--\u003e\u003cp\u003e但问题在于，当前的GEO乱象已经越界，开始通过伪内容、伪权威、伪共识以及海量重复分发，去系统性影响大模型“看到什么、引用什么、如何组织答案”的过程时，它的性质就发生了变化。\u003c/p\u003e\u003cp\u003e我们可以看到，在“315晚会”记者采访的操作流程显示中，业务人员以大量、定向、结构化的信息投喂来影响模型抓取和排序，通过伪造内容、伪装权威、重复铺设信息链条，就能在模型生成回答时形成“伪共识”，让虚假信息看起来像真实知识。\u003c/p\u003e\u003cp\u003eAI大模型在回答问题时，会从互联网上抓取大量内容作为参考依据。GEO正是利用了这一机制，通过系统性地向网络“投喂”特定内容，让AI在检索时优先抓取这些信息，最终将其作为答案输出给用户。\u003c/p\u003e\u003cp\u003e\u003cstrong\u003e这种行为已经不是营销优化，而是对AI信息生态的污染，更深入严肃的看待这个问题来说，这是在面向生成式AI实施一种新的认知操纵。\u003c/strong\u003e\u003c/p\u003e\u003ch3\u003e02 不是“洗脑”AI，而是“操纵”了证据链\u003c/h3\u003e\u003cp\u003e\u003c!--AIPOS_0--\u003e这件事真正值得警惕的地方在于，这场变质营销背后带来的危害性。\u003c/p\u003e\u003cp\u003e过去，黑灰产是想办法把广告排到更前面；现在，黑灰产更进一步，是想办法让AI把广告说成答案，把操纵包装成推荐，把商业利益伪装成知识共识。\u003c/p\u003e\u003cp\u003e这里最容易让公众误解的一点是，很多人会觉得AI的回答内容像是“自己想出来的”。但实际上，目前大量搜索、问答、导购、助手类AI产品，并不只依赖模型内部记忆，\u003cstrong\u003e而是会结合外部网页、知识库、检索系统、搜索增强模块来生成回答。\u003c/strong\u003e\u003c/p\u003e\u003cp\u003e也就是说，很多场景下，模型先要“看资料”，再去“组织答案”。\u003c/p\u003e\u003cp\u003e\u003cstrong\u003e而付费GEO的危险，不在于骗过某一个编辑或某一个平台运营，而在于它试图去影响整个模型的外部证据链。\u003c/strong\u003e\u003c/p\u003e\u003cp\u003e它通常会通过几类方式起作用：\u003c/p\u003e\u003cp\u003e第一类，批量制造看上去像“中立信息”的内容；\u003c/p\u003e\u003cp\u003e第二类，伪装成测评、科普、经验总结、榜单、问答等更容易获得信任的内容形态；\u003c/p\u003e\u003cp\u003e第三类，在多个站点、多个账号、多个文本模板中反复分发，制造“很多地方都这么说”的假象；\u003c/p\u003e\u003cp\u003e第四类，把内容写成更适合 AI 抓取、切片、引用和拼接的结构。\u003c/p\u003e\u003cp\u003e从这个角度看，它影响的已经不只是内容曝光位置，还有影响AI的信息输入质量和答案形成依据。\u003c/p\u003e\u003ch3\u003e03 GEO的新入口：\u003c!--VERTICAL_CARD_BEGIN_1--\u003eRAG\u003c!--VERTICAL_CARD_END_1--\u003e、搜索增强、引用链路\u003c/h3\u003e\u003cp\u003e相比大众普遍担心的“训练数据投毒”，这种风险在头部基座模型厂商的训练体系中其实较难真正发生。\u003cstrong\u003e当前黑产利用的GEO，本质上与模型训练、训练环境无关，更准确地说，当前GEO主要作用在AI的检索增强、联网搜索、知识库调用、RAG（检索增强生成）这类环节。\u003c!--AI_MID_AD_0--\u003e\u003c/strong\u003e\u003c!--MID_AD_2--\u003e\u003c!--EOP_2--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_2--\u003e\u003cp\u003e其运作方式是：让大量营销化、伪装成中立信息的内容，进入检索、抓取、知识库或搜索增强问答的候选池，再被模型当作参考依据调用出来。\u003c/p\u003e\u003cp\u003e换句话说，当前这类风险更像是在污染AI的“外部证据层”。模型本身的参数并未被改动，只是在它回答问题时，桌上已经被摆满了一批经过精心操纵的“参考材料”。\u003c/p\u003e\u003cp\u003e因此，当我们讨论GEO风险时，最重要的不是泛泛地谈“AI被污染了”，眼下最现实的问题是：\u003cstrong\u003eRAG、搜索增强和引用链路正在成为被操纵的主要目标。\u003c/strong\u003e\u003c/p\u003e\u003cp\u003e而更值得警惕的是：即便基座模型厂商针对黑灰产式GEO做了定向安全风控，未来仍可能出现新型攻击方式——比如在GEO场景下的“\u003c!--VERTICAL_CARD_BEGIN_2--\u003e间接提示词注入\u003c!--VERTICAL_CARD_END_2--\u003e”攻击。攻击者可以通过在内容分发平台的图片或正文中嵌入隐藏指令，诱导AI生成被操纵的答案。\u003c/p\u003e\u003cp\u003e这类攻击更加隐蔽、更难防范，目前也是包括\u003c!--SECURE_LINK_BEGIN_0--\u003eOpenAI\u003c!--SECURE_LINK_END_0--\u003e在内的全球AI平台都尚未有效解决的安全难题。\u003c/p\u003e\u003ch3\u003e04 黑产GEO的危害：当广告伪装成知识，让AI“夹带私货”\u003c/h3\u003e\u003cp\u003e\u003c!--AIPOS_1--\u003eGEO乱象之所以值得高度警惕，在于它攻击的目标已从“广告是否被看到”延伸到模型如何形成判断本身。\u003c/p\u003e\u003cp\u003e一旦广告被包装成知识，操纵被包装成推荐，伪造出来的大量重复信息又被伪装成“外部共识”，模型就可能在形式上给出越来越完整、越来越像中立结论的答案，但这些答案背后的证据基础，已经被污染了。\u003c/p\u003e\u003cp\u003e这和传统互联网广告乱象最大的不同在于：过去，用户看到广告，还能意识到“这是广告”；但在生成式AI场景里，商业操纵更可能以“AI总结后的建议”“AI推荐的答案”“AI整理出的共识”的形式出现。\u003c/p\u003e\u003cp\u003e用户面对的也不再似传统互联网中一个裸露的推广位，将面对无数个类似于语气平稳、结构完整、看上去经过筛选、归纳和综合的回答。\u003cstrong\u003e这会直接影响公众如何理解信息、信任信息，以及依据什么作出消费、选择和判断。\u003c/strong\u003e\u003c/p\u003e\u003cp\u003e也正因为如此，付费GEO一旦越过正常优化边界，滑向伪造、投喂、操纵和\u003c!--VERTICAL_CARD_BEGIN_3--\u003e伪共识制造\u003c!--VERTICAL_CARD_END_3--\u003e，它就已经具备了明显的AI时代黑灰产特征。\u003c/p\u003e\u003ch3\u003e05 当信任机制存在漏洞：AI安全治理何去何从\u003c/h3\u003e\u003cp\u003e\u003c!--AIPOS_2--\u003eGEO乱象的爆发，将一个更深层的问题推到了行业面前：生成式AI的安全治理，应该如何跟上技术发展的步伐？\u003c/p\u003e\u003cp\u003e2024年，据普林斯顿大学等机构发表的一项研究显示，\u003cstrong\u003e通过对内容进行针对性的GEO优化，可以将信息在AI生成回答中的可见度提升最高40%。研究人员测试了多种优化策略，发现添加引用来源、使用统计数据、采用流畅且结构化的表达，都能显著提高内容被AI引用的概率。\u003c/strong\u003e\u003c!--MID_AD_3--\u003e\u003c!--EOP_3--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_3--\u003e\u003cp\u003e这些数据揭示了一个现实：AI系统目前的“信任机制”存在结构性漏洞，而GEO产业链正是瞄准这些漏洞精准施压。\u003c/p\u003e\u003cp\u003e显然，目前传统安全策略已无法应对新型风险。AI原生安全不只是简单给模型外面套一层传统安全壳，也不是只做内容审核。它更核心的对象是\u003cstrong\u003e模型的认知链路\u003c/strong\u003e——尤其是模型在检索、引用、组织和生成答案时，对外部证据的处理能力。\u003c/p\u003e\u003cp\u003e这次国内基座模型集中暴露出的GEO问题，本质上是一个全球生成式AI都会面临的外部证据链安全问题，只是在国内被更集中、更商业化、更面向大众地放大了。\u003c/p\u003e\u003cp\u003e之所以国内表现得更突出，主要有两个方面：一方面与中文互联网长期存在的软文矩阵、伪测评、站群分发等成熟黑灰产生态有关；另一方面也说明部分模型厂商在来源可信度、引用透明度、抗伪共识、抗投喂操纵和产品风控上仍存在短板。\u003c/p\u003e\u003cp\u003e这里既是底层安全能力问题，也是产品责任和风险治理问题。模型厂商向用户提供的，已经不是单纯的模型能力，更是一套会影响用户判断、选择与信任的内容服务。因此厂商必须对模型“看到了什么、为什么引用、为什么推荐”负责，这正是AI原生安全今天必须被放到核心位置的原因。\u003c!--MID_AD_4--\u003e\u003c!--EOP_4--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_4--\u003e\u003cp\u003e总之，未来对于AI治理的核心不再只是判断内容的真假，还包括对外部证据链的可信性进行审查，识别引用源是否被污染，以及判断系统能否发现虚假的共识信息。\u003c/p\u003e\u003cp\u003e更重要的是，模型必须能够在复杂、多变的信息环境下守住事实、权威与可信度的边界，以防止生成的回答被操控或误导，这才是行业亟需攻克的核心问题。\u003c/p\u003e\u003cdiv powered-by=\"qqnews_ex-editor\"\u003e\u003c/div\u003e\u003cstyle\u003e.rich_media_content{--news-tabel-th-night-color: #444444;--news-font-day-color: #333;--news-font-night-color: #d9d9d9;--news-bottom-distance: 22px}.rich_media_content p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:.5px;line-height:30px;margin-bottom:var(--news-bottom-distance);word-wrap:break-word}.rich_media_content .qn-editor-copy p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:unset;line-height:unset;margin-bottom:unset;word-wrap:unset}.rich_media_content{color:var(--news-font-day-color);font-size:18px}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:.5px;line-height:30px;margin-bottom:var(--news-bottom-distance);word-wrap:break-word}body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content .qn-editor-copy p:not([data-exeditor-arbitrary-box=image-box]):not(.qn-editor-copy){letter-spacing:unset;line-height:unset;margin-bottom:unset;word-wrap:unset}body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content{color:var(--news-font-night-color)}}.data_color_scheme_dark .rich_media_content p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:.5px;line-height:30px;margin-bottom:var(--news-bottom-distance);word-wrap:break-word}.data_color_scheme_dark .rich_media_content .qn-editor-copy p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:unset;line-height:unset;margin-bottom:unset;word-wrap:unset}.data_color_scheme_dark .rich_media_content{color:var(--news-font-night-color)}.data_color_scheme_dark .rich_media_content{font-size:18px}.rich_media_content p[data-exeditor-arbitrary-box=image-box]{margin-bottom:11px}.rich_media_content\u003ediv:not(.qnt-video),.rich_media_content\u003esection{margin-bottom:var(--news-bottom-distance)}.rich_media_content hr{margin-bottom:var(--news-bottom-distance)}.rich_media_content .link_list{margin:0;margin-top:20px;min-height:0!important}.rich_media_content blockquote{background:#f9f9f9;border-left:6px solid #ccc;margin:1.5em 10px;padding:.5em 10px}.rich_media_content blockquote p{margin-bottom:0!important}.data_color_scheme_dark .rich_media_content blockquote{background:#323232}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content blockquote{background:#323232}}.rich_media_content ol[data-ex-list]{--ol-start: 1;--ol-list-style-type: decimal;list-style-type:none;counter-reset:olCounter calc(var(--ol-start,1) - 1);position:relative}.rich_media_content ol[data-ex-list]\u003eli\u003e:first-child::before{content:counter(olCounter,var(--ol-list-style-type)) '. ';counter-increment:olCounter;font-variant-numeric:tabular-nums;display:inline-block}.rich_media_content ul[data-ex-list]{--ul-list-style-type: circle;list-style-type:none;position:relative}.rich_media_content ul[data-ex-list].nonUnicode-list-style-type\u003eli\u003e:first-child::before{content:var(--ul-list-style-type) ' ';font-variant-numeric:tabular-nums;display:inline-block;transform:scale(0.5)}.rich_media_content ul[data-ex-list].unicode-list-style-type\u003eli\u003e:first-child::before{content:var(--ul-list-style-type) ' ';font-variant-numeric:tabular-nums;display:inline-block;transform:scale(0.8)}.rich_media_content ol:not([data-ex-list]){padding-left:revert}.rich_media_content ul:not([data-ex-list]){padding-left:revert}.rich_media_content table{display:table;border-collapse:collapse;margin-bottom:var(--news-bottom-distance)}.rich_media_content table th,.rich_media_content table td{word-wrap:break-word;border:1px solid #ddd;white-space:nowrap;padding:2px 5px}.rich_media_content table th{font-weight:700;background-color:#f0f0f0;text-align:left}.rich_media_content table p{margin-bottom:0!important}.data_color_scheme_dark .rich_media_content table th{background:var(--news-tabel-th-night-color)}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content table th{background:var(--news-tabel-th-night-color)}}.rich_media_content .qqnews_image_desc,.rich_media_content p[type=om-image-desc]{line-height:20px!important;text-align:center!important;font-size:14px!important;color:#666!important}.rich_media_content div[data-exeditor-arbitrary-box=wrap]:not([data-exeditor-arbitrary-box-special-style]){max-width:100%}.rich_media_content .qqnews-content{--wmfont: 0;--wmcolor: transparent;font-size:var(--wmfont);color:var(--wmcolor);line-height:var(--wmfont)!important;margin-bottom:var(--wmfont)!important}.rich_media_content .qqnews_sign_emphasis{background:#f7f7f7}.rich_media_content .qqnews_sign_emphasis ol{word-wrap:break-word;border:none;color:#5c5c5c;line-height:28px;list-style:none;margin:14px 0 6px;padding:16px 15px 4px}.rich_media_content .qqnews_sign_emphasis p{margin-bottom:12px!important}.rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep{padding-left:30px}.rich_media_content .qqnews_sign_emphasis ol\u003eli{list-style:none}.rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep:first-child::before{margin-left:-30px;content:counter(olCounter,decimal) ''!important;counter-increment:olCounter!important;font-variant-numeric:tabular-nums!important;background:#37f;border-radius:2px;color:#fff;font-size:15px;font-style:normal;text-align:center;line-height:18px;width:18px;height:18px;margin-right:12px;position:relative;top:-1px}.data_color_scheme_dark .rich_media_content .qqnews_sign_emphasis{background:#262626}.data_color_scheme_dark .rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep{color:#a9a9a9}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content .qqnews_sign_emphasis{background:#262626}body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep{color:#a9a9a9}}.rich_media_content h1,.rich_media_content h2,.rich_media_content h3,.rich_media_content h4,.rich_media_content h5,.rich_media_content h6{margin-bottom:var(--news-bottom-distance);font-weight:700}.rich_media_content h1{font-size:20px}.rich_media_content h2,.rich_media_content h3{font-size:19px}.rich_media_content h4,.rich_media_content h5,.rich_media_content h6{font-size:18px}.rich_media_content li:empty{display:none}.rich_media_content ul,.rich_media_content ol{margin-bottom:var(--news-bottom-distance)}.rich_media_content div\u003ep:only-child{margin-bottom:0!important}.rich_media_content .cms-cke-widget-title-wrap p{margin-bottom:0!important}\u003c/style\u003e\u003c/div\u003e

【纠错】

【责任编辑:然而娜场雨，晟世晓风清】

深度观察

新华全媒头条丨视频丨外贸“开门红”！前2个月我国货物贸易进出口同比增长18.3%