安全研究人员披露黑客利用 GEO 污染 ChatGPT、Gemini 和 Google AI Overview，涉及 374 家企业 · AIHOT

📌 One-Sentence Summary

安全研究人员揭了攻击者如何利用生成引擎优化（GEO）在 ChatGPT、Gemini 和 Google AI Overview 的回复中注入虚假信息，目标涵盖 374 家大型公司。

📝 Summary

本文探讨了日益增长的安全威胁：攻击者利用生成引擎优化（GEO）——即 SEO 的 AI 演进版本——向模型使用的数据源注入虚假信息。通过在受信任平台上发布经过优化的帖子、PDF 和评论，攻击者可以欺骗 AI 模型提供诈骗电话、电子邮件和恶意链接。研究识别了受影响的 374 家大型机构，包括财富 500 公司和航空公司，并指出 92% 的用户不会验证 AI 生成的答案。

💡 Main Points

生成引擎优化（GEO）正成为 AI 虚假信息的主要攻击媒介

与传统的 SEO 不同，GEO 重点在于通过重复关键词和引用专家观点等技术，影响 LLM 和 AI 搜索引擎引用来源的方式。

用户盲目信任 AI 输出导致了严重的「信任差距」

引用的研究显示，92% 的用户不会验证 AI 生成的答案，使他们受到以权威事实呈现的虚假信息的影响。

攻击者利用权重平台托管「被污染」的内容

通过在 .edu 域名、GitHub Pages 和社交媒体等受信任环境中嵌入载荷，攻击者获得了 AI 模型随后摄取的信誉度。

传统的下架机制在应对自动化 AI 攻击时正变得失效

自动化攻击的规模（每天生成数千条帖子）超过了手动下架的能力，且 Wayback Machine 等网络存档工具会将删除的内容永久索引。

💬 Key Quotes

92% 的用户不会验证 AI 答案

GEO 本质上是传统 SEO 在 AI 时代的演进版本

如果攻击者控制了 AI 而我们盲目信任它，他们实际上就控制了我们

这些攻击的规模远超手动发布的能力

📊 Article Meta

AI Screening： 88

Source： AIHOT — 精选

Author： noreply@aihot.news (Hacker News 热门（buzzing.cc 中文翻译）)

Category： 人工智能

Language： 英文

Read Time： 15 min

Word Count： 3720

Tags：

AI 与智能应用 , AI 安全与对齐 , 安全 , 大语言模型 (LLM) , 增长营销