打击利用 AI 的「虚假门面」行动

📌 One-Sentence Summary

OpenAI 挫败了来自俄罗斯和伊朗的高影响力「虚假门面」舆论操纵行动，这些行动利用 AI 扩大了传统虚假信息战术的规模，标志着该公司报告的首个第 5 级突破型行动。

📝 Summary

OpenAI 已封禁两个源自俄罗斯和伊朗的复杂隐蔽舆论操纵行动（IO），这些行动利用其模型支持「虚假门面」实体。被命名为「Dark Clark」（黑暗克拉克）的俄罗斯行动征用了拉丁美洲不知情的个人，运营一个名为社会研究中心（SRC）的假智库，主要使用 AI 进行内部报告撰写以及起草针对乌克兰声誉及阿根廷、玻利维亚和厄瓜多尔当地政治的欺骗性内容。该行动达到了突破规模的第 5 级，表明其显著渗透进了主流媒体并引发了现实世界的政治紧张局势，如招致官方否认和事实核查。伊朗行动则使用了七个假记者身份向全球媒体推销长篇报道，达到第 4 级。这两个案例凸显了 AI 如何提升前 AI 时代虚假信息技术的效率、语言流畅度和规模，使威胁行为者比以往任何时候都更有效地利用不知情的编辑和受众。

💡 Main Points

首个被挫败的第 5 级舆论操纵行动

俄罗斯的「Dark Clark」行动在 IO 突破量表上被评估为第 5 级，这是 OpenAI 迄今挫败的最高级别。它成功地在主流媒体中植入内容并引发真实世界的反应，包括政府官方否认和议会辩论，显示出相比以往仅限社交媒体的活动前所未有的影响力。

AI 作为传统战术的效率倍增器

这些行动并未创造全新的攻击形式，而是利用 AI 简化了与经典虚假信息方法相关的流程，例如生成假记者身份、起草夸大成功的内部报告，以及制作语言流畅的假文件和音频脚本。

征用不知情的真人资产

俄罗斯行动在拉丁美洲建立了一个由不知情的当地人组成的实体「智库」（社会研究中心），这些人以为自己在为合法机构工作。这种混合模式——结合人类基础设施与 AI 生成内容——使得「虚假门面」比纯数字机器人网络更难被检测。

策略性地利用内部报告进行欺骗

ChatGPT 的主要用途不仅是对外宣传，还包括向上级起草内部报告。操作者利用 AI 伪造或夸大其有效性，将无关的地缘政治事件归功于此，或传播实际影响有限的虚假信息，从而确保持续获得资金和行动自由。

💬 Key Quotes

这些行动最引人注目的地方在于，它们与 AI 出现之前的复杂舆论操纵行动高度相似，但利用 AI 让某些工作流程变得更加轻松。

这是自我们开始发布报告以来，我们挫败的首个第 5 级行动。

操作者使用 ChatGPT 执行三项主要任务：撰写关于其活动的内部报告……为其行动创建内容，以及起草关于一个自称「研究平台」的表现报告……

📊 Article Meta

AI Screening： 88

Source： OpenAI News

Author： OpenAI

Category： 人工智能

Language： 英文

Read Time： 22 min

Word Count： 5271

Tags：

AI 与智能应用 , AI 安全与对齐 , 虚假信息 , 地缘政治 , 安全