X上伊朗战争的AI伪造内容泛滥成灾
#

快速导读
#

自2月28日美以对伊朗发动攻击以来，X（Twitter）上出现大量虚假或被篡改的影像证据，且越来越多由AI生成。
X的AI助手Grok在核验视频与图片来源时多次出错，甚至将AI生成图像当作“证据”发布。
国家级账号、付费蓝标账户与宣传网络都在放大这些内容；现有AI检测工具和平台标签机制仍然不足以遏制误导信息的传播。

典型例子
#

当反信息专家Tal Hagin在X上请求Grok核验一段“伊朗导弹打中特拉维夫”的视频时，Grok多次误判视频的地点与日期（原视频来自伊朗国营媒体，实际并非特拉维夫事件源）。为了证明其判断，Grok还发布了一张AI生成的“战争图像”。Hagin反驳称这些都是“AI做出来的糊弄图”。

Grok相关帖：https://x.com/grok/status/2030774565291405566
原始转发（PressTV）：https://x.com/PressTV/status/2030703851846701142

这个交互凸显两个问题：模型核验能力不稳、以及AI自身成为制造误导的工具。

AI生成的大量案例
#

研究与媒体核查揭示了多个典型传播案例：

伊朗官方或亲伊朗账号发布的AI生成“高楼燃烧”视频（巴林某高楼被烧的影像）被广泛转发。例：https://x.com/TehranTimes79/status/2028485554103259276
一张显示美军B-2轰炸机被击落并有美军被捕的合成图，曾被转发超过百万次（后被删除）。示例帖：https://x.com/Shayan86/status/2030841866715898129/photo/1
声称捕获“Delta Force”成员的图片被观看超过500万次后删除： https://x.com/Shayan86/status/2030864740180771173
有的视频声称展示伊朗在洞穴中制造导弹，虽然不逼真但仍被大量转发，观看次数破百万。

这些内容有的高度逼真，有的明显造假，但在情绪化传播环境中都能快速获得大量曝光。

宣传网络与偏见内容
#

独立研究机构（如 Institute for Strategic Dialogue）指出：亲政权的宣传网络在X上利用AI生成图像传播煽动性与反犹信息，比如将正统派犹太人描绘成引导美军参战或庆祝美方伤亡的影像。此外，一条声称展示“穿内衣走过特朗普身边的小女孩”假视频曾被观看超过680万次（尽管随后删除，但仍在平台上被反复传播）。

平台的应对
#

X的短期措施包括：若蓝标（付费）账号发布未标注的战争AI视频，将暂时取消其变现资格（demonetize）。但X未公开具体执行数量。
另有报道指出，多名伊朗官员曾购买X的付费服务以获取蓝标和更高曝光，这增加了AI伪造内容的传播影响力（参见WIRED报道）。
Meta（脸书母公司）的监管机构对其AI生成内容的标签策略提出批评，认为其不足以应对危机时期内容传播的速度与规模（相关声明：https://transparency.meta.com/oversight/oversight-board-cases/ai-generated-video-in-iran-israel-conflict/）。

识别真伪的短板
#

随着生成模型的进步，AI图像/视频已越来越难以通过视觉细节一眼识别真伪。许多AI检测工具在不同样本上表现不稳定。
媒体与研究者指出，单靠自动化检测或平台内标签无法完全阻止误导性传播；需要结合人类核查、跨平台溯源和元数据分析。

Isis Blachez（NewsGuard）指出：用户面对看似“证据”的视觉内容时往往不再怀疑，而现有资源去鉴别这些内容也存在缺陷。

结论与建议
#

平台应提升“源头溯源”与标注机制：对可疑的战争/危机相关视觉内容强制要求来源证明并标注“未经核验”。
对付费蓝标、验证账号应建立更严格合规审查，避免国家或政权相关账号利用付费服务放大虚假内容。
投入更强的人力核验队伍与跨组织协作（媒体、NGO、独立研究机构）以提升事实核查速度。
政策层面需考虑AI生成内容的紧急治理规则，尤其是在战争与危机语境下的应用与惩罚机制。
提升公众的媒体素养：教育用户如何核验图片/视频（检查原始发布者、反向图像搜索、元数据与卫星/地面证据对比）。

参考阅读
#

原文（WIRED）：https://www.wired.com/story/fake-ai-content-about-the-iran-war-is-all-over-x/
Grok 帖子示例： https://x.com/grok/status/2030774565291405566
PressTV 原始转发示例： https://x.com/PressTV/status/2030703851846701142
BBC 关于Grok错误报道： https://www.bbc.com/news/articles/ckg8wvz427vo
关于伊朗校惨案与Tomahawk核验（NYT）： https://www.nytimes.com/2026/03/05/world/middleeast/iran-school-us-strikes-naval-base.html
Meta Oversight Board 对AI标签的评估（声明）： https://transparency.meta.com/oversight/oversight-board-cases/ai-generated-video-in-iran-israel-conflict/
ISD（Institute for Strategic Dialogue）相关分析：可参考WIRED/ISD联合报道节选

X上伊朗战争的AI伪造内容泛滥成灾#

快速导读#

相关背景#

典型例子#

AI生成的大量案例#

宣传网络与偏见内容#

平台的应对#

识别真伪的短板#

结论与建议#

参考阅读#