明查|AI图像席卷以伊冲突,真假难辨的战争影像应接不暇

article/2025/7/1 7:31:38

编者按

当地时间6月13日,以色列突袭德黑兰,剑指伊朗核设施。伊朗怒斥此举为“宣战”,发动弹道导弹反击,双方展开攻防战。

12天后,伴随着美军下场参战,以伊签订停火协议,这场突如其来的“战争”匆忙画上休止符。但社交平台上,一场看不见硝烟的战争仍在持续发酵——由于以伊在冲突期间不同程度地限制了国内网络和媒体报道,制造了一定程度的信息真空,网络上开始流传大量真假难辨的战争影像,各种用于满足人们对冲突之想象的“证据”应接不暇。

“澎湃明查”观察到,在此次以伊冲突中,基于人工智能技术生成的AI视频数量激增,远超俄乌冲突初期。这些视频往往使用拙劣的画面、夸张的叙事扭曲战斗场景,误导公众认知,却是此次以伊信息战的核心组成部分。此外,战斗模拟游戏画面被误认为真实战况的情景仍在发生,一些无关的旧视频也借助有心之人的包装和剪辑再次进入了公众的视野。本文结合典型案例梳理了这些现象,望帮助读者识别虚假信息,提升辨别能力。

明查

AI图像席卷以伊冲突

自以色列空袭德黑兰以来,社交平台上出现了形形色色的AI生成图片或视频。这些图像声称展示了以伊冲突中的某个战斗场景,但呈现的视觉元素往往单一,画面清晰度较低且存在物体比例失衡、背景扭曲等较为明显的AI生成图像的痕迹。

例如,一段在抖音、X等平台广泛流传的视频声称展示了“伊朗向以色列海法发射最强武器,以色列升起蘑菇云”,但视频中,停靠在街道旁造型扭曲怪异的汽车、大小不一的楼房窗户处处显现着AI生成的细节。

声称展示了“伊朗向以色列海法发射最强武器,以色列升起蘑菇云”的视频截图。

对这一视频进行溯源后发现,这一视频最早来自YouTube频道@cmlacyn。发布者明确标注了视频由AI生成,但在传播过程中,这类关键信息却被抹去,被当成了真实的战争画面。

尽管许多内容平台都会采取措施防范虚假信息。例如X、微博、Facebook、Tiktok等平台近年来均开始转向“众包”形式进行事实核查,X甚至引入了人工智能聊天机器人Grok来帮助核查信息,但这些措施并不总是有效。

以X为例——美国智库大西洋理事会数字取证研究实验室(DFRLab)近日发布的一项研究发现,Grok在核实已确认的事实、分析虚假视觉效果以及避免未经证实的指控方面仍存在较大缺陷,至少就以伊冲突而言,Grok无法稳定、可靠地提供与冲突相关的验证信息,尤其“难以验证AI生成的内容”。

DFRLab举例,在验证一段声称与伊朗打击以色列机场相关的AI生成视频时,Grok一会儿称“导弹由也门叛军发射”,一会儿又错误地将AI生成的机场认定为贝鲁特、加沙或德黑兰的机场,此外还有将人工智能生成的视频误认为“真实视频”的情况。

Grok错误地将AI生成的视频判断为真实视频。

除Grok外,市面上还有相当一部分AI检测工具,声称能够验证一张图片或一段视频是否由AI生成。尽管一些工具,如Hive Moderation,在识别图像方面已有较为不错的表现,其提供的结论具有一定参考价值,但需要提醒的是,截至目前,市面上还没有一款“完美”的工具能够保证检测结论的准确性。想要做出更为准确的判断,我们仍需整合多方信息,进行交叉验证和综合分析。

Hive Moderation 在判断一张由AI生成的“以军F-35残骸”图片时,反馈其由AI生成的概率为79.9%。

其中,溯源仍然是一种行之有效的方法。借助溯源,我们可以了解到一张图片或一段视频是在何时、何地、由何人发布的,从而通过这些元数据判断围绕视频的相关说辞是否可信。例如,此次以伊冲突中,社交平台上有一段视频声称“以色列本·古里安国际机场遭伊朗轰炸后被毁”,画面中满是破损不堪的战斗机。“澎湃明查”通过溯源发现,这段视频早在5月22日就已经出现,发布者是一个名为3amelyon的巴勒斯坦账号,该账号发布的作品均为由AI生成的灾难类题材视频,由此可以推断这一视频与此次以伊冲突无关。

3amelyon账号截图。

除溯源外,许多AI生成的画面中往往会包含失真的元素,如过多的手指、大小一致的牙齿、边缘模糊的物体、表现为乱码的文字、不符合物理定律的场景等,往往能够成为判断一段视频由AI生成的依据。

例如,在网传“伊朗把以色列间谍绑在导弹上发射”这一视频中,画面中与现实不符的伊朗国旗、结构怪异的发射塔台、被捆绑后能够自由挥动的人物双手均泄露了该视频是由AI生成的。

网传视频第3秒前后,人物挥动的手臂和肩膀显示直接穿越了捆绑他的绳子。该视频由AI生成。

随着人工智能技术的发展,AI生成图像或视频中的“失真细节”可能会越来越少,意味着人们可能越来越难以通过肉眼识别做出判断。鉴于此,近年来,以OpenAI、谷歌为代表的科技公司开始尝试利用数字指纹或数字水印技术,在其旗下人工智能工具生成的作品中嵌入能够由机器识别但肉眼不可见的符号,从而遏制AI工具被滥用的状况——OpenAI在2024年推出了一款可以专门用于检测由DALL-E 3创建的图像的工具;谷歌则在今年5月推出了SynthID Detector,用于检测由Gemini、Imagen、Lyria 和Veo创建的AI生成内容。Open AI和谷歌声称,其开发的工具的检测准确率极高,且受图像压缩、裁剪或饱和度变化等修改的影响极小。

游戏画面冒充战斗画面

以伊开战初期,伊朗媒体称伊朗击落了至少4架以色列F-35战机。伊朗塔斯尼姆通讯社13日晚报道称,伊防空部队当天击落了两架以色列F-35战机,并俘获了一名飞行员。社交平台上流传的一段视频声称记录了这一过程。

这段视频在TikTok上的播放量超过了2000万次,并被多国社交平台用户当作真实视频转发。然而,反向搜索发现,这段视频的画面其实来自战斗模拟游戏《数字战斗模拟世界》(DCS World)。视频模拟的是俄制苏-57战机对抗乌克兰地对空导弹防御系统的场景,与美国洛克希德·马丁公司制造的F-35战斗机及近期的以伊冲突均无联系。

无独有偶。6月14日,X平台上又有用户上传了另一段相似的视频,称“伊朗向以色列防空战机开火”。但这段视频很快被发现源自军事模拟游戏《武装突袭3》(Arma 3),视频在2022年就已经出现。

网传“伊朗向以色列防空战机开火”视频,其实是游戏画面。

诸如此类将游戏画面包装为真实战斗场景的视频,并不是第一次在网络上出现,也不会是最后一次——2022年2月,俄乌冲突爆发,一段被传作“基辅幽灵击落俄军战斗机”现场视频最终被证明是《数字战斗模拟世界》中的游戏场景;2023年10月,以色列与哈马斯开战,网传“哈马斯在加沙击落4架以色列作战直升机”的视频被证实出自《武装突袭3》;2024年10月,以色列轰炸叙利亚大马士革,一条声称“中国H9防空系统在叙利亚拦截导弹”的视频最终再次被论证为《武装突袭3》的游戏画面。上述案例均可在“澎湃明查”过往发布的核查文章中找到。

尽管《武装突袭3》游戏的开发商Bohemia Interactive和《数字战斗模拟世界》的制作公司鹰动力均曾发表声明,呼吁网友不要将游戏画面和真实战斗画面混淆在一起,用作战时宣传,然而,玩家对战斗模拟游戏高度拟真的需求,与拟真画面难以与真实世界相区隔的内在矛盾,使这些游戏难以躲避成为虚假信息素材来源的命运。

2022年11月28日,Bohemia Interactive在其官网发布文章,梳理了一系列可用以区分游戏视频和现实世界中的视频的方法。例如,由游戏生成的画面,通常分辨率较低,游戏场景通常发生在夜晚或较暗环境中,画面包含夸张的抖动镜头。此外,视频的音效与现实音效是否难以区分,视频画面是否缺乏人物动作,是否包含不真实的车辆、制服、装备和先进技术,不自然的爆炸、烟尘、火焰或灰尘的粒子效果等,也是鉴别一段视频是否是游戏画面的重要依据。

Bohemia Interactive在博客文章中梳理了一系列可用以区分游戏视频和现实世界中的视频的方法。

移花接木的“现场画面”

除游戏画面外,社交平台上流传的另一些声称展现本次以伊冲突的“现场画面”,其实是挪用自过往的视频片段的。

例如,一段声称是“以色列炸毁伊朗核设施”的视频,至少于2024年3月就已经流传于网络,线索指向当时伊朗对以色列的打击。

另一段声称展示了“特拉维夫遭袭、大厦倒塌”的视频,其实挪用了6月初迪拜一座大厦发生火灾的画面。通过地理定位,可以确认该视频拍摄于迪拜的滨海顶峰大厦(Marina Pinnacle Tower)附近,该大厦在今年6月13日发生了火灾。

还有一段声称是“伊朗官员头顶《古兰经》祈求导弹击中目标”的视频,实则是德黑兰当地时间3月拍摄的警察局人员正在进行守夜祈祷仪式。

在以伊冲突的舆论场中,诸如此类张冠李戴的视频素材屡见不鲜——从他时他地的军事行动到毫不相干的社会事件,但凡涉及武器硝烟、断壁残垣或伊斯兰宗教元素的画面,都被生搬硬套地移植到这场冲突中。这些经过精心筛选的影像,佐以似是而非的解说词,恰如其分地迎合了人们对战乱地区的刻板想象,在信息洪流中构筑起一个虚实难辨的"中东战场"。

那么,面对这样的视频,我们要如何才能实现真伪判断,不受蒙骗呢?“澎湃明查”此前曾在“工具箱”系列中介绍过关键帧反向搜索和地理定位的方法。

简单来说,视频关键帧反搜是一种通过提取视频中的关键帧图片,再对图片内容进行反向搜索,寻找相同或类似视频的方法。

例如,在核查“伊朗官员头顶《古兰经》祈求导弹击中目标”的视频时,明查员先通过InVID软件截取了网传视频的关键帧,再使用Google Lens等工具对关键帧进行反向搜索,最终在社交平台Instagram上找到了一段与网传视频内容完全相同的视频。该视频的发布时间显示为今年3月25日,要明显早于近期的以伊冲突。

网传视频最早于3月25日已出现在社交平台Instagram。

地理定位则是一种通过锁定视频中出现的关键地理标志物,由此确认视频拍摄地点的方法。

在核查声称展示“特拉维夫大厦倒塌”视频时,明查员观察到视频中出现的一个蓝色的酒瓶形状的泳池。搜索后发现,这是迪拜滨海顶峰大厦西侧临近建筑Torch Tower的游泳池。由此可以确认,网传视频的拍摄地点在迪拜境内。

Torch Tower实景图片。

此次以伊冲突表明,国家或地区间的冲突,不仅仅是导弹与战机的较量,更是对“数字真相”的争夺。尽管以伊冲突的硝烟暂时散去,但中东土地上的战火仍未停息,人类社会的纷争似乎永远在历史的循环中往复。这也预示着,社交平台上的舆论角力与信息博弈将持续上演。

在技术日益精进、局势愈发复杂的今天,真相的辨明变得比以往更加困难。我们呼吁更多读者在使用社交平台时,能够审慎思考、谨慎转发,以理性与耐心共同构筑清朗的信息空间。

    责任编辑:王靓
    校对:施鋆

    http://news.xdnf.cn/BOuVNfoOLb

    相关文章

    QDII额度再扩容,60家证券类机构获批超21亿美元

    时隔一年多后,新一轮QDII额度又一次集中获批。6月30日,据国家外汇管理局披露的最新合格境内机构投资者(QDII)投资额度审批情况表,截至2025年6月末,累计批准额度由此前5月末时的1677.89亿美元提高至1708.69亿美元,增加了30.8亿美元。而上一次集中获批还是在2024年5月。22…

    港股上半年IPO融资额同比增688%,排队企业达220家

    上半年正式收官,港股IPO市场热度持续攀升。Wind数据显示,今年上半年,港交所完成43宗首次公开募股(IPO)项目,较去年同期增加13家,增幅为43.33%;募资总额达到1067.13亿港元,较去年同期的135.33亿港元增长688.54%,募资金额已超过2024年全年的881.47亿港元。就单个项目募…

    解放军报社论:在党的旗帜下推进新时代强军事业

    百年大党风华正茂,潮涌东方信心满怀。在以中国式现代化全面推进强国建设、民族复兴伟业的关键时期,我们迎来了中国共产党成立104周年。全军官兵与全党全国各族人民一道,共庆光辉节日,展望光明前景,在新的征程上更加坚定、更加自觉地牢记初心使命、开创美好未来。在中国人民…

    抗战回望31︱《新中华报》:1938年7月的“抗战周年纪念及中共十七周年纪念宣传周”

    今年是抗日战争胜利暨世界反法西斯战争胜利80周年,澎湃新闻私家历史与抗战文献数据平台合作,推出“抗战回望”系列,选取抗战期间的报纸、图书、日记等史料加以介绍,希冀带领读者前往历史现场,触碰抗战时中国军民的精神与生活。中国共产党建党初期,对于具体的建党标志及日…

    大学2025丨专访福耀科大常务副校长徐飞:AI时代,大学需要“重新发明”自己

    【编者按】在人工智能与人形机器人的一骑绝尘中,中国大学迎来2025。2025年,注定要成为变革的年份。是以战略敏捷赢得战略主动,还是在延误中错失转型机遇,中国大学踏上征途。人工智能技术如何赋能学科建设?人工智能技术给创新人才培养带来哪些启示?澎湃新闻特推出“大学20…

    “苏超”六月记:普通人的主场

    海报设计 白浪伴随着苏州、扬州“园林德比”的终场哨音在江苏全省唯一满足国际足联比赛要求的专业球场——昆山市奥体中心体育场上响起,“苏超”第五轮赛事和这个六月一起落下帷幕。业余爱好者登堂入室,踏足一流专业场地,4万多名现场观众的助威声在周围环绕,21个平台将比赛…

    专访黄汉权:新质生产力领域如何反内卷

    在全球经济不确定性加剧的背景下,新质生产力将如何发展?6月24日-26日,第十六届夏季达沃斯论坛在天津举行,中国宏观经济研究院院长黄汉权参加了“解读新质生产力发展战略”的闭门会议。6月25日,澎湃新闻就新质生产力热点话题专访黄汉权。黄汉权表示,当下全球不确定性加剧确…

    经济日报社论:永葆党的旺盛生机与活力

    今天,我们迎来中国共产党成立104周年。走过峥嵘岁月,百年大党初心历久弥坚,在中国式现代化建设的新征程上锐意进取,书写着新时代中国发展的华彩篇章。中国共产党与中华民族的前途命运紧密相连。当年,中国共产党人从民族危亡的困境出发,寻找中国人民通往幸福、中华民族走向…

    郎朗王健史依弘张军金承志金郁矿,听听他们和东艺的故事

    2004年12月31日拉开演出大幕,2005年7月1日正式对外运营——20年前,上海东方艺术中心在浦东丁香路绽放,逐渐成为世界交响名团的大本营、上海演出文化的金名片。20年来,这里迎来送往过无数名家大师、新人新秀,而每一个艺术家都在这里留下过他们的动人故事,绽放了属于他们的…

    光明日报社论:奋斗,不懈奋斗,明天定会更好!

    今天,是中国共产党成立104周年!104年前的今天,金瓯残破,兵燹连连。而今,展现在我们面前的华夏,又是怎样一副模样?新闻是明日的历史。翻开手边的《光明日报》,哪一版哪一篇不让人心潮激荡?!瞧,这篇的题目是《中国动画何以创造了世界第一》。动画电影,美西方一直独霸…

    92岁游本昌入党,人民日报:真诚的艺心,不变的初心

    “我会永远遵守入党誓词,这将照亮我的一生!”6月30日上午,在鲜红的党旗下,92岁的中国国家话剧院“终身荣耀艺术家”、一级演员游本昌宣誓加入中国共产党。宣誓完毕,他用微微颤抖的手,珍重地抚摸着胸前闪亮的党员徽章。“现在,我是党的一名‘老学生’了。”游本昌难掩激动…

    中国共产党成立104周年|奋斗百年正芳华

    责任编辑:赵冠群澎湃新闻报料:021-962866澎湃新闻,未经授权不得转载

    硬科技时代的创新创业:技术扩散、现金流平衡与宏观赋能

    2025年6月24日至26日,第16届世界经济论坛新领军者年会(以下简称“夏季达沃斯论坛”)在天津举办。本届论坛以“新时代企业家精神”为主题,设置全球经济、中国展望、剧变中的产业、投资人类与地球、新能源与材料五个议题。在所有的议题中,“不确定性”几乎都成为了解读当下环…

    中共中央组织部向广大共产党员致以节日问候

    责任编辑:王建亮图片编辑:沈轲澎湃新闻报料:021-962866澎湃新闻,未经授权不得转载

    Nature:博士太多,高校已经装不下了!

    新智元报道 编辑:LRS 【新智元导读】过去几十年,全球博士毕业生数量呈爆炸式增长,但学术界职位空缺数量远低于毕业生数量。如今博士生的就业趋势已从学术界转向工业界,未来博士教育培养模式应转变,产学研深入结合,以更好地匹配劳动力市场。 21世纪,最贵的是人才,最便…

    中东留学:用孤独换机遇,中国学生的“勇敢者游戏”

    作者|李小天今年2月,即将从国内top2高校硕士毕业的苏云天,从北京出发,飞行十余个小时抵达沙特红海畔的海滨城市吉达。此行他的目的地是距离吉达市区80公里远的阿卜杜拉国王科技大学(KAUST)。在此之前,苏云天已经接收了KAUST的博士offer。此次前来,他不仅计划和未来的博…

    美总统特朗普签署行政令结束对叙利亚制裁

    当地时间6月30日,美国白宫发布声明表示,美国总统特朗普当日签署一项行政命令,终止对叙利亚的制裁。声明表示,该命令允许放宽对某些商品的出口管制,并取消对部分外国向叙利亚提供援助的限制。美国财政部高级官员表示,这将结束叙利亚被孤立于国际金融体系的局面。1979年,美…

    美两名前总统罕见发声,批评特朗普政府解散国际开发署

    美国前总统奥巴马(左)和小布什(右)(资料图)总台记者当地时间6月30日获悉,美国前总统奥巴马和小布什罕见地公开发表讲话,质疑特朗普政府解散美国国际开发署的行为。两位分属民主党和共和党的前总统通过视频向美国国际开发署工作人员发表了讲话。奥巴马称特朗普解散美国国…

    美联邦政府就移民政策起诉洛杉矶市

    总台记者当地时间6月30日获悉,美国特朗普政府就移民政策问题对加利福尼亚州洛杉矶市提起诉讼。这起由美国司法部提起的诉讼称,洛杉矶的法律和政策阻碍了联邦移民法的执行。美国司法部长在一份声明中称,像洛杉矶这样藐视联邦法律、优先处理非法移民而非美国公民的司法管辖区,…

    427人获香港特区行政长官颁授勋衔及嘉奖

    香港特区政府7月1日公布2025年授勋名单,今年共有427人获行政长官颁授勋衔及嘉奖。3人获颁授大紫荆勋章,包括《经济日报》集团主席兼创办人冯绍波、旭日集团董事长杨钊及前医管局主席梁智仁。此外,20人获金紫荆星章;29人获银紫荆星章;46人获铜紫荆星章;3人获铜英勇勋章。另…