飓风梅丽莎的虚假AI生成视频充斥社交媒体 - WTOP新闻

随着飓风梅丽莎最近席卷加勒比海，一波误导性的AI生成视频涌入社交媒体平台，造成混乱和错误信息。一个特别病毒式传播的片段显示四条鲨鱼据称在牙买加一家酒店的游泳池中游泳，这一场景完全是伪造的。另一个视频声称展示了牙买加金斯敦机场被风暴彻底摧毁，但这同样是假的。这些视频以及其他视频在X、TikTok和Instagram等平台上累计获得了数百万次观看，与当地人的真实画面混合，使观众难以分辨真伪。\n\n许多这些片段要么是拼接自旧的灾难录像，要么完全由AI视频生成器制作。牙买加教育部长达娜·莫里斯·迪克森对众多WhatsApp群组中此类假视频的泛滥表示担忧，敦促公众依赖官方渠道获取准确信息。虽然自然灾害期间的错误信息并不新鲜，但先进AI工具的出现使得制作高度逼真的合成视频比以往任何时候都更容易，增加了打击虚假信息的难度。\n\n为了避免上当受骗，建议观众检查是否有表明AI来源的水印，如最近由OpenAI推出的AI视频生成器Sora的标志。然而，这些水印可能被移除或模糊，因此人们应注意像素化、变色或水印应在位置的模糊区域等迹象。仔细审视视频可以发现异常——比如游泳池视频中形状奇怪的鲨鱼，或乱码文字和混合物体，这些都是AI创作的典型特征。同时，注意品牌标识，因为AI通常难以精确复制公司标志。\n\n专家警告，随着技术进步，区分真实画面和AI深度伪造将变得更加困难。飓风梅丽莎是OpenAI最新视频生成工具Sora发布后的首个重大自然灾害，该工具降低了不法分子制作逼真假视频的门槛。NewsGuard的索菲亚·鲁宾森指出，非自然运动或扭曲文字等缺陷变得越来越少，普通观众的识别难度加大。\n\n关于这些危机相关深度伪造视频的动机，AI专家亨利·阿杰认为大多数是为了点击量和互动，而非政治目的。X和YouTube等平台根据观看次数和互动奖励用户，因此创作者可以轻松赚取可观收入。除了金钱收益，一些创作者还希望增加粉丝数以推广产品或项目。阿杰建议观众考虑来源：以点击诱饵内容著称的账号应持怀疑态度。有趣的是，一些创作者公开使用AI来尝试吸引注意力的内容，而非隐藏其技术。\n\n鲨鱼游泳池视频的来源尚不清楚，尽管在Instagram上发现的一个版本带有水印，链接到多米尼加共和国的TikTok账号Yulian_Studios，该账号专注于AI视觉特效。虽然该账号页面未展示鲨鱼视频，但有其他与飓风相关的AI生成片段。\n\n最终，信任直觉和上下文至关重要。如果视频看起来夸张或不合常理，最好怀疑是深度伪造。即使是音频也变得更加逼真，合成声音与自然语调相匹配。X等平台提供社区注释来标记可疑内容；例如，鲨鱼游泳池视频上的社区注释明确指出它是AI生成的误导信息。最重要的是，始终通过牙买加政府或国家飓风中心等官方渠道核实信息，而非依赖随机社交媒体帖子。