1 月 7 日 9 时 05 分，西藏日喀则市定日县发生 6.8 级地震，灾情牵动人心。与此同时，一些关于灾情的虚假信息，也在网络上公然传播，对公众造成了不小误导。其中，一张 " 被压废墟下的小男孩 " 图片引发广泛关注。但经查证，上述图片由 AI 创作，且平台也在相关视频下方给出文字提示：" 疑似使用 AI 生成技术，请谨慎甄别 "。可虽有提示，不少网友仍被误导，并在留言区关注男孩生命安全。
追溯事件始末，可以得知，这张 " 被压废墟下小男孩 " 图片来源，是原始作者在 2024 年 11 月 18 日发布的相同画面短视频，当时已明确标注是 AI 生成。而后续传播中，部分转发者将其与西藏日喀则地震关联，却未注明 AI 生成，导致误传泛滥。
或许，原始作者在生成该图片时，并无其他意图，但有关灾情图片岂能肆意制作？后续转发者或出于善意关注，或意在博取流量，但无论目的为何，在灾害面前，此类虚假图片都会夺公众之瞩目，淆乱救援者对灾情之研判与施救，其害匪浅——不仅消费公众情感，也扰乱公共秩序，甚至可能会引起社会恐慌情绪。
AI 生成内容需谨慎使用，否则将会面临法律责任。肆意用 AI 技术生成地震受灾严重画面，甚至编造谣言，图文内容与事实严重不符，且引发社会广泛关注等，属扰乱公共秩序行为；另据《治安管理处罚法》相关规定，发布者编造虚假险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，严重扰乱社会秩序，可能会面临严重刑事责任。
细究发现，此类 AI 生成虚假照片被广泛传播，暴露诸多问题。其一，AI 软件生成图片无任何风险提示，用户随意输入关键词，便会自动生成多张相关图片；其二，短视频、社交媒体等平台审核、监管滞后，AI 生成图片往往在发布后才会被识别和审核。
事前不干预、事后才处理，这显然是不合理的。内容一经发布，就意味着存在被大量转发、评论的可能性，其传播速度自然不可低估。若相关内容已经被广泛传播，再进行标记、下架，其产生的负面影响如何消解？
更深层面上，应该将此事件视为一个反思契机——AI 技术愈加完善，生成内容也将增加，彼时，在短视频、社交媒体等平台上，或将出现虚假信息与真实信息共存、交融的局面。
鉴于此，相关部门要完善法律法规，加大对虚假信息打击力度；平台应加强监管，完善审核时效、制度、技术等，对用户发布内容进行有效甄别，对于疑似 AI 生成内容，及时进行标注、处理；公众也要提升辨别能力，在按下转发键之前，仔细甄别信息来源与真实性。
技术无温、人性有热，唯守人性底线，方定技术之界。面对灾害，应传递真实、准确的信息，助力救援、安抚人心，切勿借机哗众取宠、渲染灾难。（正观评论员 任思凝）
还没有评论，来说两句吧...