日喀则地震之际，民众普遍关注救援动态，期盼平安。然而，此时却出现不协调现象。部分人利用灾情关注度，通过AI技术制造虚假信息。这一行为无疑引发了公众的强烈不满。
网络虚假信息困扰救援工作
网络上的灾害信息中，真伪难辨。例如，一张与日喀则地震相关的AI合成图片，展示一名小男孩被废墟压住，被多个账号传播并获得了数万次的转发和点赞。这一情况导致众多网友误以为真实情况如此，进而担忧孩子的安全。然而，实际上并不存在这样的实际场景。这种现象不仅浪费了救援资源，降低了救援工作的效率，还可能扰乱社会秩序。有志愿者表示，他们原本有限的时间和精力被虚假信息所分散，许多人甚至询问图片中的孩子的情况。
此类虚假信息阻碍了灾区救援工作的开展。它们可能使救援力量误入无灾害区域，造成资源浪费。同时，错误信息会导致当地民众恐慌，进而影响社会稳定，妨碍救援工作的有效进行。
AI技术被恶意利用
AI技术理应服务于救援工作。然而，当前却存在被滥用制造虚假信息的现象。通过输入特定关键词，即可自动生成虚假内容。诸如“西安发生爆炸事件”、“重庆巫溪民房爆炸事故”等虚假消息，便是借助AI技术制造。这一行为降低了造谣的成本，能够大规模生产且具有很高的迷惑性。
专家指出，AI深度伪造技术使得信息的真伪难以辨识。以往，人们普遍认为所见即所得，但这一认知已被完全颠覆。民众所接收的图像或视频可能根本不存在，其背后的操控者或许只是为了吸引注意或实现其他不良目的。
AI谣言危害众多方面
在特定灾难期间，AI传播的谣言影响巨大。这些谣言误导了公众的判断，使得人们难以了解灾情的真相。同时，对于受灾者而言，这种谣言体现了一种忽视。例如，虚假的伤亡报道可能令身处异地的家属深感惊慌。
在社会层面上，扰乱社会秩序往往会导致恐慌和混乱的产生。社区工作人员指出，他们不仅要处理救援事务，还需平息因谣言引起的民众恐慌，这显著增加了他们的工作负担。
大众信息甄别难度加大
当前，在信息量庞大的背景下，公众辨别信息的难度显著增加，信息来源模糊。AI技术的介入进一步加剧了谣言的制造，使得信息的真伪更加难以辨识。一般民众往往缺乏必要的专业知识来区分AI生成的内容。众多网民出于对灾区的关注而转发信息，却未意识到自己已陷入虚假信息的漩涡。
调查显示，有八成网民对识别AI生成内容感到困惑。网络舆论环境复杂且易变，人们常因热度而盲目转发，忽视信息可能由AI伪造。这一比例揭示了公众在面对AI谣言时的无助感。
法律提供监管依据
我国针对AI造假行为实施了相关法律规范。《互联网信息服务深度合成管理规定》与《生成式人工智能服务管理暂行办法》对相关事宜进行了明确规定。此举确保了在灾害等紧急情况下，AI造假等不良行为受到有效约束。
执法机构依据法律进行管理。一旦违规现象被察觉，将依照法律规定予以严厉处罚，这显示了整治此类问题的坚定意志，任何企图规避法律的人都将无法成功。
各方应齐心协力打击AI谣言
网络平台及软件需肩负起其责任。AI生成工具需对灾害相关等敏感词汇进行识别并发出警报。平台需对内容进行标识和审核。监管部门需强化执法力度。唯有各相关方共同协作，方能取得成效。
在知名社交平台强化审核机制之后，AI生成谣言的发布数量显著减少。这一现象表明，通过各方共同努力，确实能够有效降低类似问题的发生。
各位读者，请问您是否遭遇过由AI制造的虚假信息？若曾遇到，您当时采取了何种应对措施？欢迎点赞并转发本文，共同对抗AI散布的谣言。
