今年六月，一则涉及广东省五华县华阳镇老人遭殴打、孙子跳河，并导致施暴者被判刑的短视频在网络上广泛传播，吸引了公众的广泛关注和热议。然而，令人震惊的是，这一事件竟是由AI编造的虚假信息。这一事件将AI制造谣言的问题推至公众关注的焦点，同时也揭示了众多值得深入分析的深层问题。
AI造谣事件真相
网络时代信息传播速度极快，广东五华的消息迅速传遍全网，引起了广泛关注。然而，公安网安部门经过深入调查，确认这是一则谣言。这并非简单的信息拼凑，而是通过AI技术精心编造的，图文并茂，看似真实，实则毫无根据。此次事件中，谣言的广泛传播不仅伤害了公众情感，还浪费了社会资源。此事反映出，看似普通的网络传言背后，可能隐藏着高科技的造假技术。
AI技术作为现代科技的结晶，一旦被用于散布谣言，其性质便发生了扭曲。此事件揭示了谣言制造的低成本和简便性。仅需输入不同指令，即可快速产出虚假信息。此外，这些信息还易于与图片、视频等素材相结合，从而误导公众。
AI造谣的特点
人工智能生成谣言具备多方面显著特征。据专家分析，这类谣言定制化程度较高，能够根据特定意图进行制造。操作门槛相对较低，无需深厚的专业知识即可实施。众多案例表明，识别谣言存在较大难度。以近期广东五华的谣言事件为例，若非警方细致核查，公众难以辨别真伪。此外，谣言的破坏力强，足以干扰社会公共秩序。
以记者所测试的“AI文案速成”小程序为例，该程序在接收到如“火灾”等主题的指令后，能够生成与新闻报道相似的内容，包括救援细节和安全提示，使得普通民众难以辨别真伪。这一现象充分揭示了在信息时代，AI生成谣言如同毒瘤，易于迅速传播。
背后的动机剖析
AI技术被用于制造谣言的现象背后，动机多样且复杂。首先，一些网民出于寻求存在感和刺激感，编造并传播谣言。他们可能认为，通过在网络上散布引人瞩目的虚假信息，可以吸引他人的关注。其次，犯罪分子利用AI技术编造谣言，旨在非法获利，进行诈骗活动。
今年6月中旬，MCN机构实际控制人王某某因行政拘留受到警方处理。王某某管理多家机构，并操控大量账号。自今年1月起，他利用AI技术制造了大量虚假新闻，以博取流量。每日产出数千篇内容，制造不良信息，目的仅为非法获利。这一行为充分暴露了犯罪分子为追求利益而无所不用其极的犯罪动机。
AI造谣的危害
AI网络谣言的负面影响涉及多个层面。赵精武强调，这类谣言可能扰乱社会公共秩序。一条虚假信息可能引发公众的恐慌或困惑。例如，广东五华的谣言就影响了当地居民与外界的关系。同时，谣言还可能损害政府的公信力。当公众被AI制造的谣言所误导，他们可能会对政府处理事务的能力产生怀疑。
此外，此类行为可能引发电信网络诈骗。不法分子可能借助看似合法的虚假新闻进行诈骗。一旦公众轻信这些虚假信息，便可能陷入骗局，遭受经济损失。
治理手段之技术层面
治理领域，有多种技术手段可供选择。例如，可设立AI生成内容标识，使公众明确识别出AI生成内容，从而增强警觉。此外，必须严格执行网络实名制，以便在发现谣言时能迅速追溯至源头。同时，应设定敏感关键词，禁止生成明显违法的信息内容。
若正确配置与暴力、虚假事件相关的敏感词汇，人工智能在内容生成过程中将受到限制。此举可在一定程度上降低虚假信息和谣言的生成，从而提高网络环境的真实性和信任度。
强化人工智能领域的司法管理至关重要。依据安全与发展的双重考量、分级别和类别的监管策略，需对研发者、服务供应方及网络平台确立清晰的职责。对于制作和传播网络谣言等不当行为，必须严格追责。
针对制作与传播虚假新闻以实施诈骗的行为，应依法以涉嫌诈骗罪进行处置。以王某某团队为例，他们为了追求流量而非法获利，若涉及诈骗财产，必须依照法律予以严厉惩处。此举有力地保障了网络环境的净化。
AI生成虚假信息在互联网时代构成严重威胁。对此，我们应如何有效提升公众的辨识力？欢迎大家在评论区发表见解。如认为本文具有参考价值，不妨点赞并转发。
