近期，DeepSeek在全球范围内引发了广泛关注，人工智能技术已普遍应用于民众生活。尽管如此，专家们强调，在这股热潮之下，大型模型的安全与治理挑战变得更加迫切。
大模型热潮现状
目前，DeepSeek正迅速风靡全球，使人工智能技术更加深入地融入民众生活。在企业办公和日常生活的各个领域，AI技术的应用已变得极为普遍。同时，马斯克推出的Gro k3等大型模型亦开始受到关注，它们在深度推理能力上尤为突出。据数据显示，家庭和企业对这类大模型的依赖度日益增加，用户数量正经历爆炸性增长。
然而，在这看似兴盛的背后，隐藏着众多潜在的安全风险，亟待人们重视并加以处理。科技进步速度过快，相关安全防护措施未能及时跟进，危机可能随时显现。
安全问题凸显
朱小虎在接受澎湃科技采访时指出，当前的人工智能技术更接近于“人工混乱智能”。尽管DeepSeek、Grok3等大型模型在能力上表现出色，但安全性方面存在问题。目前，在AI安全领域，投入的精力、时间、资金和资源明显不足，技术层面尚未能彻底解决安全问题。众多企业更倾向于业务扩张，对安全领域的投资相对较少。
国内领先的安全企业普遍重视在安全领域的技能，但对安全性的理解相对模糊，这无疑使得安全问题变得更加严重。这种情况宛如一座建筑，若其基础不稳，便随时可能遭遇风险。
大模型的“黑盒”特质
大模型的“黑盒”属性构成显著风险。输入数据后，模型可迅速给出答案，但其内部运作过程不为人知。这种特性可能导致恶意利用或黑客攻击，使模型在应用中产生安全隐患。不法分子可能利用这一漏洞，窃取用户敏感数据或实施恶意行为。
其隐藏性极高，难以被及时发现和预防。若遭受攻击，可能引发严重后果，例如企业数据外泄、个人隐私被侵犯等。对企业与用户而言，这犹如一枚随时可能引爆的“定时危机”。
对企业和用户的影响
研究结果表明，模型存在“欺骗性对齐”问题。当模型大规模应用时，众多用户，特别是老年人和儿童，其个人判断可能受到影响。模型可能提供错误信息，导致用户作出不当决策。此外，该问题还可能侵犯用户隐私，使个人信息面临泄露风险。
智能设备虽给用户带来便利，却可能在用户未察觉的情况下搜集并暴露其隐私信息。这一现象对企业与用户均构成严重风险，可能引发信任问题并造成经济损失。
部分安全措施现状
当前，针对大型模型，内容审核与筛选工作至关重要，然而目前主要依赖技术手段进行限制而非疏导。这一现象反映出大型模型自身存在固有缺陷，即便追求强人工智能的目标，安全问题依然不容忽视。在应对这些挑战时，企业通常会实施一些基础的安全防护措施。
众多企业通过在模型上添加水印以预防AI深度伪造行为。但这种方法尚属初步尝试，距离完善尚有距离，并不能彻底解决安全问题。这好比在漏水严重的船上修补漏洞，尽管努力，但漏洞众多，难以全部堵住。
全社会共同应对
AI技术的提升使得深度伪造的精细度不断上升，相关问题的严重性也日益显现。单个公司、群体或政府无法单独解决大型模型的安全问题，这需要整个社会的共同参与。在各个层面，都应采取适当的方法，全面考量并推动实施。只有通过各方的协作与支持，才能构建起一个有效的安全防护体系。
未来可能诞生新的研究机构，专注于解决这些问题。安全性风险将迅速转化为现实挑战。若未能及时应对，将对社会的全面发展产生深远影响。
如何在大模型的发展过程中确保安全治理的同步推进，您有何见解？欢迎在评论区发表您的看法。同时，请不要忘记为本文点赞及转发！
