360乌镇发布《大模型安全白皮书》推动AI应用“安全、纯净、可信、可控” | 2025世界互联网大会
新闻记者 雷强 11月8日报道，在世界互联网大会乌镇峰会上，360数字安全集团正式发布《大模型安全白皮书》（以下简称《白皮书》）。该白皮书首次系统阐述了运行大规模模型时的五个主要风险，被认为传递了“外部构建‘基于模型的屏障，内部构建‘平台原生’的安全基础”的基本理念。立足实战，提供可落地的安全解决方案，构建针对大规模应用模型和漏洞的全线安全防御，推动人工智能产业朝着“安全、善良、可信、可控”方向稳步发展。大安全模型是多维、复杂，挑战呈指数级增长。随着大科技模式加速向政务、金融、能源、医疗等重点行业渗透，一个不容忽视的事实是，人工智能越智能，安全风险就越致命。白皮书以2025年国内外多起典型大型模型安全事件为切入点，系统总结了威胁大型模型安全的五个主要风险：一是基础设施安全风险，包括设备控制、供应链漏洞、服务攻击、计算资源滥用等；二是内容安全风险，包括不遵守核心价值观、虚假或非法内容、大模型错觉、注入攻击等。 ETC。;第三类是数据安全和知识安全风险，数据泄露、越权访问、隐私滥用、知识产权问题更加突出；钍第四类是代理安全风险。随着智能代理自主权的增加，插件调用、算力调度、数据传输等方面的安全边界变得更加模糊；最后还有用户安全风险，包括访问控制、API调用追踪、恶意脚本执行和执行安全等。这些风险相互关联，形成传统安全解决方案难以应对的复杂威胁矩阵，严重威胁个人权利、企业发展乃至国家安全。 “插件安全+平台原生安全”双轨安全体系面临着上述复杂的挑战。基于实践经验，白皮书提出了“插件安全+平台原生安全”的双轨管理方式——前者就像AI的“外在保镖”，实时对风险做出适当应对；后者就像AI的“内置武器”，为我们构建了坚实的四面楚歌。从根源上保障安全。两者共同构成全链路保护网络。插件的安全重点是模型的外部防护，通过“以模型控模型”，实现对计算主机、软件生态、输入输出内容、幻象模型的主动监控和防御。这种方式主要有两个优点：一是灵活性强，部署成本低，可以作为通用组件快速接入不同的业务环境，避免重复开发；其次，响应速度快，拥有独立的监控拦截机制，可以毫秒级实时识别并拦截威胁，例如算力异常消耗或者恶意内容。平台原生安全重点关注大数据模型、知识库、代理和客户端，在核心组件中嵌入安全能力，加强支撑SA组件和组件的安全性。全过程合规管控。 360表示，外挂安全就像是“完工后安装的防盗系统”，平台原生安全就像是“施工时搭建的防火结构”。两者共同作用，为大型模型从外到内形成了一道安全线。通过该系统，360实现了主动检测和动态演进的安全检测能力，有效应对复杂且多变的安全威胁。
特别声明：以上内容（如有则包括照片或视频）由自媒体平台“网易号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片、视频，如有）由网易HAO用户上传发布，网易HAO为社交媒体平台，仅提供信息存储服务。
