三易生活 03-22
360安全大模型3.0发布,并提出安全能力体系框架
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

日前,360 方面发布安全大模型 3.0 版本。据 360 集团首席科学家兼 360 数字安全集团 CTO 潘剑锋透露,当前安全行业主要存在产品协同困难、安全能力不足、运营效率低下、安全专家缺乏等问题,传统安全和现有安全大模型都存在短板,无法很好地解决这些痛点,因此安全大模型需要走一条新的道路,也就是需要一套全新的作战方法。

为此,360 方面从数据、场景、大模型和智能体四个方面研究方法论,总结了新一代安全大模型的核心战法,包括数据制胜、小切口大纵深、类脑分区协同(CoE)和工具增强(TAG)。

具体而言,数据制胜是指为训练出高水平的安全大模型,需要有高质量的安全专业数据和事件数据作为语料,并配合专业的技术手段进行训练;小切口大纵深,是指将复杂的安全任务拆分成多个场景,瞄准传统方法无法聚焦的小场景做小切口,做深做透。

而类脑协同分区则是在大模型设计上,采用类脑分区协同(CoE)设计,以多个类脑分区协同工作,解决高难度安全问题;工具增强(TAG),是指以安全智能体为基础,通过调度各种安全产品与工具,为大模型提供纠错反馈机制,持续增强大模型安全能力。

此次发布的 360 安全大模型 3.0,就是基于上述方法论而打造。据了解,360 安全大模型 3.0 框架在构建时充分参考人类大脑的运行逻辑,基于数据、专业知识、算力优势等,训练出了语言、规划、判别、道德、记忆五大功能中枢。其中,语言中枢实现语言翻译、文本摘要、意图识别能力;规划中枢实现程序生成、方案规划、目标拆解能力;判别中枢实现信息抽取、逻辑推理、是非判断、研判检测能力;道德中枢实现情感分析、道德法律能力;记忆中枢实现信息记忆能力。

此外,基于类脑分区协同设计的安全大模型框架,不仅可以解决任务冲突问题,达到多任务最优性能,而且实现了能力突破,在多个专业任务效果上超过了 GPT-4。

目前,360 安全大模型已经在很多场景中得到应用。据 360 数字安全集团安全大脑负责人余凯表示,360 信息运营部通过使用大模型赋能本地安全大脑平台和探针的产品体系,使得告警检测、态势监测、分析研判、自动化处置、威胁狩猎、剧本编排、分析报表等日常运营工作都完成了自动化重塑,且获得了相当不错的成果。

除了内部应用, 360 数字安全集团副总裁张锦章还透露,360 安全大模型从去年开始就已经在服务外部客户,目前客户主要聚焦在四个类型,分别是金融行业、政府部门、央企和在华外企。张锦章指出,安全大模型在安全领域最后能够胜出的决定性因素肯定是场景,而不是大模型本身,拥有场景的公司才能在未来大模型产业中占据领先地位。

值得一提的是,基于在大模型领域的实践,日前 360 方面还提出了大模型安全能力体系框架(AISF 框架)。据了解,这个框架将大模型安全能力分为两部分,一是传统网络与数据安全能力,二是需要嵌入到大模型内部,以解决大模型内容可信、合规向善为目标的大模型原生安全能力。

具体而言,为了将 360 大模型安全的核心能力输出给千行百业,360 方面提出了 " 双轮驱动 " 的大模型安全解决方案框架。在该框架中,一方面利用 360 安全云围绕 " 数据、探针、平台、专家、AI" 这五个核心要素,在网络与数据安全层面对打模型进行全面防护;另一方面通过 "360 大模型原生安全能力增强包 " 解决大模型在内容可信、合规向善、模型可控上存在的安全问题,并利用 360 独有的大模型安全评估系统,对大模型的安全能力进行实战评估。

据悉,这套 360 大模型安全解决方案可平移、复制给有需求的行业客户与合作伙伴和,并以标准化的能力产品方式对其他大模型企业进行安全赋能,确保 360 的大模型安全成果与积累发挥最大价值。

【本文图片来自网络】

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

智慧云

智慧云

ZAKER旗下新媒体协同创作平台

相关标签

360 自动化 翻译 效果
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论