以 ChatGPT 为代表的新一代人工智能 ( AI ) 技术的兴起 , 在各行各业掀起了新一轮技术革命。围绕 AI 技术带来的机遇和挑战，" 安全 +AI" 已经成为目前网络安全厂商积极布局的领域。IDC 预测，全球基于 AI 技术的网络安全市场将从 2022 年的 174 亿美元增长到 2023 年的 1027.8 亿美元，年复合增长率为 19.43%。另据 Research and Markets 报告预测，2030 年网络安全中 AI 产值将突破千亿美元，年复合增长率达到 25.7%。安博通，作为网络安全上游的龙头企业，正加速研发和探索步伐，持续为网安行业发展注入新动能。

AI 新型攻击种类与手段迭出 新一轮 " 攻防战 " 已打响

AI 技术的广泛应用加剧了网安风险，黑产大语言模型、恶意 AI 机器人、自动化攻击、深度伪造（Deepfake）等 AI 新型攻击层出不穷，在全球范围内造成严重危害，新一轮 " 攻防战 " 已打响。如何防范 AI 技术带来的新风险，并应用 AI 技术构建更具实战能力的安全体系，已成为行业、企业的刚需和网安厂商研发的重点。

安博通专家指出，大语言模型自身的安全漏洞就是一大严重的安全威胁。据开放式 Web 应用程序安全项目（OWASP）发布的 AI 安全矩阵，常见的 AI 威胁包括多种提示注入、模型投毒、数据投毒、数据泄露等，针对大模型应用的十大安全风险项检查清单包括提示注入、数据泄漏、沙箱不足和未经授权的代码执行等。这些都可能造成信息泄露。更加严峻的形势是，黑产大语言模型应运而生， FraudGPT 和 WormGPT 两款恶意 AI 工具自去年开始就在暗网公开出售，FraudGPT 偏向生成迅速且大量的网络钓鱼攻击，WormGPT 偏向生成更为复杂的恶意软件和勒索软件功能，均成为黑客手中的得力工具。因此，需要对大语言模型进行加密、权限管理、监控等多重安全措施 , 保障其输入、输出和相关数据不受非法攻击或访问。

据悉，安博通早在去年就和百度安全签订战略合作协议，基于文心大模型共同研发面向安全网关的 AI SEC Agent，共建 AI 大模型安全生态。据全球增长咨询公司弗若斯特沙利文发布的《2024 年中国大模型能力评测》，基于用户使用体验和实际使用价值双重衡量标准，综合考量数理科学、语言能力、道德责任、行业能力及综合能力等 5 大核心维度及 21 个细化二级维度，对国内主流的 15 个大模型进行了权威评测，百度文心一言能力最为全面，五项评测维度均为优势能力，并取得四项第一。

巧用 AI 化被动为主动 安全产品变身智能安全顾问

社会工程攻击是利用社会工程学手段实施的网络攻击行为。社会工程学是一种操纵人际关系以获取敏感信息或访问权限的技术。攻击者通常利用人类的心理弱点，如信任、恐惧或贪婪，来诱使受害者泄露信息或执行不安全操作。AI 技术令攻击者可以更加便捷、更加具有针对性地实施海量攻击。去年，在 ChatGPT 发布的短短五个月后，据英国网络安全公司 Darktrace 报告，攻击者使用 ChatGPT 等生成式 AI 通过增加文本描述、标点符号和句子长度，就让社会工程攻击量增加了 135%。

对此，安博通专家表示，作为网安的防守方，应当以 " 安全 +AI" 为利刃，化被动为主动，在这场 " 攻防战 " 中积极抢占制高点，更有效地应对新型威胁，提高威胁检测和判断的效率以及准确率，提升安全处置自动化水平。运用 AI 技术打造的网络安全产品未来应当更具智慧，类似智能安全顾问，能够提供威胁情报与改善建议，在助力企业、行业提升智能化防护水平的同时，进一步改善交互模式和用户体验。

AI 攻击危及国家安全 筑牢网安 " 防火墙 " 势在必行

AI 新型攻击不仅对行业、社会发展带来严重威胁，更危及国家安全层面。例如，基于 AI 技术图像、音频和视频合成方法的深度伪造技术经常被用于制造虚假新闻、操控公众舆论，该技术曾被运用于 2022 年俄乌冲突期间的信息战，并造成了今年 1 月美国新罕布什尔州选举干扰事件。这正是全球各国强化法律约束，持续推动国家信息安全建设的主要原因。据国外调研机构 Markets and Markets 的研究，2023 年全球组织预计将在网络安全 AI 解决方案上花费 224 亿美元。

继去年国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》之后，我国持续强化 AI 安全的管理，进一步健全网安法律和标准体系，维护国家安全和社会公共利益。近期，多项网安规定和相关标准相继发布：3 月 15 日，《数据安全技术 数据分类分级规则》等 5 项网络安全国家标准获批发布；3 月 22 日，国家网信息办公布《促进和规范数据跨境流动规定》，自公布之日起施行，进一步促进数据依法有序自由流动，激发数据要素价值，扩大高水平对外开放。

安博通专家表示，维护网络安全、守护国家信息安全是全社会的共同责任，更是每个安全厂商的首要责任。从深度伪造、大规模高效率攻击到隐私数据泄露等，尽管 AI 造成的安全隐患多种多样，但紧握 " 安全 +AI" 这个核心，做好 AI 攻击监测和防范，做强数据安全防护，则可有效防范 AI 安全风险。而这正是安博通不断努力的方向。作为网安上游企业，我们将在 " 安全 +AI" 领域不断探索，致力于成为网安行业坚实的 " 后盾 "，为保障国家信息安全持续贡献力量。