从辅助分析到自主执行
以异常登录为例,系统可以提取设备信息、历史登录位置和威胁情报,判断是否存在入侵风险,并在授权范围内暂停账户,同时留下供人工复核的记录。这意味着,部分原本由分析人员按既定流程完成的工作,开始由自主或半自主系统承担,AI 正在成为自主执行工作的团队成员。
在传统网络安全领域,大量警报与有限的分析人员之间长期存在处理能力缺口。报告介绍,智能体式 AI 可关联终端、网络和云日志中的信号,完成第一轮警报分级,将真正需要关注的事件交由人工处理。在较成熟的部署中,针对特征明确的事件,系统还可执行隔离终端、撤销会话等响应操作。
在合规管理中,AI 智能体可持续跟踪监管动态,识别规则变化对内部政策和控制措施的影响,并监测实际系统配置是否偏离既定要求。这有助于缩短发现问题的时间,也推动企业从周期性检查转向持续保持审计就绪。
在 Web3 领域,攻击和资金转移往往以极快的速度展开:一笔交易可能完成复杂攻击,被盗资金也可能在短时间内经过多个地址、跨链桥和混币服务。仅靠人工逐条分析,难以跟上这一速度。
在链上监测中,智能体系统可分析待确认和已确认的交易,识别闪电贷攻击、预言机操纵及异常流动性变化等迹象。在具备相应控制机制并获得授权的部署中,检测结果还可触发暂停特定合约功能或启动熔断等响应,争取在损失扩大前采取行动。
AI 智能体自身的行为也需接受审计
报告指出,组织需要保留能够说明智能体决策过程的证据,包括它依据了哪些数据、如何作出判断、采取了什么行动,以备日后审查或取证。审计 AI 智能体自身的行为,正在成为一项独立的工作,仅检查底层系统或审核最终报告,难以覆盖这一新的风险来源。
自动化能力扩大,并不意味着错误会随之减少。模型可能将真实入侵误判为无害事件,在调查报告中引用错误的资金路径,或遗漏智能合约的关键风险。系统在常规任务中表现越稳定,人工审核者也越容易放松核查。
针对这些风险,CertiK 建议企业将治理机制与智能体部署同步落实:
AI 正在扩大安全与合规工作的处理能力,也要求企业重新安排专家的职责。将监督、复核和问责落实到实际流程,才能在提高速度与覆盖范围的同时,控制自动执行可能带来的新风险。<p pingfang="" sc="" new",="" system-ui,="" -apple-system,="" blinkmacsystemfont,="" "helvetica="" neue",="" "hiragino="" sans="" gb",="" "microsoft="" yahei="" ui",="" yahei",="" arial,="" sans-serif;="" font-size:="" 17px;="" letter-spacing:="" 0.544px;="" text-align:="" left;="" text-wrap-mode:="" wrap;="" background-color:="" rgb ( 255,="" 255,="" 255 ) ;="" line-height:="" 2em;="" box-sizing:="" border-box="" !important;="" overflow-wrap:="" break-word="" text-indent:="" 2em;"="" style="margin: 24px 8px; padding: 0px; -webkit-tap-highlight-color: rgba ( 0, 0, 0, 0 ) ; outline: 0px; max-width: 100%; clear: both; min-height: 1em;"> 欢迎大家点击文末的 " 阅读原文 " 来阅读完整的 Intel3D《AI 员工的崛起:智能体式 AI 如何重塑网络安全、反洗钱与合规》报告,获取更全面的分析、洞察和建议。


登录后才可以发布评论哦
打开小程序可以发布评论哦