手机中国 昨天
Anthropic默认开启Claude Code自动模式:AI比人工安全
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

【CNMO 科技消息】8 月 10 日消息,人工智能公司 Anthropic 宣布将从 8 月 14 日起,为其 Claude Code 编程工具的 Pro、Max 和 Team 账户默认启用自动模式。这一调整意味着用户在使用 Claude Code 进行编程时,将大幅减少人工审批环节,由 AI 自主判断哪些操作需要人类介入,哪些可以自动执行。

Claude

自动模式并非全新功能,Anthropic 早在今年 3 月便推出了测试版本,将其定位为平衡效率与控制的解决方案。根据该公司上周五发布的说明,当 Claude Code 处于自动模式时,系统不再在每一步操作前都弹出提示请求人工确认,而是自主判断当前动作是否属于 " 不可逆、具有破坏性或指向外部环境 " 的范畴。只有在触发这些条件时,系统才会暂停并请求用户审批。

Anthropic 公布的一项测试数据引发了业界关注。在一项涉及 1053 名付费用户的对照研究中,自动模式成功拦截了 89% 的有害操作,而人工审核仅拦截了 13.6%。该公司分析认为,这一反差可能源于人工审核的惯性化问题——用户在 Claude Code 中批准权限提示的比例高达 97%,意味着绝大多数情况下人工审核只是形式上的确认,并未真正起到把关作用。

Claude Code 负责人鲍里斯 · 切尔尼在社交平台 X 上表示,他和团队已经 exclusively 使用自动模式数月之久,无法想象回到需要逐条确认提示的状态。这一表态显示出 Anthropic 内部对自动模式的高度认可,也暗示了该公司在产品开发过程中已经深度依赖这一工作方式。

在推出默认自动模式的同时,Anthropic 也在强化配套的安全机制。公司表示已新增提示词注入筛查功能,并引入了可自定义的硬拒绝规则,以防止数据外泄等安全风险。这些措施旨在弥补自动模式下人工监督减少可能带来的安全隐患,确保 AI 在获得更多自主权的同时不会突破安全边界。

版权所有,未经许可不得转载

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 编程 切尔尼 安全隐患 社交平台
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论