如果原本想让 AI 智能体 " 整理 " 文件，却不小心说成了 " 清理 "，它会不会直接把文件删除？

随着 AI 智能体从回答问题走向实际执行任务，能够自主读取、修改甚至删除文件，如何避免误操作、越权访问和数据泄露，成为用户关心的问题。

11 月 4 日，腾讯云一位高级市场经理在乌镇接受记者采访时表示，智能体安全主要涉及三个方面：谁可以使用智能体、智能体能够执行哪些操作，以及执行结果是否可靠。

" 比如想说‘整理’，不小心说成了‘清理’，智能体就有可能执行删除操作，但用户的本意并非如此。" 该负责人介绍，为防止类似情况发生，腾讯云 WorkBuddy 设置了敏感操作审批机制。当 AI 准备执行需要审批的高风险操作时，会先向用户说明可能产生的后果，并询问是否继续执行。

除了操作前的确认，AI 如果已经改错了文件，还能不能恢复？

该负责人介绍，WorkBuddy 提供了自动备份功能。" 每一轮对话修改都会备份原文件。" 如果对修改结果不满意，用户可以要求 AI 恢复到此前的版本。

同时，腾讯云还为智能体设置了安全沙箱。" 沙箱就是一个可信的办公空间。" 该负责人解释，智能体只能在规定的空间内执行操作，一旦试图越过这一范围，系统就可以进行阻断，避免其直接修改或删除其他数据。

不过，有了这些安全功能，用户是否就可以放心把电脑和企业数据交给 AI？

对此，该负责人建议，无论个人还是企业，刚开始使用智能体时，都不要急着开放太多权限。

" 在不了解智能体执行边界和能力边界的时候，建议把相关的安全功能都开启，并且把安全的阈值降低。" 该负责人举例说，" 只要有删除动作就需要审批，访问敏感系统时，不直接给它打通。"

等到逐渐熟悉 AI 的能力后，再根据实际使用情况调整权限。哪些操作可以让 AI 直接完成，哪些仍然需要人工确认，可以通过黑白名单等方式加以区分，既保证安全，也避免频繁审批影响效率。

对于企业关心的数据泄露问题，该负责人还建议，首先对数据进行分级分类，明确哪些资料可以让 AI 直接读取，哪些需要经过审批才能读取或对外发送，哪些则完全禁止 AI 接触。

" 通过不断调整，提升使用效率。" 该负责人表示，企业可以在使用过程中逐步调整安全策略，在提高工作效率的同时，尽可能保障数据安全。

（大众新闻记者 王嘉一 张焕辰）