曾经，企业竞相部署用于起草邮件或分析数据的人工智能工具。如今，许多组织已将这些系统视为正式 " 数字员工 "：赋予其姓名、职位及组织架构位置，授权其在无需人类持续批准的情况下行动，并期待其交付成果。

然而，当问题出现时，责任归属成为难题。媒体报道指出，管理者正监督由人类和软件代理组成的混合团队。有高管描绘了未来场景：一名领导者管理三名人类下属和 19 个 AI 系统。尽管工具与同事的界限迅速模糊，但问责结构并未同步跟进。

问责滞后带来的风险

这一转变标志着工作方式的深刻变革。AI 代理现已处理客户退款、安排生产、筛选候选人，甚至推荐解雇决定。它们在各部门间运作，监管极少，却带来真实的财务、法律和声誉后果。

近期报道显示，AI 代理进入职场的速度已超过企业的管理能力。初创公司推出带有头像和即时通讯权限的 " 数字同事 "，微软也发布了可重新安排会议和起草消息的 Scout 代理。一项调查中，近四分之一经理表示公司已将代理纳入组织架构图。

这种定位隐含风险。研究发现，当工作被标记为 "AI 员工 " 而非聊天机器人时，管理者发现的错误减少 18%。人们对机器的信任增加导致审查减少，进而引发问责滑坡。

构建数字劳工问责机制

英特尔高管开始规划责任扩展路径。英特尔卓越人工智能中心全球销售及市场负责人 Lynn Comp 论证，问责必须与决策的 " 风险范围 " 相匹配：市场分析代理风险较低，而金融服务中的贷款审批代理则面临巨大监管暴露，人类所有者的资历应相应提升。她建议：" 为法庭质询做准备 "，从第一天起记录所有权、范围和决策逻辑。

" 零信任 " 原则提供了解决思路。每个代理需拥有独特且稳定的标识符，并与负责任的人类或团队挂钩，明确其目的、操作范围、批准系统及预期生命周期。缺乏这些基础，组织将无法回答谁拥有代理、允许其改变什么以及决策原因等基本问题。

不可变日志变得至关重要。每次 API 调用、数据访问和最终行动都必须记录上下文，包括代理被指示的内容及指导政策。监管机构和审计员现在要求对自动化决策做出解释，模糊提及 " 模型 " 已不足够。

世界经济论坛此前发布了治理蓝图，并在 2025 年 10 月关于数字劳动伦理的文章中呼吁首席执行官培养 " 看见、塑造和测试 " 三项核心能力。每个代理行为必须保持可审计性，对数据来源、推理步骤、指导政策和结果的可见性是不可协商的。

像管理员工一样管理 AI

适用于人类的安全规则应扩展至数字劳动力：基于角色的访问、默认最小权限及强大的身份控制。任何工作队成员都不应拥有不受限制的访问权。若 AI 系统影响客户、员工或公民决策，组织必须解释其方式和原因。没有边界的自主权只是伪装成进步的风险。

绩效跟踪同样关键。准确性、偏见、速度和业务影响需持续测试。主管应调整约束以进行绩效评估。当数字角色结束时，需撤销访问、保留记录并结案，这与人类离职纪律相同。

人力资源部门已感受到压力。媒体报道指出，AI 目前处理 IBM 90% 到 95% 的常规员工查询，涵盖回答问题、处理交易甚至建议薪资调整，但最终决定仍由人类管理者做出。IBM 印度和南亚地区副总裁兼人力资源负责人 Nisha Gopinath 直言：" 你可以外包技术，但永远不能外包问责。" 该公司维持 AI 伦理委员会审查部署，强调判断力、文化和信任仍是人类领域。

其他专家也发出警告。CSG 高级副总裁兼首席信息官 Joe Wilson 指出，共享问责不等于问责。文章概述了使责任落地的六种方法：直接所有权、可观察性、升级路径，并将 AI 系统更多视为工人而非传统软件。AI 代理需要持续监督、反馈和干预，绝非一次部署后即可遗忘。

PwC 顾问在分析中敦促组织将代理视为数字劳动力，明确所有权、定义权限并建立反映员工使用的监督机制。每个代理都应携带经过验证的身份、角色描述、访问权限、活动日志和决策边界。随着自主性增长，涉及客户、敏感数据或财务结果的高风险行动必须加强人类监督。

合规压力与管理滞后

法律和监管压力正在加剧。《欧盟人工智能法案》为提供商、部署者等分配了具体职责，要求人类监督包括干预的实际权力。ISO 标准和 NIST 指南也指向同一方向。

然而，许多公司仍落后。今年早些时候 Okta 的研究发现，仅约 45% 到 47% 的高级管理人员能够识别环境中所有代理、控制其访问或授权单独行动。多代理系统进一步复杂化了局势，任务委托给子代理或第三方工具导致责任链模糊、授权稀释和意图漂移。

一些组织正在试验双重架构：概率模型生成选项，确定性业务逻辑和工作流强制执行策略。每个重大行动通过可检查的规则路由，审计轨迹捕获完整序列。Salesforce 推广了这种 " 人类掌舵 " 方法。

各行业正重复这一模式：严格定义范围、明确分配人类所有者、记录带上下文的每一件事、持续测试，并以对待员工的正式程度退役代理。做不到这一点将招致监管罚款、诉讼和声誉损害。将代理视为魔法黑箱的公司终将发现，责任最终仍落在人身上。做得好的领导者将建立赢得信心、安全扩展且不失人类问责制的系统。技术已经到来，管理纪律必须迅速紧随其后。

【星途科讯 图文丨欧阳布布 首发于 ZAKER 科技，转载请注明出处】