第四部:责任、权限和治理
AI 最容易制造一种责任幻觉。
系统生成了答案,人点了确认,流程继续往下走。看起来人在回路中。
但真出事以后,公司才发现:谁让 AI 做的,AI 依据什么做的,谁复核过,谁验收过,谁有权改规则,谁负责修知识库,没有一条线是清楚的。断掉的不是技术,是责任链。
AI 可以参与工作,但不能承担组织责任。客户被误导,公司买单;候选人被误筛,组织解释;AI 自动生成了对外承诺,最终兜底的仍然是企业。
所以治理不是刹车,治理是让 AI 能继续被使用。授权边界、运行检查和后果承接没有经过验证,AI 项目越靠近核心业务,越容易把错误放大。人工接管只是其中一种安排;有人兜底,还得看他有没有信息、时间和权限真把问题接住。该停时停得下,出了错找得到处理的路,AI 才能放开跑。
于是问题落回一句最朴素的追问:
AI 参与工作以后,谁对结果负责?