来源:互联网 更新时间:2026-07-27 13:41
今天聊一个不少AI团队都遇到的典型场景。
一个客服Agent已经通过测试了。它草拟的回复,在抽样评测里质量稳定,业务部门那边等着上线,因为客服团队的工单积压已经快扛不住了。
结果呢?上线评审会上,安全部门担心用户数据在调用过程中泄露。法务担心Agent在回复里做出没有授权的承诺——比如随口答应一个退款期限。品牌团队担心语气失控,在客诉场景里说错话。IT担心新组件影响主系统稳定性。每个部门派来的人,都带着自己的专业判断和真实的风险认知。
然后呢?每一轮评审会议都会至少新增一项验证要求——毕竟,增加要求不需要担责。
第八场评审会的时候,模型版本更新了。之前跑的那批测试证据,全部失效,需要重做。
客服团队实在等不及了,几个组长开始自己在浏览器里用外部工具处理工单——没有日志,没有审计,没有任何治理。一个原本要被管起来的风险,变成了一个完全看不见的风险。
十场会开完了,仍然没有任何一场会试着回答这三个问题:
面对这种局面,最容易得出的结论是"流程太重、会议太多,应该精简"。
但安全、法务、品牌、IT的担心,都是真实的风险控制。一个Agent直接面对客户说话,它确实可能泄露数据、确实可能做出有法律效力的承诺、确实可能砸掉品牌调性。把这些部门排除在外,换来的不是效率,是一次迟早会发生的事故。
更重要的一点是:
所以把人拉齐,是对的。组织的默认解释——"共识还不充分""风险信息还不完整""再拉一轮相关方""再测一轮大家就放心了"——在这个前提下,听起来非常合理。
但是,
这两件事叠在一起,就构成了隐形的一票否决。它不需要任何人真的投反对票,甚至不需要任何人明确反对——只要每个人都保留一点顾虑,决定就永远不会发生。
这个结构之所以稳定,是因为它对每个参与者都是理性的。提出一项新要求,成本为零,收益是"我尽到了专业责任";宣布"可以了",成本是万一出事你要负责,收益是别人的项目上线了。在一个没有明确定义决定权的组织里,
有些决策慢是真的因为数据不足、法定程序未走完、技术验证还没做完——那种慢是必要的,不该被优化掉。本篇要处理的,是另一种慢:信息其实已经够了,但没有人有义务做出决定。
到这里会有一个自然的反应:那把条件提前写清楚不就行了?把红线、阈值、触发条件都预设好,到时候按表执行,不就快了吗?
Anthropic有一份公开的"负责任扩展策略"(Responsible Scaling Policy,简称RSP),目前更新到v3.4(2026年7月生效),核心思路正是"如果-那么"的预设条件:如果模型能力越过某个阈值,那么就必须启用对应的更严格保障措施。
经过两年多的实践,它也同时承认:
"所以组织必须明确谁在模糊中做出决定、并把依据留下来",这是FDE从这个事实里做出的工程推论。
既然指标本身不能自动给出答案,那么"按表执行"就不可能覆盖所有情形。总会有一刻,数据摆在桌上,但数据不说话。那一刻组织要么有一个明确的人做出决定,要么就一直开会。
上线评审,传统IT项目里也有,但AI在四个地方不太一样。
这四条合起来,指向一个结论:AI项目不可能等到不确定性消失再做决定。所以组织真正需要的,不是一个更长的验证流程,而是
之前的文章「裁定接口设计:不是审批流程,是风险边界」处理的是
FDE对决策权的理解是:
同一个人,在低风险可逆的决定上可以直接拍板,在高风险不可逆的决定上只有建议权,这不矛盾。权限跟着决策的性质走,不跟着职级走。
具体要拆成五种,混在一起就会长出前面那个隐形否决:
五种权限分开之后,还有一条边界必须守住,否则整套东西会滑向"指定一个大领导拍板":
注意,这不等于"所有责任都集中在同一个人身上"。在真实的组织里,最终决定人、风险所有者、业务结果负责人、法律责任主体,很可能本来就不是同一个人,硬要拧成一个,反而制造新的权责错误。要保证的是这条链
FDE的工作不是替组织拍板——那既不合适,也不可持续。FDE要做的,是把拍板的接口设计出来。这张表就是交付物。
它包含:决策对象;必须提供输入的角色;每个角色可否决的
让它区别于一张审批流程图的,是背后这几条规则。
一个AI功能开十场会还上不了线,通常不是因为参与的人太多,也不是因为大家不够专业。恰恰相反,每个人都很专业,每个人的顾虑都成立。问题在于,组织从来没有区分过:谁在提供意见,谁能在什么条件下否决,谁有权接受剩余风险,以及最后,谁必须做出决定。
于是每个人都拿到了一点模糊的阻拦权力,没有人承担明确的决断义务。
不过,就算权限已经分清楚了,还有一种更难的僵局在等着:安全说必须加密,那会让响应慢一倍;业务说响应必须快,否则客户会走;法务说数据不能出境,那意味着换掉整个方案。这一次没有人越权,也没有人拖延,每个部门的要求单独看都完全正确,而且都有依据。当正确和正确直接撞在一起,组织要靠什么决定,这次到底牺牲哪一边?
为何比特币BTC价格跌破7.3万美元?一文拆解影响近期比特币行情的五大原因
摩托车活塞环性能如何
ThinkBook系列最新价格全解析:2026年选购避坑与实时询价指南
文雅简易网名男生可爱(精选100个)
GPT5.6惨遭切脑,Fable 5回归要变弱鸡版?
Ondo将于今日上线股票永续合约
区块链存储板块是什么?有哪些?一文详解
暗黑4S14野蛮人终局BD攻略
免费网络收音机软件有哪些?高评分收音机APP推荐
《三角洲行动》S10赛季卡邮件技巧详解-三种方法及风险提示
电视剧《罗曼诺夫后裔》剧情介绍
如何在火狐浏览器中彻底禁用自动更新功能?
区块链OTC交易所有哪几家比较正规?
夸克浏览器AI画质增强功能在旧款手机上无法开启怎么办?
手机qq浏览器误删文件如何找回-手机qq浏览器误删除文件怎样恢复
360浏览器如何设置网页缩放比例
《三角洲行动》GTI超人成就解锁攻略-满辐射状态击杀技巧详解
全链网:戴蒙或继续担任摩根大通首席执行官三年
什么是山寨币?山寨币指数如何查看?全球前10大山寨币盘点
Binance新增15种bStocks代币化证券为杠杆抵押资产
手机号码测吉凶
本站所有软件,都由网友上传,如有侵犯你的版权,请发邮件haolingcc@hotmail.com 联系删除。 版权所有 Copyright@2012-2013 haoling.cc