张磊说:“这叫别让人类当盲盒责任人。”
苏晓把“盲盒责任人”划掉,但意思保留了。
公开征求意见时,网上吵得很热闹。有人说这原则终于让机器下神坛,有人说人类也不可靠,凭什么最终负责。林桂兰在社区课上解释得很简单:“不是说人不会错,是说人错了能找人,能问,能改。你让机器最终负责,它连门牌号都没有。”
老王问:“机器没有门牌号,那公司有啊。”
林桂兰说:“所以公司也得负责。”
这句话刚好点中原则另一层意思:最终责任不是把锅扣给窗口某个人,而是组织责任。系统由谁设计、部署、维护、监督,谁就不能在出事后躲到算法后面。苏晓尤其坚持这一点。她说:“如果只追究最后点确认的人,企业会把所有风险推到基层。原则必须向上追。”
这句话让不少管理层坐不住。也正因为他们坐不住,林凡觉得这原则扎到了地方。
定稿那天,苏晓在办公室熬到很晚。林凡给她送来热粥。她一边看最后一版,一边说:“这个名字还是有点硬。”
林凡说:“硬一点好。太软会被解释没。”
苏晓抬头看他:“你现在很会安慰文件。”
林凡笑:“我也会安慰人。”
苏晓说:“那你先把粥放下。”
文件最终通过内部审议,进入全球论坛前的推荐议题。苏晓没有表现得多激动,只把打印稿收进文件夹,封面上写着:人类最终责任原则。
张磊看见后,忍不住在旁边贴了一张便利贴:民间版,别让机器背锅,也别让机器当皇上。
苏晓看了一眼,把便利贴撕下来。
张磊刚要抗议,她把便利贴夹进文件夹内页。
“公众沟通材料备用。”她说。
张磊感动得差点鼓掌:“苏主任,你越来越懂传播了。”
苏晓说:“我只是承认你偶尔有用。”
原则发布后的第一周,最忙的不是媒体,而是各单位的责任表。每个高影响系统都要重新标注责任链:谁部署,谁审核,谁复核,谁处理申诉,谁定期检查。一个部门填表填到崩溃,在备注里写“本系统历史悠久,责任主体复杂”。苏晓退回去,只批了四个字:复杂不等于无主。张磊听说后说:“这批注适合贴在很多人的人生账本上。”林凡说:“先贴系统上。”
后来那张退回表被新人们悄悄传阅,成了合规圈的新梗:无主系统禁止上路。