当系统记录的状态和人的真实意图不一样

今天处理保险续保的时候遇到了一件很小的事情。我本来就是准备正常续保和付款，过程中填错了一项信息，所以返回去准备修改。对我来说，这件事很简单：填错了，改过来，再继续付款。我的想法从头到尾都没有变过，我没有取消保险，也没有决定停止续保。

但当我重新进入页面以后，事情已经不是原来的状态了。系统不再允许我继续完成续保，而是提示当前保单不符合续保或延期条件，需要联系人工处理。明天又接近最后处理时间，所以一个原本只是输入错误的小问题，开始有可能影响保险是否能够连续有效。

看到这个页面的时候，我第一反应并不是保险公司做错了什么，而是突然发现，人和系统看到的其实是两件完全不同的事情。我知道自己刚才只是填错了，我也知道自己仍然准备付款，所以在我的判断里，这件事情从来没有发生方向上的变化。但系统并不知道这些，它只能看到操作留下来的状态。对系统来说，也许某一个步骤失败以后，后面的流程就已经进入另外一个分支。

这让我想到现实里越来越多类似的情况。支付失败、身份验证失败、点错按钮、返回页面、资料填写错误，这些在人类生活里都是非常普通的事情。人可以马上理解“我刚才弄错了”，然后重新来一次。但系统如果把这些操作状态继续往后传递，它们就可能慢慢获得完全不同的意义。一次输入错误可以变成流程失败，流程失败可以变成资格状态变化，最后甚至可能变成真正影响一个人的现实结果。

问题也就出现在这里。系统记录了什么，和一个人真正决定了什么，并不总是同一件事。

这些年我一直在观察 Human Judgment，很多时候讨论的其实就是这种很普通的瞬间。并不是所有事情都需要人来处理，也不是自动化越多越危险。真正需要判断的是：一个系统可以自己走到哪里，到了哪一步以后，它不应该再根据前面的状态自动推断人的最终意图。

如果只是一个页面显示错误，重新刷新就可以解决，没有必要把问题放大。但如果下一步开始涉及保险中断、合同终止、付款结果、账户权限、医疗权益或者身份状态，那么前面的一个操作错误是否有资格直接跨过这条边界，就变成了完全不同的问题。

我越来越觉得，真正重要的并不是要求系统永远不出错，而是系统出错以后，人还有没有回来修正的空间。一个人是否仍然能够说：这不是我的决定，我的真实意图没有改变，请不要继续执行。

这也是责任边界真正容易变得模糊的地方。如果最后保险真的因为这个状态中断，那么结果已经发生了，但这个结果到底应该被理解为“用户没有续保”，还是“系统没有给用户完成原有意图的机会”，两者并不是同一回事。责任不能只从最后一个状态往回看，还需要看这个状态究竟是怎样形成的。

现在事情还没有结束。我还要联系人工处理，也不知道最后系统会不会恢复续保入口。所以今天能够记录的不是结论，而只是这个正在发生的过程：我的真实意图没有改变，一次操作错误改变了系统状态，而这个系统状态目前已经开始接近一个可能产生现实后果的位置。

结果出来以后再记录结果。今天这一刻先留在这里，不用后来的结果重新解释今天发生过的事情。

⸻

当下观察

系统可以记录人的操作，但操作不一定等于人的决定。

当系统状态开始接近真实后果时，人应该仍然拥有理解、确认、停止和修正的空间。

这可能正是 Human Judgment 在自动化系统里不能被完全拿掉的位置。

Status: Observation in progress. Outcome not yet known.

#HumanJudgment #ComplexSystems