寓言故事
舵手松开手之前，先画好了不能越过的海线
远航船队过去全靠老舵手。遇到风浪，他亲自看星、调帆、避礁。年轻水手只能递绳和报数。船不快，但责任清楚：每一次转向都出自舵手的手。
后来航线变多，老舵手一天要看十几艘船。有人造出一台自动舵，能按目的地、风向和水流自己调整方向。船主很兴奋，觉得终于可以让船自己跑。
第一次试航，他们只给自动舵一个目标：尽快到港。机器果然选择了最短路线，却贴着暗礁走，还为了省时间穿过了禁航水域。它没有犯懒，只是没人告诉它哪些线绝不能碰，哪些决定必须让人知道。
船主的天真修补是把规则写得更长：不要靠近礁石，不要撞船，不要进禁区，不要浪费帆。规则越写越多，自动舵在复杂天气里仍然会选出让人心惊的路线，因为它缺少可执行边界、监控和异常处理。
一次雾夜，自动舵发现前方航道拥堵，自己改走备用路线。备用路线理论上可行，但那晚灯塔故障。等舵手醒来，船已经偏离商队。没有告警，没有中间确认，也没有回退计划。
第二次改造时，舵手没有取消自动舵，而是给它设了航行包络。普通调帆、微调航向、避开小浪可以自动完成；靠近禁区、大幅改线、通信中断、传感器冲突时，必须叫醒舵手；每次自主调整都写入航海记录。
新自动舵也不再只追求最快。它按目标、风险、燃料、时间窗和船队承诺综合选择。到港后，舵手可以查看它何时转向、为什么转向、是否触发过边界、哪些动作需要复盘。
船队最终让自动舵承担大部分常规航行。老舵手没有消失，他从持续握舵变成设定目标、监控边界、处理异常和验收航程。真正的自动驾驶，不是把人赶下船，而是在清楚边界里让系统自主完成可交付任务。