上海海事大学 吴淞豫
未来航运法如何衔接智能系统运行要求与相关主体安全义务的议题中,人工接管的责任边界是一个值得深入研究的立法课题。“智能系统介入航行决策后必要时由人工接管”是安全的底线要求,但人员在岗是否等同于其始终具备控制风险的现实能力?倘若系统发出警报时碰撞已难以避免,仍以“未及时接管”认定值班人员存在过失,结论是否公平?算法固然不是法律意义上的船员,但当其承担部分观察、判断与操作职能时,船员履行职责的条件已发生实质改变。本文聚焦操作控制权由系统转回人工的过程中,注意义务应当如何确定的问题。
传统人工操船模式下,观察、判断与操作三个环节通常紧密衔接。智能系统介入后,上述环节由不同主体分担:系统持续处理航行信息,人员负责监督运行,并在异常情形下恢复操作。由此产生的变化不仅是操纵界面的更替,更是人员获取信息、理解局势、采取行动的方式发生了结构性改变。法律虽要求船员审慎履职,但审慎与否的判断不能脱离这一变化。举例而言,某避碰系统持续运行,值班人员依规保持监督;系统识别到异常后发出接管提示,但留给人员的时间不足以核对目标船动态、理解此前操纵意图并采取有效措施。此种情形与警报清晰、时间充足而人员擅离岗位,在法律评价上显然不应等同。即便两起事故均表现为“人工接管失败”,亦不能仅因结果相同即作出相同的过失认定。
基于上述分析,本文主张人工接管义务的判断应以“实际可接管性”为基础。所谓实际可接管性,是指人员在具体情境下获得必要信息、具备操作权限,并有合理时间采取应对措施的现实可能性。这一标准并非新设免责事由,而是旨在厘清注意义务成立与违反的判断条件。责任不应因自动化而落空,亦不应仅因系统背后存在一名值班人员,便将全部风险转嫁于其个人。实际可接管性的判断,有赖于以下四项条件。
其一,接管指令的信息是否充分、明确。系统仅显示“请接管”,并不等同于已告知接管的原因与背景。人员至少需要掌握与当下操作相关的异常情形、系统正在执行的动作以及必要的航行信息。要求人员在瞬间理解算法模型的内部机制并不现实,但若连系统当前状态都无法辨认,则接管义务便缺乏履行的基础。界面所提供信息的内容及其对判断的支撑程度,应当成为评价系统设计与使用安排的重要维度。
其二,接管的时间条件是否形成闭环。从系统发现异常到人员能够采取有效措施,其间存在识别、理解与操作所必需的过程。合理时间无法统一规定为固定秒数,而应结合船舶操纵性能、通航密度、气象海况及任务复杂程度进行闭环设计。安全评估不仅应当验证操作模式能否切换,还应检验在拟投入使用的实际场景中,人员能否完成有效接管。能够按下接管按钮,并不意味着危险能够随之解除;无法形成闭环的接管,不构成实质性接管。
其三,人工与算法各自权限的划分是否明确。现场人员能否中止系统指令、人工操作是否会被自动程序覆盖、远程操作与船上操作发生冲突时何者优先,均应事先予以明确。尤其在存在岸基支持的情形下,不能将“有人监控”简单等同于控制关系清晰。事故调查应当查明关键时段内谁能够实际改变系统运行状态,而不能仅依据岗位名称或系统账户归属作出判断。
其四,船员“明知”接管必要的认定。依据现行法律关于船员值班与瞭望职责的规定,船员应当在适用规则与操作规程要求的范围内保持警觉,熟悉系统局限,不得将辅助决策系统误当作无须监督的自主运行系统。若船员明知系统已超出适用条件,仍不采取其能够采取的措施,则应认定为履职缺陷。
那么,接管条件应当由谁予以保障?本文认为,船舶经营人是接管条件的保障责任人,技术提供者则负有全面说明义务。船舶经营人应当根据系统特点合理配置人员、安排培训并制定操作规程,不得擅自扩大自动化的使用范围,亦不应将所有异常处置一概交由缺乏准备的值班人员承担。技术提供者应当就接管机制、系统已知局限及必要信息履行相应的说明与保障义务。哪些缺陷源于系统设计、哪些风险源于使用安排,应当分别查明,不能笼统归结为“人机协同失误”。
一旦发生事故,责任应当如何划分?本文认为,必须区分船员履职评价与事故对外赔偿责任两个层面。值班人员是否违反接管义务,属于对具体行为的评价问题;船舶所有人、经营人或技术提供者是否承担赔偿责任,则仍须依据适用法律、法律关系及致损原因予以认定。不能因值班人员无过失即认定无人负责,也不能因其存在操作过失便停止对系统缺陷与管理疏漏的调查。
而要使上述区分落到实处,证据制度必须同步跟进,记录义务亦应有其边界。无须不加区分地保存全部数据,但影响接管判断的关键记录应当能够相互关联、可供核验,并与现有航行记录相衔接。
从人工接管这一具体问题出发,未来航运法有必要明确接管条件的保障义务,使船舶经营人的运行管理、技术提供者的系统保障与船员的值班职责形成有效衔接。立法应当将必要信息、合理反应时间与有效操作权限作为配置接管义务的重要依据,并为事故后的责任判断保留可核验的记录基础。算法固然可以承担“值班船员”的部分职能,但人的责任应当建立在其能够实际履行的义务之上。这亦是航运立法回应智能化趋势所应把握的基本尺度。