红、黄、绿灯：为何更多企业应采用此人工智能框架并公布其准则

新加坡法院在人工智能的使用上有一个简单的框架。大法官 Sundaresh Menon 将其在法庭上的应用划分为绿、黄、红三种类型，每种颜色都为可以交由机器处理的工作设定了不同的限制。

尽管该框架是为法院制定的，但这些区别为企业高管提供了一种决策方式，帮助他们决定如何让 人工智能 协助员工，同时确保人类对工作成果负责。 在一次纪念新加坡法律二百周年的2026年5月访谈中，Menon 警告了“真相衰退”的风险——即事实与观点之间的界限模糊，从而削弱了机构的公信力。法院在审查证据、听取双方陈词和解释判决时，都依赖于这种公信力，因此 人工智能 必须在提升司法服务可及性的同时，不能损害公众对法院判决的信心。 “绿色”范畴涵盖了帮助人们理解和使用法院系统的工具。在小额索偿庭，诉讼各方通常在没有律师的情况下出庭，人工智能 在那里负责翻译文件并总结各方材料，但不会裁定胜负。

“黄色”范畴则需要更加谨慎，因为 人工智能 可能会影响呈现给 法官 的论点。法院正在评估相关工具，以帮助无律师代表的诉讼人整理这些论点。 “红色”范畴则涵盖了由 人工智能 裁决案件或预测司法结果，而这两点法院目前都不会考虑。即使 人工智能 能够准确预测结果，让它来判案也将损害司法公正。

当你设身处地，站在不利判决的一方时，就更容易理解这种担忧。任何在 法官 面前的人都有权相信，有人审议了他们的案情，理解了利害关系，并权衡了证据。得到正确的答案，与为站在法庭上的人伸张正义，并非一回事。 责任原则同样适用于批准的用途。根据司法机构2024年发布的《法院用户使用生成式 人工智能 工具指南》，律师和无律师代表的诉讼人必须独立对照原始资料，核查由 人工智能 辅助提交的文件。仅仅询问另一个 人工智能 是不够的。

在九月的一次演讲中，Menon 解释了为何司法裁决的责任同样必须由人承担。司法权威不仅建立在结果之上，也建立在理由之上，因此诉讼各方必须能够理解判决、质疑错误并寻求复核。一个不透明的系统如果其贡献无法被“揭示、检验和辩护”，就无法履行这一义务。

关键在于任务，而非工具

对于其他行业，应用这种方法意味着要审视人们如何使用 人工智能。同一个摘要工具，在阅读年度报告和在手术前阅读患者病历时，所带来的风险是不同的，因为一次疏忽会造成截然不同的后果。

在医学领域，转录一次问诊记录可能是“绿色”的，草拟一份诊断报告则是“黄色”的，而同意一项高风险手术则是“红色”的。临床医生必须判断诊断是否符合该患者的情况，并与患者讨论治疗方案。 企业应当批准具体的使用场景。一名客服助理可以安全地用它来翻译送货状态更新，但在回应有争议的收费时，则需要人工审核。软件本身没有改变，但行为的后果变了。业务负责人必须决定哪些用途是允许的，并为失误负责。 审计师在使用 人工智能 比较发票时也面临类似的区别，他们仍需对审计意见负责。保护这种判断能力，也意味着要保护人们学习这种能力的方式。

在四月举行的亚太法律大会上，Menon 警告企业法律顾问，人工智能 的发展遵循“锯齿状前沿”，其进步并不均衡。他对于自动化初级工作的谨慎态度也源于此。如果 人工智能 草拟了每一份备忘录，那么当系统出错时，谁来学习发现论点中的薄弱环节呢？

划定自己的界限

企业高管可以从将一项工作分解为多个任务开始。“在客户服务中使用 人工智能”这个指令太过模糊，因为翻译信息、起草回复、批准赔偿和关闭争议账户，这些任务会带来不同的后果。

SEE ALSO

What happens when the digital option is the only one available?

Who is accountable when an AI agent decides?

Buy or build software? Firms need to look at control, reversibility and risk

应考虑每项任务的后果、错误是否显而易见以及结果是否可以逆转。“绿色”工作的后果有限且错误可以纠正。“黄色”工作可能会影响结果，因此需要一个有能力的人，掌握证据、时间和权限来对其提出质疑。“红色”工作则涉及组织应保留的权力——特别是关乎个人权利、生计、健康或自由的权力。 对于“黄色”类型的工作，审核机制必须允许有人介入。一名理赔员如果每天早上收到500条 人工智能 建议，每条只有不到20秒的时间来批准，那么他几乎没有机会进行审查。而一个被禁止反驳模型的初级员工，机会就更少了。

对于每项任务，都要明确由谁审核、他们拥有什么证据和时间，以及当他们不同意时会发生什么。保留解释决策的记录，并演练如何中止系统，这样员工在需要时就能使用“否决权”。 在扩大应用范围之前，测试审核人员是否能发现一个看似合理但错误的建议，并查阅证据予以否决。在增加处理量之前修复所有漏洞。当系统获得新数据、新工具或新权限时，应重新审视任务的分类，因为批准起草回复不应自动变成批准发放退款。

“红色”界限的价值

这些制衡措施有助于维护每个行业的专业承诺。我们相信医生会尽心尽责，相信审计师会提供独立意见，相信董事会运用其判断力。授权在这三个行业中都很常见，但如果没人为结果负责，信任就会受损。

当一名患者被告知“系统”在扫描中未发现任何异常时，他期望的是有一位合格的专业人士为这个保证背书。如果自动化取代了这个人，那么它也可能消除了患者寻求专业帮助的初衷。 更多行业应采用此框架并公开其界限。这样做可能会揭示，某些被选定自动化的任务，恰恰是客户认为他们在付费请专业人士完成的工作。解释这些限制也为客户提供了一个依据，让他们能够质疑某项决定，并知道该由谁来负责。 其好处可能不只是提高服务的可及性。如果专业人士能将从常规工作中节省出来的时间，投入到更棘手的案例上，他们的机构或许能赢得更多信任。这取决于能否审慎地对任务进行分类，并赋予审核人员采取行动的权力。知道红灯在哪里亮起，有助于人们给予相应工作应有的重视。

作者是新加坡政府科技局 (GovTech Singapore) 的首席技术官兼副总裁