聊天机器人故障：当免责声明无法在法庭上保护你

关于人工智能 (AI) 责任的讨论已从理论辩论转向现实世界的商业风险。聊天机器人虚构退款政策等小故障引发的案件，已升级为更贴近我们生活的产品责任和专业疏忽危机。

2025年5月，美国一家联邦法院批准了一起针对人工智能企业的非正常死亡诉讼案，这标志着一个重大转变。该案涉及一起悲剧，一个聊天机器人据称导致一名青少年自杀。其法律论点给技术部署者敲响了警钟：原告方认为，该人工智能不仅是一项服务，更是一款存在设计缺陷的商业产品。

将视线转回国内，新加坡高等法院在2025年9月发出了严厉警告。一名律师因提交由人工智能工具生成的虚假案例引文而受到个人制裁。法院不仅称其为失误，更将未核实人工智能成果的行为标记为“不当、不合理且疏忽”。

对企业领导者而言，信息很明确：人工智能是一个商业代理，它能为你的企业签订合同，也可能让你面临诉讼。随着人工智能在客户服务中扮演核心角色，旧的“买者自负”（caveat emptor）原则正在终结。我们正转向“卖者自负”（caveat venditor）——即企业有责任确保其工具的安全性。

新加坡的现实：没有安全港

由于新加坡特有的法律，这种转变的风险尤其高。与美国不同，科技平台在美国通常可以依靠宽泛的豁免法来免除对第三方内容的责任，但新加坡没有为生成式人工智能 (gen AI) 提供此类全面的豁免。

这对新加坡企业尤为重要，因为生成式人工智能不仅是传递信息，更是在创造信息。如果公司的聊天机器人“产生幻觉”，向消费者提供虚假或误导性信息，甚至诽谤竞争对手，你的企业可能作为该信息的发布者被追究直接责任。你不能简单地声称自己只是一个被动平台。

商业风险：超越“小字”条款

尽管企业可能试图通过免责声明来限制或规避责任，但这些声明仍需根据《不公平合同条款法》进行审视。该法案旨在平衡消费者和企业之间的关系，界定何时可以限制或免除责任。

风险一：重新定义疏忽行为

法律限制企业排除因自身疏忽造成的损害责任，除非合同条款是“合理的”。

关键在于，新加坡法院已明确表示，未经核实就依赖人工智能属于疏忽行为。如果律师未经核实就相信人工智能是疏忽，那么银行或零售商部署一个会发表未经核实言论并误导消费者的聊天机器人，同样可被认为是疏忽。在服务条款中加入“我们对人工智能的错误概不负责”之类的标准免责声明，在法院已明确强调核实义务的情况下，不太可能被认为是“合理的”。

风险二：期望差距

法律还禁止企业利用“小字”条款提供与合理预期大相径庭的服务。

如果你的人工智能聊天机器人作为客服代理承诺退款，客户有理由期望该承诺得到兑现。你不能在条款中声称：“我们的人工智能代表我们发言，但我们不必兑现它所说的话。”这造成了法律不太可能保护的服务差距。

如何管理人工智能风险

在这个新环境下，声称无知并非良策。企业需要一个积极主动的框架来保护自己。

主动进行AI披露

标准的服务条款已不再足够。企业必须制定具体、醒目且清晰的“AI披露声明”。首先，企业需告知客户他们正在与人工智能系统而非真人对话。其次，条款需以简单明了的方式说明该技术的已知局限，例如可能出现幻觉或错误。这为知情同意奠定了基础。届时，法院将需要解决一个问题：客户是否可以信任企业的人工智能机器人，还是仍有义务核实其输出内容？

通过行动证明“合理性”

免责声明的合理性取决于企业的行动，而不仅仅是言辞。

帮助用户核实事实：通过为用户提供核实人工智能说法的工具来展现诚意。例如，为聊天机器人编程，使其能提供指向实际政策或数据源的直接链接。这让用户可以验证信息，从而降低被误导的风险。

保持人工介入：鉴于法院对监督的重视，企业应采用“智能分流”。系统应能检测法律纠纷、欺诈或安全问题等高风险查询，并自动将其转交给人工操作员处理。这既是一种风险控制机制，也证明了你拥有负责任的系统设计。

保障你的供应链安全

大多数企业通常部署第三方人工智能解决方案而非自主开发，这形成了一条关键的责任链。虽然你的企业需要对下游消费者负责，但你也必须保护自己，防范上游的人工智能供应商。

因此，与人工智能提供商签订的采购合同现已成为一道关键防线。这些合同必须更新，超越标准的软件协议，并包含具体的保护措施：

• 保证条款：供应商明确保证人工智能符合特定的准确性和安全标准，并遵守相关法律。
• 赔偿条款：涵盖“产生幻觉”或设计缺陷等人工智能特定风险的财务保护条款。

如果系统出现故障，制造商应承担成本，而不仅仅是使用该系统的企业。

尽管人工智能潜力巨大，但游戏规则已发生重大变化。美国和新加坡的新裁决已将责任明确地交给了企业领导者。良好的治理不仅在于遵守法律，更在于建立一个客户可以信赖的、有韧性的企业。

本文两位作者均来自 BR Law Corporation。P Sivakumar 是董事，Dillion Chua 是副董事。