聊天机器人故障：当免责声明无法在法庭上保护你

关于人工智能 (AI) 责任的讨论已从理论辩论转向现实世界的商业风险。聊天机器人虚构退款政策等小故障引发的案件，已升级为更贴近我们生活的产品责任和专业疏忽危机。

2025年5月，美国一家联邦法院批准了一起针对人工智能企业的非正常死亡诉讼案，这标志着一个重大转变。该案涉及一起悲剧，一个聊天机器人据称导致一名青少年自杀。其法律论点给技术部署者敲响了警钟：原告方认为，该人工智能不仅是一项服务，更是一款存在设计缺陷的商业产品。

将视线转回国内，新加坡高等法院在2025年9月发出了严厉警告。一名律师因提交由人工智能工具生成的虚假案例引文而受到个人制裁。法院不仅称其为失误，更将未核实人工智能成果的行为标记为“不当、不合理且疏忽”。