两名律师因向法庭提交由AI生成的“完全虚构”引文而受批评

[新加坡] 两家本地律师事务所的律师因引用由人工智能（AI）工具“幻觉”产生的“完全虚构”的案件，而受到高等法院的批评。这是新加坡曝出的第二起此类案件。

法官S Mohan在周一（11月3日）宣读的判决书中，指出了在一起贷款追偿纠纷的结案陈词中出现的两个不存在的法律案件。

该法官表示：“最令人不安的是，被告在其结案陈词中引用的两项法律依据……是完全虚构的。”

法官Mohan表示，有“合理理由怀疑，这些虚构的法律依据很可能是由准备被告结案陈词时使用的AI工具生成的”。

他补充说：“众所周知，在起草法律文书时使用AI工具，存在‘幻觉’出听起来合理但完全是捏造的法律‘依据’的风险。”

当对方律师事务所 David Lim & Partners 的律师在其答复陈词中指出，所引用的案件在任何法律数据库中都找不到时，这些虚构案件才浮出水面。

随后，法庭询问被告方律师、来自 P S Goh & Co 的 Goh Peck San，引用这两个案件的段落是否由AI工具生成。

Goh 随后承认这些引文是虚构的。但他解释说，他聘请了来自 Amarjit Sidhu Law 的同行律师 Amarjit Singh Sidhu 协助进行研究，并不知道对方使用了AI工具。

Sidhu 随后告诉法庭，在被告的陈词中引用虚构案件是一个“无心之失”。Goh 和 Sidhu 均未确认使用了哪种AI工具生成这些虚构案件。

SEE ALSO

Breaches of AI policy could be a sackable offence at some Singapore law firms

I’ve been deepfaked – and it can happen to you

对于被告方引用虚构案件应面临何种后果，法官 S Mohan 保留了判决，并将在收到 Goh 和 Sidhu 提供的更多细节后，在后续判决中发布进一步指示。

这是新加坡法庭文书中第二起被报道的AI生成虚假引文的案件。在10月份的一起较早案件中，高等法院曾命令一名律师因引用“幻觉”产生的案件而个人支付800新元的诉讼费。

在该案之后，一些本地律师事务所告诉《商业时报》（The Business Times），违反公司AI政策的个人可能会面临纪律处分，包括被解雇。