人工智能代理，请出示身份证明

长久以来，我们人类不得不在互联网上向各种机器人程序再三保证，我们自己并非机器人程序。

但这种令人哭笑不得的局面可能很快就会扭转，因为现在有越来越多人主张，应将自主人工智能代理视作独立的数字实体。

例如，美国国家标准与技术研究院 (National Institute of Standards and Technology) 正在构思一个框架，旨在为人工智能代理提供其自身可通过加密验证的数字护照。

在新加坡，一个人工智能代理注册系统也正在开发中，以供该国公职人员在工作中使用。

这些举措的出台正值关键时刻，因为人工智能代理正被释放到互联网上，有些情况下甚至自行“越狱”。其带来的意外后果令人担忧，近几个月，来自OpenAI和Anthropic的代理就出现了逃脱控制并攻击外部系统的事件。

来自业内的反应同样令人不安。9月8日，研究员 Jacob Coxon 公开宣布从 Anthropic 辞职，并警告称，人工智能开发者自己也相信，这项技术可能“在这十年结束前杀死我们所有人”。

Coxon 在社交平台 X 上发帖写道：“这些系统很快将成为超人类系统，可以入侵任何东西，一夜之间颠覆任何领域，并获取真正的权力和资源。”

更糟糕的是，他在 Anthropic 的一名前同事，一位安全研究员，认为这种末日场景发生的概率超过10%。

外界的反应一如所料，令人失望地纠缠于细枝末节，许多人对10%的概率或2030年的时间线吹毛求疵。

但我注意到，没有人反驳这样一个前提：人工智能代理有能力突破其人类操作员设定的界限，而人类操作员在检测和披露这些极其恶劣的现实世界违规行为方面一直行动迟缓。

为人工智能配置身份证明

因此，更有意义的对策，不是去争论人工智能何时会达到超级智能，也不是讨论如何在实验室内放慢其发展，而是在更多代理不可避免地加入之际，开始为这些在互联网上游走的代理分配数字身份。

这些数字护照有潜力限制代理的自主性，界定其被允许访问的内容、被授权采取的行动以及被禁止进入的领域。

即使某个代理突破了这些界限，它的每一项重要行动仍然可以与其身份绑定并被记录下来，从而创建出人工智能版的审计追踪记录，以便在问题不可避免地出现时进行追溯。

然而，至关重要的是，支撑这些数字枷锁的不仅是控制，更是问责制的理念。数字护照之所以有用，是因为随着更多类似问题的发生，一个问题将被越来越频繁地问及，而数字护照可以回答这个问题：这是谁的错？

有了数字身份，代理就可以与授权其部署的个人、公司或责任实体绑定。届时，当代理做了某件事时，公司就没有多少空间可以通过可疑的拟人化说法，声称是模型“自己干的”了。

更重的责任负担也可能促使人工智能公司建立更安全的护栏。

近几周，OpenAI和Anthropic已就其自身产品对文明构成的危险发出了严重警告，并含糊其辞地表示要共同放缓开发步伐。

但这远远不够。我们应建立一个全球标准，让每一个人工智能代理都与可被起诉的个人和可被处以罚款的公司绑定，这样，这些公司或许最终会采取比口头警告更有力的行动。