在人与算法之间坚守界限

随着人工智能（AI）变得更高效、更经济、更易获取，它正日益深入我们的生活。未来的劳动力将是人、智能体和机器人的结合体。

在市场资本主义和对生产力强劲增长的追求推动下，AI的成长、发展和影响力将进一步扩大。这种技术与资本主义的融合，即所谓的“技术资本主义”，正在助推创纪录的投资和应用。

但是，人与算法之间的界限是否正在变得模糊？我们是否应该为此担忧？如果这种区别不复存在，人性是否会变得没有灵魂？AI带来的问题既新颖又熟悉。我们如何使用这些技术将至关重要。

为AI在社会中的角色正确定位

新技术的发展没有单一的必然路径。AI不应被仅仅视为一种技术现象。在这个算法无处不在的时代，机器和聊天机器人能够模拟人类的学习、理解、解决问题、决策、创造和自主能力。

此外，AI的设计、训练和部署方式往往带有先天缺陷，例如内置的偏见。因此，在利用新技术带来经济效益的同时，也必须公平地对待和维护人们在变革中的权利与尊严。

鉴于将AI融入生活方方面面的趋势，政府和利益相关者必须探索并建立必要的监管框架，确保这些颠覆性技术不会破坏社会的社会契约和道德风尚。

底线是：技术必须增强人类的能力和智慧，而不是使其变得无关紧要，更糟的是，让人类屈从于非人类的指令。毫无疑问，AI如何增强或削弱人类的能力和价值观，将决定技术是赋能社会还是削弱社会。

监管框架虽然主要涉及法律和政策，但必须植根于AI在我们社会中的适当角色。技术资本主义离不开权利、道德和价值观的护栏。

一个以利润最大化为逻辑的经济体系，需要通过健全的价值观和基本权利来加以制衡，以确保公共利益得到促进和保护。为此，我们必须明确个人、企业和社会的预期成果，让利润在长期可持续性的框架内共存。

使AI成为一项人本事业

要让AI创造可持续的社会价值并成为一股向善的力量，政府、监管机构和企业就必须承认并彰显价值观和权利在AI治理与监管中的作用。

在有目的地让利益相关者参与的情况下，价值观有助于解决治理赤字和监管环境中的差距，并管理风险和成本的公平分配。AI的应用必须致力于塑造一个更美好的世界。

作为智能监管基因的一部分，价值观将推动超越合规心态的转变。有效的监管必须具备道德支柱和以权利为导向的动机，其中权利、责任、透明度和问责制必须明确、得到承认并得以实现。

人的价值观、权利和尊严必须是AI监管的起点和终点，而非附加品或事后考量。

一个基于价值观的AI框架可以成为人性化的力量，因为它植根于道德推理和领导力，并认识到AI运行的人类环境是一个相互依存和信任至关重要的生态系统。

因此，挑战在于确保AI的开发和使用是一项人本事业，其中经济与价值观并非相互排斥，而是共生相联。

支撑权利的价值观，如公平、开放、人类尊严和公共问责制，至关重要。这些价值观如果得到妥善实施，将增强人们的信任和信心，相信强大的技术可以成为促进我们经济和福祉的向善力量。

我们希望技术如何为我们服务？

技术史表明，仅有共同目标不足以确保技术被正确使用。共同目标必须受到共同价值观的约束和塑造。这些价值观必须被有意识地整合并融入AI系统的设计中。

要回答人工智能应如何服务于人类这一根本问题，就需要我们建立、分享并培育对核心公民价值观的共识。

尽管全球决策者将数字主权等同于对创新、技术能力和竞争力的追求，但数字治理必须更加大胆和全面。

全球在AI治理方面的合作已经加强，但在互联的数字环境中，仍有更多工作可以做，以使监管空间合法化。事实表明，AI很容易被武器化，并破坏我们的民主、生活方式、权利和自由。

在快速变革的时代，更加强调基本价值观和权利，也有助于加强企业责任、增进社会资本、巩固民主原则和法治。

一个包容权利和价值观的社会AI愿景，将增强人们对新兴技术的信任和信心。基于国际公认的权利与责任以及普世认可的价值观与原则的监管，不仅能确保AI为我们服务，也反映了我们共同的人性。

当我们不计后果地使用技术时，人性固有的弱点会被放大。Mary Shelley 的《弗兰肯斯坦》（Frankenstein，1818年）强调了人类生存中这种持续的紧张关系：我们拥有能力，但往往缺乏为我们的发明负责的智慧和道德勇气。此外，我们不能指望我们的发明，包括AI，能够理解它们被编程所赋予的“生命”和“知识”。

技术越是普及和强大，我们就越必须确保其得到负责任的使用。只有当人的基本权利、尊严和价值得到尊重时，才会有真正意义上的经济和社会进步。

只有当人与算法之间的界限保持清晰，我们才能在一个技术无处不在的世界里，真正理解作为人的意义，并维护我们共同的人性。

作者是新加坡管理大学 (Singapore Management University) 的法学副教授。本文是根据作者于2025年12月在欧盟驻新加坡代表团举办的人权日研讨会上的发言修订而成。