SUBSCRIBERS

人工智能的下一步妙棋,或许是放弃聊天机器人

对话式人工智能带来的风险和不可预测性太高

    • Character.ai是继ChatGPT之后最受欢迎的消费者人工智能应用之一,月活跃用户约2000万。
    • Character.ai是继ChatGPT之后最受欢迎的消费者人工智能应用之一,月活跃用户约2000万。 图片来源:BT档案照片
    Published Tue, Nov 11, 2025 · 05:35 PM

    本文由AI辅助翻译

    查看原文

    战略转型

    类似的做法

    不同的做法

    三年来,聊天机器人一直是生成式人工智能(AI)的代表。在其中输入任何内容,都能获得个性化的回应,仿佛与机器展开了一场神奇的对话。

    虽然这种对话式界面似乎是利用大型语言模型的最佳方式,但一些公司已开始放弃聊天机器人,因为它们担心相关的责任和失控风险。

    他们发现,即使用户设置了安全护栏,用户仍然可以“越狱”该技术,让聊天机器人偏离主题,有时甚至走向有害或不当的方向。这些公司或许放弃了技术的“魔力”,但同时也可能在构建更安全、更专注的产品,并引发了人们的思考:聊天机器人究竟是AI未来的交互界面,还是一时的风尚?

    Decoding Asia newsletter: your guide to navigating Asia in a new global order. Sign up here to get Decoding Asia newsletter. Delivered to your inbox. Free.

    此翻译对您是否有帮助?

    Share with us your feedback on BT's products and services