超级人工智能与通往彻底毁灭之路

【新加坡】对于那些已从大语言模型（LLMs）中获得生产力提升的人来说，人工智能（AI）似乎是技术进步的必然趋势——是让人类工作更高效的下一代软件。

然而，这种看法只对了一半。

作为一个外行，我在埃利泽·尤德科夫斯基（Eliezer Yudkowsky）和内特·苏亚雷斯（Nate Soares）合著的新书《如果有人建造它，所有人都会死》（If Anyone Builds It, Everyone Dies）中读到，人工智能并非传统意义上一行行手写代码的软件，而是被“培育”出来的，这一点让我觉得很有意思。