编者按：以下是谷歌工程总监、Singularity Hub 母公司 Singularity Group 的联合创始人兼董事会成员 Ray Kurzweil 对未来生命研究所最近的一封信“暂停巨人 AI实验：一封公开信。”
FLI 信件解决了人工智能加速进步的风险以及随之而来的技术商业化竞赛，并呼吁暂停开发比 OpenAI 的 GPT-4 更强大的算法，这是该公司的 ChatGPT Plus 和微软的 Bing 聊天机器人背后的大型语言模型. FLI 信件有数以千计的签名者——包括深度学习先驱、加州大学伯克利分校计算机科学教授 Yoshua Bengio、Stability AI 首席执行官 Stuart Russell、Emad Mostaque、Elon Musk 等——并在 AI 领域引发了激烈辩论社区。
……
关于“暂停”AI“比GPT-4更强大”研究的公开信，这个标准过于模糊，不切实际。该提案面临严重的协调问题：同意暂停的那些人可能会远远落后于不同意的公司或国家。在医学和健康、教育、寻求可再生能源替代化石燃料以及许多其他领域等关键领域推进人工智能具有巨大的好处。我没有签名，因为我相信我们可以在不损害这些重要研究方向的情况下，以更有针对性的方式解决签名者的安全问题。
我参加了 2017 年的Asilomar AI 原则会议，并积极参与制定以合乎道德的方式创造人工智能的指南。所以我知道安全是一个关键问题。但是，如果我们希望释放人工智能对健康和生产力的深远优势，同时避免真正的危险，则需要更多的细微差别。
—雷·库兹韦尔
发明家、畅销书作家和未来学家
