科技狂人马斯克和其他数十位技术领袖呼吁人工智能实验室暂停开发能够与人类智能竞争的系统。

在由马斯克、苹果联合创始人史蒂夫·沃兹尼亚克和2020年总统候选人安德鲁·杨签署的未来生命研究所的一封公开信中，人工智能实验室应停止训练比GPT-4更强大的模型，GPT-4是美国初创公司OpenAI开发的最新版本的大型语言模型软件。

信中写道：“当代人工智能系统在一般任务上正变得具有人类竞争力，我们必须问问自己：我们是否应该让机器在我们的信息渠道中充斥着宣传和谎言？”

“我们是否应该自动化所有的工作，包括那些有成就感的工作？我们是否应该培养出最终可能超过我们、智胜我们、过时并取代我们的非人类思维？我们是否应冒着失去对文明控制的风险？”

信中补充道，“这样的决定决不能委托给未经选举产生的技术领导人。”

未来生命研究所是一个什么组织？

未来生命研究所Future of Life Institute是一家总部位于马萨诸塞州剑桥市的非营利组织，致力于人工智能的负责任和道德发展。其创始人包括麻省理工学院宇宙学家Max Tegmark和Skype联合创始人Jaan Tallinn。

该组织此前曾让马斯克和谷歌旗下的人工智能实验室DeepMind等承诺永远不会开发致命的自主武器系统。

该研究所表示，它呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。如果这种暂停不能迅速实施，政府应该介入并实施暂停。

本月早些时候发布的GPT-4被认为比其前身GPT-3先进得多。

人工智能聊天机器人ChatGPT能够对用户提示做出类似人类的反应，这让研究人员感到震惊。截至1月，ChatGPT推出仅两个月就积累了1亿月活跃用户，成为历史上增长最快的消费者应用程序。

这项技术是根据互联网上的大量数据进行训练的，并被用于创作从威廉·莎士比亚风格的诗歌到起草法庭案件的法律意见等各种内容。

但人工智能伦理学家也对这项技术的滥用表示担忧，如抄袭和错误信息。

在未来生命研究所的信中，技术领袖和学者表示，具有人类竞争智能的人工智能系统对社会和人类构成了深刻的风险。人工智能的研发应该重新聚焦于使当今强大、最先进的系统变的更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。”

据报道，微软最近又向OpenAI投资了100亿美元，使这家初创公司的估值增加到近300亿美元。微软还将该公司的GPT自然语言处理技术集成到其Bing搜索引擎中，使其更具对话性。

谷歌随后宣布了自己的面向消费者的对话式人工智能产品，名为谷歌巴德。

马斯克此前曾表示，他认为人工智能是文明面临的“最大风险”之一。

2015年，SpaceX首席执行官马斯克与Sam Altman等人共同创立了OpenAI。由于一些分歧，他于2018年离开了OpenAI董事会，不再持有该公司的股份。

他最近多次批评该组织，说他认为它偏离了最初的目的。

图1. 马斯克，OpenAI的创始人之一

马斯克一个月前就曾发推批评OpenAI，称“OpenAI最初是作为一家开源（这就是为什么我把它命名为‘Open’AI）的非营利性公司而创建的，为了抗衡谷歌，但现在它已经成一家闭源的营利性公司，由微软有效控制……这完全不是我的本意。”

马斯克在推特上写道：“我仍然很困惑，一个我捐赠了1亿美元的非营利组织是如何变成一个市值300亿美元的营利性组织的。如果这是合法的，为什么不是每个人都这么做呢？”

马斯克牵头，还有谁参加抵制GPT5？

从支持者阵容来看，马斯克的号召力自不用说， 约书亚•本吉奥因对深度学习的贡献，在2018年与杰弗里•辛顿、Facebook首席科学家杨力昆（Yann LeCun）一起获得了图灵奖，三人被称为“AI教父”。

另外，这份名单中还包括两名微软的软件工程师，以及来自OpenAI“竞争对手”的研究员，包括谷歌旗下DeepMind的三位研究科学家、AI绘画产品Stable Diffusion开发公司Stability AI的CEO Emad Mostaque。

随着人工智能技术的快速发展，监管机构也在竞相掌握人工智能工具。周三，英国政府发布了一份关于人工智能的白皮书，要求不同的监管机构通过适用现有法律来监督各自部门人工智能工具的使用。

相关阅读