马斯克们叫停 GPT-5，更像是场行为艺术

来源：追梦娱乐圈 发布时间：2023-04-01 11:01

Pre AGI 时代的第一场大型舆论「闹剧」。

作者 | Founder Park

马斯克和「深度学习三巨头」之一的 Bengio 等一千多位学界业界人士，联名呼吁叫停 AI 大模型研究的新闻，刷屏网络，掀起轩然大波。

GPT 的研究会被叫停吗？在学界业界看来，AI 真的会对人类产生威胁吗？这封联名信是证据凿凿的警示仍是徒有恐慌的噱头？支持者、反对者纷纷表态，吵作一团。

在混乱中，我们发现，这份联名信的真实性和有效性都存在问题。很多位列署名区的人们，连他们自己都不知道签署了这封联名信。

另一方面，联名信本身的内容也值得商榷，呼吁人们重视 AI 安全性的问题当然没错，可叫停 AI 研究 6 个月，甚至呼吁政府介入，等待相关规则、共识的制定。这种天真且不切实际的做法，在科技发展的历史上实属少见。

与此同时，不少人发现，OpenAI 开放了一批 GPT-4 API 的接口申请，开发者们正兴奋地想要将这轰动世界的技术成功应用在他们的产品中。Pre AGI 时代的序幕，已经缓缓拉开。

AI 会停下来吗？AI 能停下来吗？

又或者像网友所说的，你想要叫停福特 A 型车的量产吗？

在福特 T 型车退出市场后，A 型车帮助福特重新夺回汽车销量的头把交椅。

截至发稿前，Founder Park 发现，联名信签名人数从 1125 减少为 1123 人。

注：极客公园记者凌梓郡对本文亦有贡献。

01

联名信说了什么？

在 Future of Life Institute（FLI）的官网上，有着公开信的全文内容，总结如下：

公开信呼吁所有人工智能实验室，至少在 6 个月内立即暂停训练比 GPT-4 更强大的人工智能系统研究包括当前正在训练的 GPT-5。

这封信认为，具有人类竞争力的人工智能系统可能对社会和人类构成深刻的风险，因为这已经得到了广泛的研究并得到了顶级人工智能实验室的认可。

此外，该信还呼吁 AI 实验室和独立研究者们，利用这个暂停时间共同开发和实施一套共享的高级 AI 设计和开发安全协议，并由独立外部专家进行严格审核和监督。这些协议应确保遵守这些协议的系统是安全的，而且必须有充分的理由证明这种决心信念，并随着系统潜在影响的大小而增加。

02

发起方是谁？

Future of Life Institute：生命未来研究所创立于 2014 年 3 月，创始人为麻省理工学院宇宙学家马克斯·泰格马克，Skype 联合创始人让·塔林，哈佛大学博士生维多利亚·克拉科夫那（Viktoriya Krakovna），波士顿大学博士生、泰格马克之妻美雅·赤塔-泰格马克（Meia Chita-Tegmark）与加州大学圣克鲁兹分校宇宙学家安东尼·阿吉雷。

官网上介绍的公司使命是：

保护生命的未来，某些技术的开发和使用对地球上的所有生命有着深远的影响。目前，人工智能、生物技术和核技术就是这种情况。

如果管理得当，这些技术可以改变世界，使今天活着的人和所有尚未出生的人的生活大大改善。它们可以被用来治疗和消除疾病，加强民主进程，以及缓解--甚至阻止--气候变化。

如果管理不当，它们可能会起到相反的作用。它们可能产生灾难性的事件，使人类屈服，甚至可能将我们推向灭绝的边缘。

生命未来研究所的使命是引导变革性技术远离极端、大规模的风险，并使之有益于生命。

03

谁签署了联名信？

截至北京时间 3 月 29 日下昼 16 点，公开信签名人数为 1125 人，我们收拾整顿了其中比较着名的一些学者和科技行业的从业人士等。

Yoshua Bengio：约书亚·本吉奥，加拿大计算机科学家，因其在人工神经网络和深度学习方面的研究而着名。本希奥与杰弗里·辛顿和杨立昆一起获得 2018 年的图灵奖，以表彰他们在深度学习方面的贡献。这三位也被称为「图灵三巨头」。

Stuart Russell：加州大学伯克利分校人工智能统计中心创始人兼计算机科学专业教授，一直关注人工智能领域的发展。同时，他仍是人工智能领域里标准教科书《人工智能：现代方法》的作者。

Elon Musk：埃隆·马斯克，众所周知，SpaceX、特斯拉和 Twitter 的 CEO，OpenAI 的前股东。

Steve Wozniak：史蒂夫·沃兹尼亚克，苹果公司联合创始人。

Yuval Noah Harari：尤瓦尔·赫拉利，耶路撒冷希伯来大学的历史系教授，《人类简史》三部曲作者。

Andrew Yang：杨安泽，前进党创始人暨现任该党共同党主席，美国创业组织创始人、2020 年美国总统选举民主党初选候选人。

Jaan Tallinn：让·塔林，Skype 联合创始人，也是这封公开信的发起网站 Future of Life 的创始人之一。

Evan Sharp：伊文·夏普，Pinterest 联合创始人。

Emad Mostaque：Stability AI 创始人，Stability AI 成立于 2019 年，目前已经是估值超过 10 亿美元的独角兽企业，旗下产品有 Stable Diffusion 等，Stable Diffusion 是近期热门的文本生成图片的应用。

John J Hopfield：约翰·约瑟夫·霍普菲尔德，美国科学家，1982 年发明了联想神经网络，现在通常称为霍普菲尔德网络。

Rachel Bronson：雷切尔·布朗森，《原子科学家公报》总裁兼首席执行官。《原子科学家公报》由着名物理学家阿尔伯特·爱因斯坦 (Albert Einstein) 和罗伯特·奥本海默（Robert Oppenheimer）等物理学家于 1945 年创立，负责管理「末日时钟」的倒计时情况。

Max Tegmark：马克斯·泰格马克，宇宙学家，现为麻省理工学院教授、基础问题研究所科学主任。生命未来研究所的创始人之一。

Victoria Krakovna：DeepMind 的研究科学家，也是生命未来研究所的创始人之一。DeepMind 是一家英国的人工智能公司，2014 年被 Google 收购，2016 年他们开发的 AlphaGo 打败了李世石，引起不小的反响。

我们实测了提交签名的流程，在提交了个人姓名（杜撰了一个）和邮箱后，会收到这样的提示，暂时不确认后续的人工确认流程是怎样的。

03

联名信有哪些问题？

三巨头的另外两位

深度学习学界三巨头的表态必然会引人关注，Yoshua Bengio 的名字赫然列在联名者的第一位，那么另外两位态度如何呢？

泰斗级的 Hinton 还没有公开表态，但他对 OpenAI 的研究成果一直大加褒奖。

LeCun 的表态更加清晰。

有人在推特上转发这封联名信，@LeCun 说他和「深度学习三巨头」的另一位 Benjio 都签署了这封联名信。

Lecun 很快转发回应：「没有。我没有签署这封信。我不同意他的前提。」

据行业观察者猜测，LeCun 所说的前提，也许来源于两方面。

一是所谓「失控的军备竞赛」，LeCun 作为 Meta AI 研究的门面，显然是参与者之一，一个月前他还在推特上推广 Meta 的大语言模型 LLaMA；

二是对于当下 LLM 的研究方向，LeCun 一直保持怀疑，在 ChatGPT 刚刚引起公众关注的时候，他就表示其底层技术没有了不起的创新，只是一款组合很好的产品而已。「它们有点像那些死记硬背地学习了材料但还没有真正建立起潜在现实的深刻心智模型的学生。」

Sam Altman 的表态

在推特上，广为流传一张 OpenAI CEO Sam Altman 参与签署的截图。

但当我们现在去联名人中搜索 Sam Altman 的名字时，已经找不到了。另外，截图中有 typo，i 应该是大写 I。

这也许意味着联名信初期并没有严格的信息核查机制，填报联名的人并没有确认真实身份。借用名人（甚至很多跟 AI 没关系的名人）。