当技术与贸易之间产生巨大矛盾时，Juergen Schmidhuber才会被公家惦记起来。从四月那封暂停人工智能技术研发的公开信，到本月初为了能更“自由”的谈论AI风险而离开谷歌的Geoffrey Hinton。本世纪最具想象力也最具争议的技术终于站在了最后的十字路口。
最近两年，Juergen Schmidhuber的风头一度被获得图灵奖的人工智能三巨头（Yoshua Bengio、Geoffrey Hinton 和 Yann LeCun）所盖过，以致于大众无意识间将这位人工智能思想家与技术前驱放到了一个相对低估的位置。
要理解他错失图灵奖的原因，或许南京大学人工智能学院院长周志华教授的评论值得参考，他说：“要论对深度学习的贡献，Hinton 无疑居首，LeCun 和 Schmidhuber 贡献都很大。但HLB总捆绑在一起，Schmidhuber 显然不在那个小团体里。而获奖需有提名有投票，人缘也重要。不外不要紧，有LSTM这样教科书级的贡献，他足以淡定。”
与大部分倾向于AI威胁论的学术权威与企业家不同，Juergen Schmidhuber是一个十足的技术乐观主义，他也深谙科技、商业化与人道之间的规律。他和他的学生Sepp Hochreiter、Felix Gers、Alex Graves、Daan Wierstra等人一起发表了长短期记忆（LSTM）的架构和练习算法，这种类型的RNN被广泛用于自然语言处理、语音识别、视频游戏、机器人和其他应用。而LSTM已成为20世纪被引用次数最多的神经网络，也被称作是“最具商业价值的人工智能成就”。
而更早在 1990年，Schmidhuber明确了 无监视天生对抗神经网络，这些神经网络在极小极大博弈中相互对抗 ，以实现人工好奇心。1991年，他又引入了 神经快速权重程序 ，形式上相当于现在所谓的具有线性化自我关注的转换器（Transformer）。 今天，这种转换器正在驱动着闻名的ChatGPT。 2015年，他的团队推出了高速神经网络（Highway Neural Networks），比以前的网络深度多出许多倍。
在Schmidhuber的职业生涯中，因其开创性的工作获得了各种奖项和荣誉。2013年，他被授予“赫尔姆霍兹奖”，旨在表彰他在机器学习领域的重大贡献。2016年，他因“对深度学习和神经网络的开创性贡献”被授予IEEE神经网络先锋奖。同时需要留意的是，在Yoshua Bengio、Geoffrey Hinton 和 Yann LeCun还没有获得图灵奖之前，Juergen Schmidhuber就已经被称作是“现代人工智能之父”了。
他的声音常常站在“主流”的对立面，但常常是准确的。Schmidhuber在今年早些时候接受了福布斯中国的专访，而又在近期回答了福布斯撰稿人Hessie Jones关于人工智能担忧的一系列题目。我们将相关谈话内容收拾整顿如下：
福布斯中国：深度学习和神经网络等技术在ChatGPT泛起后是否已经预示着发生了本质的变化？
Schmidhuber：实际上没有，由于ChatGPT本质上是一个学习神经网络，其基础是在上个千年奠定的，然而，因为不断的硬件加速，现在可以构建比以前更大的神经网络，并向它们输入整个互联网，从而学习猜测部门文本（例如"聊天"）和图像。 ChatGPT的智能主要是这些规模巨大化的结果。
ChatGPT所基于的神经网络是所谓的"注意力转换器"。我对此感到高兴，由于30多年前，我发表了现在称为"具有线性自注意力的转换器"的论文（J. Schmidhuber. Learning to control fast-weight memories: An alternative to recurrent nets. Neural Computation, 4(1):131-139, 1992）。它们等效于我所说的神经快速权重编程器（除了归一化），分离存储和控制；注意力术语是在ICANN 1993年引入的。
福布斯中国： 你去过中国，那么你以为中国的人工智能技术发展如何？中国应该如何遇上像美国这样的技术进步前辈国家？
Schmidhuber：固然深度学习的大部分基本算法是由欧洲人发明的，但美国的大型公司在商业化这些算法方面做得更好。我以为中国的公司并不落后。这些基本方法已经是公然开源的。你需要的是快速的计算机，大量的数据和工程人才。我多次访问中国，知道中国拥有这一切，并且已经是人工智能发表论文最多的国家。所以我对中国的人工智能非常乐观！
福布斯中国：目前，大部分的计算能力和数据都把握在一些行业巨头手中。中小微企业和初创公司如何突破障碍？
Schmidhuber：40年前，我熟悉一个富人。他有一辆保时捷。但最令人惊讶的是：保时捷里有一部移动电话。因此，通过卫星，他可以呼唤其他拥有类似保时捷的人。
今天，每个人都拥有一部便宜的智能手机，它在很多方面比保时捷里的东西更好。而且，跟着人工智能的发展，情况也将如斯。请记住：每5年，人工智能的价格将便宜10倍。每个人都将拥有大量的便宜的人工智能为他们工作。（这是一个比摩尔定律更古老的规律，从齿轮的发现至今已经存在近千年了。）
实际上，我公司NNAISENSE的座右铭就是：“人工智能面向所有人”！我们的人工智能已经让人类的生命更长、更健康、更轻松、更幸福。人工智能不会被少数大公司控制。不，每个人都将拥有便宜但强盛的人工智能，以多种方式改善他/她的生活。
福布斯中国：您以为人工智能和深度学习领域对于企业家和初创企业有哪些机遇？
Schmidhuber：我可以从我们自己创立的企业NNAISENSE的角度来谈。它的发音类似于“nascence”（英语中的“birth”），但拼写方式不同，由于它是基于通用神经网络人工智能而诞生。今天，大多数人工智能的利润都在虚拟世界中，用于营销和出售广告——这就是太平洋沿岸的大型平台公司的做法：阿里巴巴、亚马逊、Facebook、腾讯、谷歌、百度等等。但是，营销只占世界经济的一小部分。更大的部门也将被人工智能侵入，就像片子中一样。像我们这样的初创企业有许多机会。
福布斯中国：您以为人工智能取代人类工作的趋势如何，考虑到ChatGPT所带来的惊人体验？
Schmidhuber：有了ChatGPT，用户可以忽然间像与一个非常博学的人交谈一样，该人好像对所有主题和题目都有精心构思的谜底。即使是像“用这个作家的风格写一篇关于这个方面的文章摘要”的复杂任务，也常常能够很快得到解决，以至于后来只需要进行少量编纂。很多办公桌任务将通过这样智慧的人工智能伙伴得到极大的便利。
今天哪种类型的人工智能表现得相称不错？谜底是那些为桌面工作者服务的人工智能。例如回答法律考试题目、总结公司文件、击败您在虚拟世界中的对手（例如视频游戏）或者跟踪您在互联网上的步履并向您提供量身定制的广告。
为现实的物理世界构建人工智能要难题得多。固然早就有超级棋手和模式识别器，但没有由人工智能驱动的机器人能像一些小男孩那样熟练地踢足球。相称多的桌面工作者比手艺人赚得更多，但现在事实证明：手艺人很难被人工智能取代。
福布斯中国：您如何看待AI在道德、道义、隐私和安全方面所面临的挑战？
Schmidhuber：这将是一场AI之间的军备竞赛，一些AI会为某些道德和道义尺度、隐私和安全而战，而其他一些则不那么仁慈。
福布斯中国：目前的AI发展是否符合您的猜测？深度学习将来会如何发展？
Schmidhuber：自15岁左右起，我的主要目标就是构建一个比我更智慧的自我改进的人工智能，然后退休。目前的发展符合我的猜测。
请记住，自1941年以来，每5年，计算机的价格便宜了10倍。这种指数级趋势的朴素外推猜测，21世纪将会看到廉价计算机，其原始计算能力将达到所有人类大脑的千倍之多。很快将会有数百万、数十亿、数万亿这样的设备。
以下为福布斯撰稿人Hessie Jones针对人工智能担忧的一系列题目和Schmidhuber的对话内容，为保证文本清楚连贯，以下经由编辑整理。
Jones：你已经签署了关于AI武器的警告信。但你没有在最近发表的《暂停人工智能大模型实验： 一封公开信》上签名，有什么原因吗?
Schmidhuber：我已经意识到，很多在公开场合对人工智能的危险提出警告的人只是在寻求宣传。我不以为最新的这封信会产生任何重大影响，由于很多人工智能研究职员、公司和政府将完全忽视它。
那封公开信里多次使用了“我们”这个词，指的是“我们所有人”，即人类。但正如我过去多次指出的那样，世界上并不存在每个人都能认同的“我们”。问10个不同的人，你会听到10种关于什么是“好”的不同意见。其中一些观点是完全不相容的。不要健忘很多人之间的巨大冲突。
信中还说，“假如这种暂停不能迅速到位，政府应该进行干涉干与。”题目是，不同的政府对什么对自己好、什么对别人好也有不同的看法。大国A会说，假如我们不这样做，大国B就会做，也许是偷偷地做，以便获得对我们的上风。大国C和大国D也是如斯。
Jones：每个人都承认这种对当前生成式人工智能技术的惊骇。此外，OpenAI首席执行官Sam Altman本人也公然承认了这项技术的存在性威胁，并呼吁对人工智能进行监管。从你的角度来看，AI是否对人类构成了存在性的威胁?
Schmidhuber：人工智能确实可以被武器化， 我也绝不怀疑会有各种各样的人工智能军备竞赛，但人工智能并没有引入一种新的存在性威胁。 来自人工智能武器的威胁好像与来自核氢弹更古老的威胁比拟相形见绌，不值一提。 我们应该更害怕 半个世纪前的氢弹火箭技术。 1961年的沙皇炸弹（20世纪60年代初暗斗期间苏联研制的一型氢弹）的破坏力几乎是二战中所有武器总和的15倍。 尽管自20世纪80年代以来各国已经进行了戏剧性的核裁军， 但全世界仍旧有足够的核弹头在两个小时内消灭人类文明，且不需要任何人工智能的匡助。我更担心的是古老的生存威胁，而不是相称无害的人工智能武器。
Jones：我意识到，固然你把人工智能与核弹的威胁相提并论，但目前存在一种危险，即当前的技术可能被人类把握，并使他们能够“终极”以一种非常精确的方式对群体中的个人造成进一步的伤害，好比有针对性的无人机攻击。正如一些人指出的那样，你给了人们一个他们以前从未有过的工具集，使坏人能够比以前做更多的坏事，由于他们原来没有这项技术。
Schmidhuber：原则上，这些听起来很可怕，但我们现有的法律足以应对这些由人工智能驱动的新型武器。假如你用枪杀了人，你会进监狱，用无人机杀人也一样。执法部分将更好地了解新的威胁和新的武器，并将用更好的技术来应对这些威胁。让无人机从远处瞄准目标，需要一些跟踪和一些智能来完成，这在传统上是由纯熟的人力来完成的，但对我来说，这好像只是传统武器的改进版本，好比现在的枪，你知道的，它也只是比老式的枪支更智慧一点。
但原则上，所有这些都不是新的发展。几个世纪以来，我们已经研发出了更好的武器和更致命的毒药等等，执法部分也跟着时间的推移不断发展他们的政策来应对这些威胁。所以，这并不是说我们忽然有了一种新的、比我们六十年来所拥有的更令人担忧的生存威胁。大型核弹头不需要花哨的面部识别来杀死一个人。不，它可以只是简朴地摧毁一座拥有一千万居民的城市。
Jones：隐含的生存威胁是人类对这项技术的控制程度。我们看到一些机会主义的早期案例，正如你所说，这些案例往往比积极的突破会得到更多的媒体关注。但你的意思是这一切都会平衡吗？
Schmidhuber：从历史上看，我们有一个悠久的传统，那就是技术的突破会导致武器的提高，既用于防备，也用于保护。从棍棒到石头，从斧头到炸药，从大炮到火箭，再到现在的无人机，这对人类历史产生了巨大的影响，但纵观历史，那些使用技术来达到自己目的的人也要面对同样的技术，由于他们的对手也正在学习使用这种技术来对付他们。这种情况在几千年的人类历史上一直在重复，而且还会继续下去。我不以为新的人工智能军备竞赛会像老式的核弹头那样构成生死存亡的威胁。
你说了一些很重要的事情，有些人更喜欢谈论这项技术的缺点，而不是它的好处，但这是误导，由于95%的人工智能研究和开发都是为了让人们更快乐，促进人类的生活和健康。
Jones：让我们来谈谈人工智能研究中那些有益的、能够从根本上改变目前的方法，并取得突破的进展吧。
Schmidhuber：好的!例如，11年前，我们的团队和我的博士后Dan Ciresan是第一个通过深度学习赢得医学成像比赛的团队。我们分析了女性乳腺细胞，目的是分辨无害细胞与癌前阶段的细胞。通常，一个训练有素的肿瘤学家需要很长时间才能做出这些决定。我们的团队对癌症一窍不通，但却能在大量此类数据上练习出一个人工神经网络，固然这个网络在开始时是非常愚蠢的。它的表现优于所有其他方法。今天，它不仅用于乳腺癌，还用于放射学和检测动脉中的斑块以及很多其他方面。 我们在过去30年里开发的一些神经网络现在已经广泛应用于数千种医疗保健应用，可以检测糖尿病和新冠肺炎等疾病。这终极将渗透到所有医疗保健领域。这种类型的人工智能的良好结果比利用人工智能进行犯罪的吸引眼球的新方法重要得多。
Jones：应用是强化结果的产物。大规模的应用要么让我们相信人们被引入了歧途，要么相反，技术对人们的生活产生了积极的影响。
Schmidhuber：后者是更可能泛起的情况。我们面临着巨大的贸易压力，需要好的AI而不是坏的AI，由于公司想要卖给你东西，而你只会购买你以为对你有益的东西。所以在这种简朴的贸易压力下，你会对优秀的AI产生巨大的偏见，而不是糟糕的AI。然而，与改善人们生活的人工智能纪录片比拟，施瓦辛格片子中的世界末日场景更能吸引人们的留意。
Jones：我以为人们会被好故事所吸引——那些包含对手和斗争的故事，但终极都有圆满的结局。这与你对人道的评价是一致的，以及历史尽管有暴力和毁灭人道的倾向，但在某种程度上倾向于自我纠正。
Schmidhuber：让我们以一种技术为例，你们都知道——生成式对抗网络（GAN, Generative Adversarial Networks），它今天很轻易被用于假新闻和虚假信息相关的应用。实际上，GAN发明的目的与今天的用途相差甚远。
GANs这个名字是在2014年创建的，但我们在90年代初就已经有了基本的原则。30多年前，我称它为人造的好奇心（Artificial Curiosity）。这是一个非常简单的方法，它可以将创造力注入到小小的两个网络系统中。这种创造性的人工智能不只是试图奴颜婢膝地模仿人类，相反，它正在创造自己的目标。让我解释一下：
现在你有两个网络。一个网络正在产生输出，可能是任何东西，任何步履。然后，第二个网络正在观察这些步履，并试图猜测这些步履的后果。一个动作可以移动一个机器人，然后再发生一些其他事情，而另一个网络只是试图猜测会发生什么。
现在，我们可以通过减少第二个网络的猜测误差来实现人工好奇心，同时，这也是第一个网络的奖励。第一个网络想使其奖励最大化，因此它将发明一些步履，这些步履将导致第二个网络吃惊的情况，也就是那些它还没有学会很好地猜测的情况。
在输出假图片的情况下，第一个网络将试图天生质量足够好的图像来欺骗第二个网络，而后者将试图猜测环境的反应：图像是真的仍是假的？第二个系统试图拥有更强的猜测能力而第一个网络将继承在天生图像方面改进，使得第二个网络无法判定其真伪。因此，它们两个系统互相争斗。第二个网络将继承减少它的猜测误差，而第一个网络将试图使猜测系统的误差最大化。
通过这种零和游戏（Zero-sum Game），第一个网络在产生这些令人信服的假输出方面变得越来越好，天生的图片看起来几乎是完全真实的。因此，一旦你有了梵高的一组有趣图像，你就可以利用他的风格天生新的图像，而梵高本人并没有创作过这些艺术品。
Jones：让我们来谈谈未来。你曾说过，“传统的人类不会对在宇宙中传播智能方面施展重要作用”。
Schmidhuber：首先让我们从概念上区分两类人工智能。第一种类型的人工智能是由人类指导的工具。它们被练习来做特定的事情，如正确检测糖尿病或心脏病，并在其发生前预防疾病发生发火。在这些情况下，人工智能的目标是来自人类的。而更有趣的人工智能正在设定自己的目标。他们正在发明自己的实验并从中学习，他们的视野不断扩大，终极他们成为现实世界中越来越普遍的题目解决者。他们不受父母的控制，他们学到的大部分东西是通过自我发明的实验。
例如，一个机器人正在旋转一个玩具，当它这样做的时候，它可以通过摄像头传来的随时间推移而变化的视频，开始学习这个视频的变化，并学习假如以某种方式旋转玩具，它的三维性质将如何产生某些视觉变化。终极，它将学会重力如何工作，学会世界的物理学如何工作等等，就像一个小科学家一样！
而我几十年来一直猜测，未来这种人工智能科学家的放大版将想要进一步扩大他们的视野，并终极去大多数物理资源所在的地方，以建立更大更多的人工智能。当然，几乎所有这些资源都在阔别地球的太空中，那里对人类是不友好的，但对适当设计的人工智能控制的机器人和自我复制的机器人工厂是友好的。因此，在这里我们谈论的不再是我们微小的生物圈；相反，我们谈论的是大得多的宇宙其他部门。在几百亿年内，拥有好奇心的、会自我改进的人工智能将以一种对人类来说不可行的方式在可见的宇宙中开展“殖民”。听起来像科幻小说，但自20世纪70年代以来，我一直无法看到这种情景的公道替换方案，除非发生全球性的劫难，如全面的核战争，在它冲上云霄之前阻止这种技术发展。■
福布斯中国独家稿件，未经许可，请勿转载
头图来源：盖蒂图片社
