郑南宁：人工智能进化到AGI，最大的障碍是无法感知世界、缺少常识

来源：每天一首音乐发布时间：2023-06-10 00:51

郑南宁：人工智能进化到AGI，最大的障碍是无法感知世界、缺少常识

腾讯科技讯 6月9日，在“2023北京智源大会”上，中国工程院院士、西安交通大学教授郑南宁，发布了名为《机器行为与具身智能》的演讲。

郑南宁首先从人工智能交互场景和进化过程进行阐述，剖析了人工智能技术应用的发展阶段和潜伏危害。展示了人工智能在场景判定、诗词理解、人机协同、自动驾驶等领域系列立异应用，让人们对人工智能应用场景的有更深的熟悉和理解。他还指出：”要想使机器具有类人的认知能力，需要建立事件模型，将物体、事件、事实等知识进行有效表征，构建持续学习系统，在任务中利用感知、先验知识、表征学习和知识推理寻找最优策略。“

对于机器行为的研究主要包括：机器行为模仿与解释、机器行为认知和挑战、机器行为失去监视的潜伏危害、机器行为的发展及联系关系等研究范畴。郑南宁先容道：“大量的智能机器应用于人类社会的各个角落，几乎所有层面。机器行为的进化过程中，机器行为研究面临的挑战，就是如何使人工智能系统具有合作性的行为。“

如今，人工智能的发展中分成四个阶段，目前我们在第三阶段，即神经网络机器学习的阶段，间隔第四阶段通用人工智能上，最大的障碍是人工智能缺乏对世界的感知理解和常识性知识，因此有时缺乏合理性的行为。要突破这一层级就要通过具身人工智能。

郑南宁指出，具身智能本身就是一种机器自主感知环境、学习和理解步履的能力。智能体的行为不是一次性发生，它会跟着时间的推移而发展，这就需要研究机器获得特定个体或机体行为。其行为的天生机制基于其算法和执行环境，也很轻易受到进化历史和与其他智能体交互的影响，所以在研究过程中必需夸大，关注点不仅仅是一种行为的泛起，而是发展过程中行为机制的变化。

智能体和人工智能行为的信任是紧密亲密联系关系的。智能体可以通过算法直接赋能，或者是利用特定的交互练习、刺激，来塑造机器行为，又或者是通过自身的经验获得某些行为来与人不断地交互，终极朝着环境和人特定的方向进化。

最后，郑南宁提出：“针对这种进化我们需要对它建立起如动物学一般的解释体系，从天生机制、发展、进化的角度去理解在环境中的具身人工智能。并对他们进行伦理上的限制，使他们更可控。“

以下为郑南宁现场演讲精髓实录：

大家好，今天我呈文的问题是“机器行为与具身智能”。

首先，我们来看一个相对简朴的十字路口场景，场景中有行人、有非机动车和机动车，我们看一看它的动态场景是如何构成的？十字路口的交通场景是不可猜测的，但场景中的每个对象或称之为Object直觉的判定和他们对相互之间的行为关系的理解，形成了这样一个相互联系关系的不乱系统。

人在这些场景中能够迅速的理解和判定各个对象在空间及其行为的关联性。而自动驾驶也必需要能够抽象和表述这种关联性，才能做出正确地判定，而事实上我们要让机器机基于规律对交通场景的动态变化进行事先编码是做不到的，我们需要研究在这种交互场景中，多个自主体的自适应行为。

举例来看，在F1比赛中，工作人员利用团队协作可以迅速地完成车辆轮胎的替代工作，如何利用机器人集群协作完成某项任务并给出科学的解释，是一个值得探讨的题目。

讨论1：机器行为模仿与解释

解释行为是一个比产生行为更为难题的任务，由于几乎人类所有的行为都是从环境中学来的，即刺激反应的结果。并不都像思维和情感这样的内部事件，一台图灵机能以一种无法与人类区别的方式流动，但产生出这样的行为模仿并不足以模拟人的智能，由于两者是一个完全不同的题目。解释必需尽可能清楚地给出潜伏的概括，并将它们与某些普遍的原理联系起来，这就是认知过程的理解。

假如我们从人工智能技术的发展来看，我们可以把人工智能技术的发展分为如下阶段：

第一阶段，统称之为“专家学习系统”，专家系统是将领域知识和规则交给机器去搜索。

第二阶段，简称为“特征工程”，所谓特征工程是讲事先定义的特征和谜底交给机器去学习。

第三阶段，是将原始数据和标签交给机器，利用深度神经网络让机器自动学习特征。在这一阶段人工智能取得了惊人的发展，特别是机器在语音和图像识别与分类能力方面超过了人类。

当前人工智能发展朝着第四阶段的方向发展，人类只需要将任务和目标交给机器，机器就可以像人类一样感知和理解世界，人与人之间或社会会与物理世界天然交互，也就是说在这一阶段探索具有人类意识的人工智能系统，像人类一样在广泛的任务和环境中进行学习和适应，实现通用人工智能。

通用人工智能理论上是具有自我意识、自主思索、学习计划、解决问题以及理解复杂概念的能力，它可以在新的未曾碰到的情景下适应并执行任务，这需要广泛的背景知识和常识，还有抽象思维和判定等人类智能所有的枢纽特征，这是一个布满着不确定性的未来目标。

讨论2：机器行为面临的挑战

人工通用智能现在不仅仅在技术上面临着重大挑战，而且还面临着道德伦理、社会和法律等一系列重大题目。

研究复杂动态不确定环境中的机器行为，存在着两个基本题目：

一、

前提题目，是我们不可能枚举出一个行为的所有先决条件；

二、

分枝题目，是我们不可能枚举出一个行为有可能产生的所有隐性结果。

传统的人工智能基本理论框架是建立在演绎逻辑和语义描述与形式化方法的基础上，形式化的方法不可能为所有的对象或行为建立模型。

机器行为研究面临的挑战，就是如何使人工智能系统具有合作性的行为。

德国心理学家设计了一个儿童心理学实验，实验中一位一岁半的儿童和妈妈坐在同一个房间的角落里，一位成年人走进房间想打开柜门，他一遍遍的撞击着柜门，这时神奇的场景发生了，并没有人直接向这位孩子求助，也没有人向他发出指令，但一岁半的孩子摇摇晃晃走过来，匡助这个成年人打开了柜门。

该实验试图想证实孩子可以自发的匡助别人，但这个实验却对人工智能提出了一个重大挑战，我们能否通过理解这个一岁半孩子的脑内所想，让机器人也能具有这样的智能性、灵活性与合作性行为？

这个实验告诉我们，智能机器不能从工程机器的角度去理解它们，而且要将其视为一系列有自己行为模式及生态反应的个体或机器群体。

另外一个实例，给出一段西安绝句“海棠不惜胭脂色、独立蒙蒙细雨中”。让计算机语言理解的程序和人，分别从一个图像数据库中找出最贴切这段诗的图像。计算机找出了这样一幅图，海棠上挂满着雨滴，正真是“海棠不惜胭脂色、独立蒙蒙细雨中”。而人却给出右边这幅图，一位亭亭玉立的奼女在蒙蒙的细雨中没有打伞，行走在清幽的小道上。被测试的人在内心把这位奼女比作海棠，在这样的雨天这位奼女全然不顾风雨的存在。人类理解诗歌往往是在内心深处将想象力带入现实，通过自身的认知去赏识。

这首西安绝句是宋代诗人陈与义所写的《春寒》，当时金兵入侵，南宋小朝廷处于山河破碎风飘絮，诗人南渡避难，借助在巴陵友人的后院，自号“园公”。2月的巴陵几乎每天下雨，料峭的春寒还未结束，此时诗人流离失所，漂泊无依，不由地联想起自身的境遇进行感怀，写下了这首诗。

在这里，我们看到一幅图像到了人类观察者的脑中，在他的内心深处将想象力带入了现实，图像变成了生动的场景故事。这里简朴的语言与图像的联想，说明很多重要的AI应用，例如机器视觉和自然语言理解需要大量对世界的熟悉信息。

为此，计算机需要把握知识，这是几乎所有AI研究者都同意的观点。想象是人的一种虚构的能力，也就是人可以想象不存在事物的能力，但如何更加有效地把知识传授给机器人，依然是我们今天面临的一大挑战。

讨论3：机器行为的研究范围

诺贝尔奖获得者西蒙教授，在《人工科学》这本书中指出：自然科学是关于天然体和天然现象的科学知识，也有人工科学关于人工物体和人工现象的知识。

如今，大量的智能机器应用于人类社会的各个角落，几乎所有层面。机器行为研究关注的是智能机器，而非传统的机械。它的研究范围有：机器行为天生的人工设计，智能体如何凭借经验产生行为。还有机器行为的可解释性，智能体如何根据场景响应机器行为。

机器行为一旦失去监视所带来的潜伏危害是什么？

这些题目与智能体和人工智能行为的信任是紧密亲密联系关系的。诺贝尔奖得主、荷兰动物学家Tinbergen提出：想要全面地理解一个演化出来的特性，我们需要回答四个题目：

上一篇：路面摊铺压实... 下一篇：重磅！三大运...