「空想AGI」闹剧何时休?Science专栏:对AI前景预测过于乐观

首页 > 科技

「空想AGI」闹剧何时休?Science专栏:对AI前景预测过于乐观

来源:跳高的鱼 发布时间:2024-04-22 15:41

「空想AGI」闹剧何时休?Science专栏:对AI前景预测过于乐观

  新智元报道  

编辑:LRS

【新智元导读】在把AGI作为终极目标之前,应当先对AGI的概念定义达到共识,历史上对通用AI发展的预测,都太过乐观了!

最近几年,AI技术的发展远远超出普通大众和研究者的预期,「通用人工智能(AGI)」的概念也从科幻小说中走进了日常生活的讨论中,成为了许多科技公司和研究机构所追求的最终目标。

AI行业的领头羊OpenAI表示,其使命是「确保通用人工智能造福全人类」;

DeepMind在公司愿景声明中也指出,「人工通用智能有可能推动历史上最伟大的变革之一」;

AGI概念在英国政府的国家人工智能战略和美国政府的人工智能文件中也被着重提及;

微软的研究人员声称在大型语言模型GPT-4中发现了「AGI火花」(sparks of AGI)存在的证据;

论文链接:https://arxiv.org/pdf/2303.12712.pdf

现任和前任谷歌高管宣称「AGI已经到了」(AGI is already here);

「GPT-4能否算作是一种AGI算法」的问题也是Elon Musk对OpenAI提起诉讼的核心... ...

虽然术语AGI已经在商业、政府和媒体中被广泛使用,但不同群体的用户对AGI概念的含义并没有达成共识。

「AGI的含义到底是什么?」在AI社区内引起了激烈的争论,这以问题不仅是一场关于「术语」定义的学术争论,也将影响着科技公司、政府部门等关于AGI做出的重要决策。

最近,圣菲研究所的教授Melanie Mitchell在Science上发表了一篇letter,讨论了大众对通用人工智能概念的争论。

深入研究AGI后可以发现,人工智能从业者对智能本质(the nature of intelligence)的看法与研究人类和动物认知的人截然不同,这种差异对于「理解当下、预测机器智能的未来前景」等至关重要。

人工智能概念

人工智能领域的最初目标是创造出具有与人类相当、具有通用智能的机器。

早期的人工智能先驱们对此持乐观态度:1965年,赫伯特·西蒙(Herbert Simon)在著作《人类和管理的自动化形态》中预测「20年后,机器可以承担所有人类能做的工作」;

在1970年出版的《生活》杂志上,马文·明斯基(Marvin Minsky)宣称:在三到八年后,我们就能拥有一台具有普通人智力水平的机器,一台能够阅读莎士比亚、润滑汽车、玩弄办公室政治、讲笑话和打架的机器。

遗憾的是,这些乐观的预测并没有实现。

在接下来的几十年里,唯一成功的人工智能系统只能算是专用,而非通用:只能执行单一任务或有限范围的任务,例如手机上的语音识别软件可以转录口述内容,但不能理解具体内容并生成回复。

通用人工智能(AGI)一词是在21世纪初创造的,以重新追寻人工智能先驱最初的崇高愿望,寻求重新关注「试图以独立于领域的方式研究和复制智能」。

但直到最近,这种崇高的追求在人工智能领域内仍然相当模糊,领先的人工智能公司将实现AGI作为其主要目标,但AGI的存在性(existential threat from AGI)仍然是他们最害怕的事。

许多人工智能从业者都在预测AGI的实现时间轴,例如,有人预测「到2028年,有50%的机会拥有AGI」;但也有人质疑AGI的前提,称其定义模糊不清,甚至有研究人员在推特上表示:AGI的概念是不科学的,人们应该对使用这个词感到尴尬。

虽然早期的AGI支持者认为机器很快就会承担所有人类活动,但研究人员已经意识到,打造一个「国际象棋机器人」或是「回答搜索查询的AI系统」要比开发一个机器人来「叠衣服」或「修水管」容易得多。

AGI的定义也相应地进行了调整,包含了所谓的「认知任务」(cognitive tasks)。

DeepMind联合创始人Demis Hassabis将AGI定义为「应该能够完成几乎任何人类可以完成的认知任务」的系统,OpenAI将其描述为「高度自主的系统,在最有经济价值的工作中优于人类」(most economically valuable work),其定义大多忽视了需要物理智能(physical intelligence)的任务。

人工智能中的「智能」概念,即认知或其他方面,通常是以个体智能体为奖励或目标进行优化的方式来构建的。

一篇有影响力的论文将通用智能定义为「智能体在各种环境中实现目标的能力」。

也有论文指出,「智力及其相关能力可以被理解为促进奖励最大化」。

上一篇:古尔曼:苹果... 下一篇:信用卡被限额...
猜你喜欢
热门阅读
同类推荐