作者 | 赵健
ChatGPT的热度正在一路狂飙。
“去年12月在机器学习圈曾持续热议过，但是没有现在每一个群都在交流和使用的状况。这是除了疫情，从未有过的现象。”有人如斯感触。
一位AI产品经理向「甲子光年」表示，或许若干年后回看AI行业的发展，会有两个标志：阿尔法狗代表AI在专业领域“干翻”人类的出发点，ChatGPT代表AI在通用智能领域“干翻”人类的出发点......
《财富》杂志则是这样描述的：
“在一代人的时间中总有一种产品的泛起，它将从工程系灰暗的地下室、书呆子们臭气熏天的青少年卧室和爱好者们孤傲的洞穴中弹射出来，变成了你的祖母Edna都知道如何使用的东西。早在 1990 年就有网络浏览器，但直到 1994 年Netscape Navigator的泛起，大多数人才发现了互联网。2001 年 iPod 问世之前就已经有了 MP3 播放器，但它们并没有引发数字音乐革命。在2007 年苹果推出iPhone之前，也有智能手机，但在 iPhone 之前，没有智能手机的应用程序。
2022年11月30日，人工智能迎来了Netscape Navigator时刻。”
对于人工智能或者聊天机器人，我们并不目生。从苹果Siri、微软小冰、智能音箱，这些人工智能产品已经融入到人们的生活中，但是基本都有一个特点——还比较笨，跟我们在《飘流地球2》中看到的MOSS相差十万八千里。
但这次的ChatGPT有点不一样。它不但可以实现多轮文本对话，也可以写代码、写营销案牍、写诗歌、写贸易计划书、写电影剧本。固然并不完美、也会犯错，但看起来无所不能。
连埃隆·马斯克都评价道：“ChatGPT好得吓人，我们离危险的强人工智能不远了。”
而且，ChatGPT也不仅仅是一个打发时间的聊天机器人，微软与谷歌此时此刻正在由于ChatGPT的泛起筹备一场关乎未来的AI大战。而海内的科技公司，也在努力思索着如何搭上驶向未来的船票，无论是以蹭概念，仍是真产品的方式。
这一切，ChatGPT是如何做到的？本文，「甲子光年」将首先回答几个最基础的题目：
1.ChatGPT和过去的AI有什么不同？
2.OpenAI是如何战胜谷歌的？
3.OpenAI的成功花了多少钱？
4.ChatGPT爆火之后，谁是最后赢家？
1.ChatGPT，生成式AI的王炸
刚刚过去的2022年，从硅谷到海内的科技公司，上上下下都蔓延着一股“冷气”。但是，AI行业却完全是另一番热闹的景象。
这一年，通过输入文本描述就能自动天生图片的AI绘画神器忽然雨后春笋般冒了出来，其中最具代表性的几家为第二代DALL·E（由OpenAI于2022年4月发布）、Imagen（谷歌2022年5月发布）、Midjourney（2022年7月发布）、Stable Diffusion（2022年7月发布）等，让人眼花缭乱。
2022年9月，由Midjourney创作天生的画作《太空歌剧院》在科罗拉多州展览会数字艺术创作类比赛中获得一等奖并引发争议，AI绘画进一步破圈，受到大众关注。
图片来自网络
AI绘画是AI发展的里程碑级应用，但没过多久人们便发现，AI绘画只是“四个二”，真正的“王炸”在11月30日上线——ChatGPT。
去年12月，我们曾与ChatGPT做过一次对话。
从AI绘画到ChatGPT，它们都属于AI的一个分支——生成式AI（Generative AI），在海内也被称为AIGC（AI Generated Content）。
2022年9月，红杉资本发布了一篇重磅文章——《生成式AI：一个创造性的新世界》（Generative AI: A Creative New World），首次提出生成式AI这一概念。
红杉资本将生成式AI分为文本、代码、图片、语言、视频、3D等数个应用场景。红杉资本以为，生成式AI至少可以进步10%的效率或创造力，有潜力产生数万亿美元的经济价值。
图片来自红杉资本
凭借生成式AI的风口，一些AI绘画公司开始拿到巨额融资。2022年10月，Stable Diffusion模型背后的公司Stability AI公布获得1.01亿美元种子轮，投后估值达10亿美元；另一家AI内容平台Jasper亦公布获1.25亿美元新融资，估值达17亿美元。
据Leonis Capital统计，自2020年以来，VC对天生人工智能的投资增长了400%以上，2022年则达到惊人的21亿美元。
在文章中，红杉资本将AI分为“分析式AI”与“生成式AI”两大类，分析式AI主要用在垃圾邮件检测、猜测发货时间或者抖音视频推荐中，也是过去几年最常见、发展最快的AI类型。海内的AI四小龙——商汤、旷视、云从、依图皆属于此类。
生成式AI则聚焦于知识工作与创造性工作，从社交媒体到游戏，从广告到建筑，从编码到平面设计，从产品设计到法律，从营销到销售。
在2015年之前，人工智能基本是小模型的天下。
过去的微软小冰、苹果Siri、智能音箱，以及各个平台的客服机器人背后都是小模型，在其系统中包含若干Agent（知行主体，可以理解为执行具体任务的程序），一个专门负责聊天对话、一个专门负责诗词天生、一个专门负责代码生成、一个专门负责营销案牍等等。
假如需要增加新功能，只需要练习一个新的Agent。假如用户的题目超出了既有Agent的范围，那么就会从人工智能变为人工智障。
但是ChatGPT不再是这种模式，而是采用了“大模型+Prompting（提示词）”。大模型可以理解为背后只有一个Agent来解决用户所有的题目，因此更加接近AGI（通用人工智能）。
ChatGPT的泛起不亚于在人工智能行业投下了一枚“核弹”。前微软CEO比尔·盖茨对ChatGPT评价为“不亚于互联网诞生”，现微软CEO萨提亚·纳德拉将其盛赞为“堪比工业革命”。如今，有越来越多的公司开始将ChatGPT融入其产品中，或者推出类ChatGPT的产品。
对此，ChatGPT是如何做到的？
2.OpenAI缠斗谷歌
ChatGPT背后的公司为OpenAI，成立于2015年，由特斯拉CEO埃隆·马斯克、PayPal联合创始人彼得·蒂尔、Linkedin创始人里德·霍夫曼、创业孵化器Y Combinator总裁阿尔特曼（Sam Altman）等人出资10亿美元创立。
OpenAI的诞生旨在开发通用人工智能（AGI）并造福人类。
当时，谷歌才是人工智能领域的最强公司。2016年打败人类围棋冠军的阿尔法狗背后的AI创企DeepMind，就是由谷歌收购。
这一年5月，谷歌CEO桑德·皮查伊（Sundar Pichai）公布将公司策略从“移动为先”转变成“人工智能为先”（AI First），并计划在公司的每一个产品上都应用机器学习算法。
OpenAI诞生的初衷，部门原因就是为了避免谷歌在人工智能领域形成垄断。OpenAI起初是一个非营利组织，但在2019年成立OpenAI LP子公司，目标是盈利和商业化，并引入了微软的10亿美元投资。前YC孵化器总裁阿尔特曼就是此时加入OpenAI担任CEO。
ChatGPT名字中的GPT（Generative Pre-trained Transformer ，生成式预练习变换器），是OpenAI推出的深度学习模型。ChatGPT就是基于GPT-3.5版本的聊天机器人。
GPT的名字中包含了大名鼎鼎的Transformer，这是由谷歌大脑团队在2017年的论文《Attention is all you need》中首次提出的模型。现在来看，这是人工智能发展的里程碑事件，它完全取代了以往的RNN（轮回神经网络）和CNN（卷积神经网络）结构，先后在NLP（自然语言处理）、CV（计算机视觉）领域取得了惊人的效果。
最初的Transformer模型有6500个可调参数，是当时最进步前辈的大语言模型（Large Language Model, LLM）。谷歌公然了模型架构，任何人都可以用其搭建类似架构的模型，并结合自己手上的数据进行练习。
特斯拉自动驾驶，猜测蛋白质结构的AlphaFold2模型，以及本文的主角OpenAI的GPT，都是在Transformer的基础上构建的。正如它的中文名字一样——变形金刚。
Transformer泛起之后，许多公司基于Transformer做NLP模型研究，其中OpenAI与谷歌就是最重要的两家。
2018年，OpenAI推出了1.17亿参数的GPT-1，谷歌推出了3亿参数的BERT，双方展开了一场NLP的较量。
GPT与BERT采用了不同的技术路线。简朴理解，BERT是一个双向模型，可以联系上下文进行分析，更擅长“完形填空”；而GPT是一个单项模型，只能从左到右进行阅读，更擅长“写作文”。
两者的表现如何呢？发布更早的GPT-1赢了初代Transformer，但输给了晚4个月发布的BERT，而且是完败。在当时的竞赛排行榜上，阅读理解领域已经被BERT屠榜了。此后，BERT也成为了NLP领域最常用的模型。
但是这场AI竞争才刚刚开始。OpenAI既没有认输，也非常“头铁”。固然GPT-1效果不如BERT，但OpenAI没有改变策略，而是坚持走“大模型路线”。
在OpenAI眼中，未来的通用人工智能应该长这个样子：“有一个任务无关的超大型LLM，用来从海量数据中学习各种知识，这个LLM以天生一切的方式，来解决各种各样的实际题目，而且它应该能听懂人类的命令，以便于人类使用。”
换句话说，就是鼎力出奇迹！
接下来的两年（2019、2020年），在几乎没有改变模型架构的基础上，OpenAI陆续推出参数更大的迭代版本GPT-2、GPT-3，前者有15亿参数，后者有1750亿参数。
GPT-2在机能上已经超过BERT，到GPT-3又更进一步，几乎可以完成自然语言处理的绝大部分任务 ，例如面向题目的搜索、阅读理解、语义推断、机器翻译、文章生成和自动问答，甚至还可以依据任务描述自动天生代码。
GPT-3大获成功。OpenAI在早期测试结束后开始尝试对GPT-3进行商业化，付费用户可以通过API使用该模型完成所需语言任务，好比前文提到的AI绘画独角兽Jasper就是GPT-3的客户。
值得一提的是，这个过程中谷歌也在不断推出新的模型。但不同于OpenAI“从一而终”地坚持GPT路线，谷歌在BERT之后也推出了T5、Switch Transformer等模型，类似于赛马机制。
此时间隔ChatGPT的诞生还差一步。
3.意料之外的走红
在GPT-3发布之后，OpenAI研究职员在思索如何对模型进行改进。
他们发现，要想让GPT-3产出用户想要的东西，必需引入“人类反馈强化学习机制”（RLHF），通过人工标注对模型输出结果打分建立奖励模型，然后通过奖励模型继承轮回迭代。
而聊天机器人就是引入强化学习的最佳方式，由于在聊天过程中，人类的对话就即时、持续地向模型反馈数据，从而让模型根据反馈结果进行改进。由于加入了人工标注环节，OpenAI为此雇佣了大约40位外包职员来与机器人对话。
通过这样的练习，OpenAI获得了更真实、更无害，并且更好地遵循用户意图的语言模型InstructGPT，在2022年3月发布，并同期开始构建InstuctGPT的姊妹模型——ChatGPT。
图片来源真格基金
根据《财富》杂志报道，当ChatGPT准备就绪后，OpenAI一开始并没有想把它向公家开放，而是先让测试人员使用。
但根据OpenAI联合创始人兼现任总裁Greg Brockman的说法，这些测试人员不清晰应该与这个聊天机器人谈论什么。后来，OpenAI试图将ChatGPT转向特定领域的专业人士，但缺乏专业领域的练习数据。
OpenAI终极不得不决定将ChatGPT向公家开放。“我承认，我不知道这是否会奏效。” Brockman说。
在《纽约时报》的报道中，OpenAI发布ChatGPT还有另外一个理由：担心对手公司可能会在GPT-4 前发布他们的人工智能聊天机器人，因此要抢先发布。
总之，在2022年11月30日这天，ChatGPT诞生了。
ChatGPT成为了史上蹿红最快的应用。发布第五天，ChatGPT就积累了100万用户，这是Facebook花了10个月才达到的成绩；发布两个月，ChatGPT突破了1亿用户，对此TikTok用了大约九个月，Instagram用了两年多。
ChatGPT的迅速传播连OpenAI也猝不及防，OpenAI首席技术官Mira Murati说：“这绝对令人惊奇。”在旧金山VC流动上OpenAI CEO阿尔特曼说，他“本认为一切都会少一个数量级，少一个数量级的炒作”。
值得一提的是，OpenAI并非独一的大模型聊天机器人。2021年5月，谷歌也发布了专注于天生对话的语言模型LaMDA，但直到现在谷歌仍未对外“交卷”。本周谷歌匆忙发布的用于对抗ChatGPT的聊天机器人Bard就由LaMDA支撑，但Bard的上线日期也未宣布。
在这场OpenAI与谷歌持续数年的大模型竞争中，谷歌终极落了下风。
4.代价是什么？
但ChatGPT的成功，也让OpenAI付出了代价，“烧钱”的代价。
过去几年，大模型俨然成为了一场AI的军备竞赛。在2015年至2020年期间，用于练习大模型的计算量增加了6个数量级，在手写、语音和图像识别、阅读理解和语言理解方面超过了人类机能基准。
