英特尔宋继强:满足ChatGPT应用,数据中心需要架构创新

首页 > 科技

英特尔宋继强:满足ChatGPT应用,数据中心需要架构创新

来源:焦糖老干妈 发布时间:2023-02-28 15:02

集微网报道 ChatGPT带火了生成式AI应用,也推动着AI技术发展来到新的临界点,各大科技公司不得不重视ChatGPT所带来的变化与冲击,进而纷纷涉足布局类ChatGPT技术。

ChatGPT大火的背后离不开高算力基础设施的支撑,而这一切的最基本的核心是芯片。ChatGPT接下来会对芯片算力、数据中心带来什么影响?

英特尔中国研究院院长宋继强在接受集微网等行业媒体采访时表示,“未来对算力的需求肯定是上升的。如果说仅用原来的一些方案去线性扩展的话,能效比肯定不是最优的,所以一定要去寻找更好的方法解决问题。”

据悉,ChatGPT在底层算法上并没有太多变化,但它的练习方式采用交互式、强化学习,大大增加了练习的复杂度,数据量也翻倍增长,导致它的模型规模以及练习本钱快速上升。此前,OpenAI预估算力需求每3.5个月会翻一倍,每年近10倍,对于目前许多硬件系统方案都会带来新的挑战。

提到AI应用的硬件产品,GPU当仁不让。过去六七年来,跟着AI技术在各行业中的应用落地,以英伟达为代表的GPU公司在场景应用上有了较大突破。ChatGPT的泛起,也让这些GPU公司看到了更广阔的应用远景。但作为新生事物,ChatGPT仍旧处在发展的早期阶段,就像以前的TensorFlow技术,最先是跑在CPU上,后来又有了ASIC芯片。ChatGPT未来发展,或会结合实际应用需求,在CPU、GPU、FPGA、ASIC等类型硬件中探寻更合适的加速方案。

“现在大模型的练习有很高的门槛,练习好了以后,真正要部署的时候提供服务,许多中小型企业参与,他们如何去选择一套最优的硬件方案是接下来的一大枢纽。”宋继强指出,“这需要在架构上去做立异,为它构造新的类似于CPU+GPU的集群,对存储也要做更多的优化。或许其它非GPU的硬件也可以加入进来,例如,专门的加速器或者FPGA方案,许多立异设法都有可能发生。”

作为一家芯片供应商,英特尔的产品中既有CPU,也有GPU、FPGA等多种类型硬件产品,同时,英特尔在数据中心高性能加速领域拥有深挚的经验积累,这些都为满意ChatGPT这类AI应用的硬件方案提供了基础。

“但我们还不太清晰不同领域的客户的工作负载中哪些环节存在不足,模型练习的交互流程中哪些有瓶颈。这恰是我们在做的工作,我们会去和头部客户深入交流,匡助他们去做适应中国应用的定制方案。”宋继强表示。

据悉,英特尔已与包括百度、阿里在内的广泛客户展开深入合作,下一步将跟中国头部客户去共同研究布局推进ChatGPT这类AI技术在企业及垂直领域的落地应用。

集微网报道 ChatGPT带火了生成式AI应用,也推动着AI技术发展来到新的临界点,各大科技公司不得不重视ChatGPT所带来的变化与冲击,进而纷纷涉足布局类ChatGPT技术。

ChatGPT大火的背后离不开高算力基础设施的支撑,而这一切的最基本的核心是芯片。ChatGPT接下来会对芯片算力、数据中心带来什么影响?

英特尔中国研究院院长宋继强在接受集微网等行业媒体采访时表示,“未来对算力的需求肯定是上升的。如果说仅用原来的一些方案去线性扩展的话,能效比肯定不是最优的,所以一定要去寻找更好的方法解决问题。”

据悉,ChatGPT在底层算法上并没有太多变化,但它的练习方式采用交互式、强化学习,大大增加了练习的复杂度,数据量也翻倍增长,导致它的模型规模以及练习本钱快速上升。此前,OpenAI预估算力需求每3.5个月会翻一倍,每年近10倍,对于目前许多硬件系统方案都会带来新的挑战。

提到AI应用的硬件产品,GPU当仁不让。过去六七年来,跟着AI技术在各行业中的应用落地,以英伟达为代表的GPU公司在场景应用上有了较大突破。ChatGPT的泛起,也让这些GPU公司看到了更广阔的应用远景。但作为新生事物,ChatGPT仍旧处在发展的早期阶段,就像以前的TensorFlow技术,最先是跑在CPU上,后来又有了ASIC芯片。ChatGPT未来发展,或会结合实际应用需求,在CPU、GPU、FPGA、ASIC等类型硬件中探寻更合适的加速方案。

“现在大模型的练习有很高的门槛,练习好了以后,真正要部署的时候提供服务,许多中小型企业参与,他们如何去选择一套最优的硬件方案是接下来的一大枢纽。”宋继强指出,“这需要在架构上去做立异,为它构造新的类似于CPU+GPU的集群,对存储也要做更多的优化。或许其它非GPU的硬件也可以加入进来,例如,专门的加速器或者FPGA方案,许多立异设法都有可能发生。”

集微网报道 ChatGPT带火了生成式AI应用,也推动着AI技术发展来到新的临界点,各大科技公司不得不重视ChatGPT所带来的变化与冲击,进而纷纷涉足布局类ChatGPT技术。

ChatGPT大火的背后离不开高算力基础设施的支撑,而这一切的最基本的核心是芯片。ChatGPT接下来会对芯片算力、数据中心带来什么影响?

英特尔中国研究院院长宋继强在接受集微网等行业媒体采访时表示,“未来对算力的需求肯定是上升的。如果说仅用原来的一些方案去线性扩展的话,能效比肯定不是最优的,所以一定要去寻找更好的方法解决问题。”

据悉,ChatGPT在底层算法上并没有太多变化,但它的练习方式采用交互式、强化学习,大大增加了练习的复杂度,数据量也翻倍增长,导致它的模型规模以及练习本钱快速上升。此前,OpenAI预估算力需求每3.5个月会翻一倍,每年近10倍,对于目前许多硬件系统方案都会带来新的挑战。

提到AI应用的硬件产品,GPU当仁不让。过去六七年来,跟着AI技术在各行业中的应用落地,以英伟达为代表的GPU公司在场景应用上有了较大突破。ChatGPT的泛起,也让这些GPU公司看到了更广阔的应用远景。但作为新生事物,ChatGPT仍旧处在发展的早期阶段,就像以前的TensorFlow技术,最先是跑在CPU上,后来又有了ASIC芯片。ChatGPT未来发展,或会结合实际应用需求,在CPU、GPU、FPGA、ASIC等类型硬件中探寻更合适的加速方案。

“现在大模型的练习有很高的门槛,练习好了以后,真正要部署的时候提供服务,许多中小型企业参与,他们如何去选择一套最优的硬件方案是接下来的一大枢纽。”宋继强指出,“这需要在架构上去做立异,为它构造新的类似于CPU+GPU的集群,对存储也要做更多的优化。或许其它非GPU的硬件也可以加入进来,例如,专门的加速器或者FPGA方案,许多立异设法都有可能发生。”

集微网报道 ChatGPT带火了生成式AI应用,也推动着AI技术发展来到新的临界点,各大科技公司不得不重视ChatGPT所带来的变化与冲击,进而纷纷涉足布局类ChatGPT技术。

ChatGPT大火的背后离不开高算力基础设施的支撑,而这一切的最基本的核心是芯片。ChatGPT接下来会对芯片算力、数据中心带来什么影响?

英特尔中国研究院院长宋继强在接受集微网等行业媒体采访时表示,“未来对算力的需求肯定是上升的。如果说仅用原来的一些方案去线性扩展的话,能效比肯定不是最优的,所以一定要去寻找更好的方法解决问题。”

据悉,ChatGPT在底层算法上并没有太多变化,但它的练习方式采用交互式、强化学习,大大增加了练习的复杂度,数据量也翻倍增长,导致它的模型规模以及练习本钱快速上升。此前,OpenAI预估算力需求每3.5个月会翻一倍,每年近10倍,对于目前许多硬件系统方案都会带来新的挑战。

提到AI应用的硬件产品,GPU当仁不让。过去六七年来,跟着AI技术在各行业中的应用落地,以英伟达为代表的GPU公司在场景应用上有了较大突破。ChatGPT的泛起,也让这些GPU公司看到了更广阔的应用远景。但作为新生事物,ChatGPT仍旧处在发展的早期阶段,就像以前的TensorFlow技术,最先是跑在CPU上,后来又有了ASIC芯片。ChatGPT未来发展,或会结合实际应用需求,在CPU、GPU、FPGA、ASIC等类型硬件中探寻更合适的加速方案。

“现在大模型的练习有很高的门槛,练习好了以后,真正要部署的时候提供服务,许多中小型企业参与,他们如何去选择一套最优的硬件方案是接下来的一大枢纽。”宋继强指出,“这需要在架构上去做立异,为它构造新的类似于CPU+GPU的集群,对存储也要做更多的优化。或许其它非GPU的硬件也可以加入进来,例如,专门的加速器或者FPGA方案,许多立异设法都有可能发生。”

上一篇:苹果换电池明... 下一篇:武汉生育津贴...
猜你喜欢
热门阅读
同类推荐