Jeff Dean发推:谷歌超硬年终总结“第三弹”来了!大力发展Jax

首页 > 科技

Jeff Dean发推:谷歌超硬年终总结“第三弹”来了!大力发展Jax

来源:鹭岛风情 发布时间:2023-02-03 14:20

  新智元报道  

编纂:Aeneas 好困

【新智元导读】谷歌费心打造的年终总结第三弹,火热出炉了!

刚刚,Jeff Dean发推表示,谷歌重磅打造的超级硬核年终大总结,出第三弹了!

第一弹:「超详超硬Jeff Dean万字总结火热出炉!图解谷歌2022年AIGC、LLM、CV三大领域成就」

第二弹:「谷歌2022年度回顾:让AI更负责任,主要做了4点微小的工作」

伟大的机器学习研究需要伟大的系统。

跟着算法和硬件越来越复杂,以及运行规模越来越大,执行日常任务所需的软件的复杂性也在不断增加。

在这篇文章中,研究职员概述了过去一年整个谷歌在ML系统方面取得的众多进展,这些进展使谷歌能够支持复杂模型的服务和练习,同时减轻了终端用户的实施复杂性。

同时,这篇文章还提到了谷歌如何利用ML本身来改进和设计下一代系统堆栈的研究。

机器学习编程语言

对于机器学习的工作,基础架构的稳健性和正确性至关重要。

谷歌一直在努力,确保基础架构建立在可靠的技术和理论基础之上。并且,作为后盾,谷歌一直在做编程语言和构建编译器方面的前沿研究。

谷歌会继承对开源MLIR编译器的基础架构投资,构建更加可控、可组合和模块化的编译器堆栈。

论文地址:https://research.google/pubs/pub49988/

此外,谷歌在稀疏线性代数的代码生成方面也取得了很大进展,现在可以从几乎相同的MLIR程序中天生密集和稀疏的代码。

最后,谷歌还继承开发了IREE编译器,这个编译器既可以在位于数据中心的强盛计算机上使用,在可以在智能手机之类的移动设备上使用。

IREE的端到端流程

在更理论的层面,谷歌探索了哪些方法可以形式化(formalize)和验证自己使用的代码生成技术。

谷歌还发布了一种新奇的方法,用于执行和形式化一套自动微分(AD)系统,它恰是ML库的核心。

上一篇:微粒贷客服电... 下一篇:城乡居民养老...
猜你喜欢
热门阅读
同类推荐