深度学习大佬Sebastian也证实,这次更新后,用PyTorch编译NumPy代码时速度暴增35倍!激动人心!
而就在前不久,PyTorch 2.1也正式发布了。
这个新版本在torch.compile、torch.distributed.checkpoint中提供自动动态形状(Automatic Dynamic Shape)支持,可以在多个队列上并行保存/加载分布式训练作业,以及torch.compile对NumPy API的支持。
此外,新版本还提供了多个性能方面的改进(例如CPU电感器改进、AVX512支持、缩放点积注意力支持)以及torch.export的原型版本、健全的全图捕获机制和torch.export基于量化。
除了新品的发布,业内各路大佬都会在大会上分享关于AI模型训练,AI开源的深度见解。
ExecuTorch让AI模型部署到全平台
在这次的PyTorch Conference上,最重要的内容就是ExecuTorch的发布。
ExecuTorch是一个面向移动端的PyTorch平台,提供基础设施来运行PyTorch 程序,支持从AR/VR,可穿戴设备到标准设备上iOS和Android移动部署。
ExecuTorch的主要目标之一是实现PyTorch程序更广泛的定制和部署功能。
官方宣称这套工具使机器学习开发人员能够用更加高效的方式对各种平台上的模型进行分析和调试。