PyTorch
PyTorch的前身是Torch,其底层和Torch框架一样,但是使用Python重新写了很多内容,不仅更加灵活,支持动态图,而且提供了Python接口。它是由Torch7团队开发,是一个以Python优先的深度学习框架,不仅能够实现强大的GPU加速,同时还支持动态神经网络。PyTorch既可以看作加入了GPU支持的numpy,同时也可以看成一个拥有自动求导功能的强大的深度神经网络。除了Facebook外,它已经被Twitter、CMU和Salesforce等机构采用。
==== |
====== |
========= |
======= |
===== |
==== |
==== |
==== |
======= |
======= |
============ |
======= |
|
PyTorch 分布式概述
单机模型并行最佳实践
分布式数据并行入门
用 PyTorch 编写分布式应用
分布式 RPC 框架入门
使用分布式 RPC 框架实现参数服务器
使用 RPC 的分布式管道并行化
使用异步执行实现批量 RPC 处理
将分布式DataParallel与分布式 RPC 框架相结合
PyTorch的前身是Torch,其底层和Torch框架一样,但是使用Python重新写了很多内容,不仅更加灵活,支持动态图,而且提供了Python接口。它是由Torch7团队开发,是一个以Python优先的深度学习框架,不仅能够实现强大的GPU加速,同时还支持动态神经网络。PyTorch既可以看作加入了GPU支持的numpy,同时也可以看成一个拥有自动求导功能的强大的深度神经网络。除了Facebook外,它已经被Twitter、CMU和Salesforce等机构采用。