Desde o final do ano passado a PyTorch Foundation fala sobre as novidades do PyTorch 2.0. Então, finalmente a versão estável PyTorch 2.0 está disponível e traz melhor desempenho de CPU e GPU.
Temos o prazer de anunciar o lançamento do PyTorch® 2.0 , que destacamos durante a Conferência PyTorch em 02/12/22! O PyTorch 2.0 oferece o mesmo desenvolvimento de modo avançado e experiência do usuário, ao mesmo tempo em que altera e sobrecarrega fundamentalmente como o PyTorch opera no nível do compilador com desempenho mais rápido e suporte para formas dinâmicas e distribuídas.
PyTorch 2.0 está disponível com melhor desempenho de CPU e GPU
O PyTorch 2.0 possui otimizações significativas para “sobrecarregá-lo” com melhor desempenho para os modos de operação da CPU e da GPU. PyTorch 2.0 usa compilação como sua API principal, TorchInductor com GPUs NVIDIA e AMD agora conta com OpenAI Triton para o compilador de aprendizagem profunda, um back-end Metal Performance Shaders fornece PyTorch acelerado por GPU no macOS, desempenho de inferência mais rápido em CPUs AWS Graviton e uma variedade de outros novos recursos e tecnologias de protótipo.
Juntamente com o 2.0, também estamos lançando uma série de atualizações beta para as bibliotecas de domínio PyTorch, incluindo aquelas que estão em árvore e bibliotecas separadas, incluindo TorchAudio, TorchVision e TorchText. Uma atualização para o TorchX também está sendo lançada à medida que passa para o modo de suporte da comunidade. Mais detalhes podem ser encontrados neste blog da biblioteca.
Para uma operação mais rápida da CPU, também há várias otimizações “críticas” para a inferência e treinamento GNN, bem como um desempenho mais rápido da CPU, fazendo uso do Intel oneDNN Graph.
Esta versão é composta por mais de 4.541 commits e 428 contribuidores desde 1.13.1. Queremos agradecer sinceramente à nossa comunidade dedicada por suas contribuições. Como sempre, encorajamos você a experimentá-los e relatar quaisquer problemas à medida que melhoramos o 2.0 e a série 2 em geral este ano.
Downloads e mais detalhes sobre o PyTorch 2.0 via PyTorch.org.