AI-translated from English; not yet reviewed by a fluent editor.
# O TorchNeuron da AWS traz um backend PyTorch nativo para o Trainium
> A versão Neuron 2.33 da AWS apresenta um backend PyTorch em beta pública para Trainium2 e Trainium3. As versões suportadas, a cobertura de operadores e os limites de compilação definem o que os engenheiros precisam de verificar numa avaliação.
By BIG CHANGE Editorial
Published: 2026-10-20T04:20:56.038Z
Updated: 2026-10-20T04:20:56.038Z
Canonical: https://bigchange.ai/blog/aws-torchneuron-native-pytorch-backend-trainium
AI-generated conceptual illustration by BIG CHANGE.
As [notas de versão](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/release-notes/components/torchneuron.html) do Neuron 2.33 da AWS datam a beta pública do TorchNeuron de 19 de outubro. O [anúncio do PyTorch](https://pytorch.org/blog/introducing-torchneuron-native-pytorch-backend-for-aws-trainium/), também datado de 19 de outubro, diz que a beta pública e o lançamento em código aberto ficam disponíveis a 20 de outubro. O pacote `torch-neuronx` regista no PyTorch um dispositivo `neuron` para Trainium2 e Trainium3, permitindo que as operações de modelos e tensores suportadas usem as API habituais do PyTorch. Para os engenheiros que ponderam estes chips, a mudança útil é um caminho mais curto entre um programa PyTorch existente e uma experiência no dispositivo. Se esse programa funciona correta e eficientemente continua a depender das suas operações, formas e ambiente de software.
O percurso anterior do PyTorch para Trainium usava uma biblioteca `torch-neuronx` baseada em XLA e código de dispositivo `torch_xla`. A AWS diz que o backend nativo usa a extensão `PrivateUse1` do PyTorch e substitui `xm.xla_device()` pela colocação no dispositivo `neuron`. É uma alteração significativa da interface para projetos que já usam Neuron, embora o nome do pacote seja familiar. A versão aplica-se ao treino e à inferência em instâncias Trn2 e Trn3; a matriz de suporte não inclui Trn1.
## O que muda num programa PyTorch
As [notas de versão da AWS](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/release-notes/components/torchneuron.html) mostram um modelo movido com `.to("neuron")` e um tensor de entrada criado em `device="neuron"`. As operações suportadas de `torch.nn`, autograd e otimizadores passam então pelo backend. O código escrito para a API do PyTorch independente do dispositivo `torch.accelerator` pode detetar Neuron sem uma reescrita específica para esse dispositivo, segundo a [visão geral do TorchNeuron](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/about-pytorch-neuron.html).
Há dois percursos de execução. O modo imediato executa as operações PyTorch quando o Python as invoca, preservando o fluxo de controlo, as saídas de impressão e os pontos de interrupção habituais. Cada operação é compilada na primeira utilização e as chamadas seguintes que correspondam podem usar uma cache. Os engenheiros também podem compilar um modelo ou uma região selecionada com `torch.compile(model, backend="neuron", dynamic=False)`. O backend nativo compila os grafos suportados de propagação direta e inversa; o código fora da região capturada continua em modo imediato. O [anúncio do PyTorch](https://pytorch.org/blog/introducing-torchneuron-native-pytorch-backend-for-aws-trainium/) também descreve a definição de `torch.compiler.set_default_backend("neuron")` uma vez antes de compilar, para que as chamadas de compilação posteriores possam omitir o argumento do backend.
A versão inclui um backend `neuron` para `torch.distributed`, com operações coletivas e ponto a ponto documentadas. A AWS enumera DistributedDataParallel, FSDP2, DTensor e DeviceMesh, bem como o paralelismo em pipeline, entre as API suportadas. São percursos úteis a analisar num projeto de treino distribuído, mas as notas de versão não demonstram que uma tarefa existente com vários nós funcione sem alterações ou atinja uma meta específica de débito.
## A avaliação começa com um ambiente compatível
O [guia de instalação rápida](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/get-started/quickstart-torch-neuron.html) da AWS exige uma instância Trn2 ou Trn3 e uma Neuron Base DLAMI ou uma Ubuntu AMI suportada. A matriz da versão especifica Linux x86\_64 em Ubuntu 24.04 ou 26.04. O suporte para Ubuntu 22.04 termina nesta versão. São indicados Python 3.12, 3.13 e 3.14, com `torch-neuronx` 2.13.3.0 para PyTorch 2.13.0 ou `torch-neuronx` 2.14.3.0 para PyTorch 2.14.0. A família do pacote tem de corresponder à versão do PyTorch.
O guia rápido instala `torch-neuronx==2.14.*` juntamente com `neuronx-cc==2.*` e `nki` a partir dos índices de pacotes Neuron e PyTorch. Depois verifica a disponibilidade do dispositivo e compara uma pequena operação matricial em Neuron com um resultado da CPU. Isto verifica o percurso do dispositivo instalado no exemplo da AWS. Não valida o modelo do leitor. Uma avaliação seguinte sensata consiste em executar os percursos direto e inverso do modelo real, inspecionar as operações de recurso à CPU registadas com `torch_neuronx.get_fallback_ops()`, comparar os resultados com o ambiente atual e medir separadamente a compilação e as execuções em regime estável. Estes últimos passos são questões de avaliação propostas pela BIG CHANGE, não testes que tenhamos realizado.
## Onde a beta ainda pode alterar o trabalho
No modo imediato, uma operação não suportada pode recorrer à CPU e emitir um aviso. Com `torch.compile`, uma operação capturada num grafo que o backend Neuron não consiga converter para uma representação de nível inferior faz a compilação falhar por predefinição. A AWS remete os programadores para a sua [tabela de compatibilidade de operadores](https://github.com/aws-neuron/torch-neuronx/blob/main/docs/torch_api_compatibility.md) para conhecerem a cobertura por operação. Assim, uma execução imediata concluída não prova, por si só, a execução integral no dispositivo nem a compatibilidade com a compilação.
A versão também indica que `torch.compile` exige `dynamic=False`; uma nova forma de entrada pode exigir outra compilação. A AWS sugere padding ou agrupamento em buckets para reduzir a variação das formas. A primeira execução inclui a compilação se não houver um artefacto correspondente em cache. Estes pormenores são importantes ao medir o tempo de uma carga de trabalho: a latência de compilação e o padrão das formas de entrada podem alterar o resultado de uma avaliação.
Outros limites explícitos restringem a alegação de compatibilidade. A beta não suporta `torch.sparse`, `torch.func`, `torch.nested` ou `torch.distributions`. Apenas algumas transformadas de `torch.fft` são executadas em Neuron, e `float64` é executado como `float32` com um aviso. A integração TorchAO e o suporte para o tipo de dados composto MXFP8 estão ausentes desta versão. Uma equipa que use estas interfaces precisa de verificar o seu próprio percurso de código antes de considerar a colocação no dispositivo como um plano de migração.
### A grande mudança
O TorchNeuron coloca o Trainium por trás das interfaces nativas de dispositivos e compilação do PyTorch numa beta pública. Isto torna a primeira experiência mais direta para programas PyTorch suportados e dá aos utilizadores atuais do Neuron um percurso diferente do seu código baseado em XLA. A prova decisiva para a adoção virá de cada carga de trabalho: se os operadores permanecem no dispositivo pretendido, se os resultados numéricos continuam a ser aceitáveis e se o desempenho e o custo medidos justificam a instância e o trabalho de migração. A BIG CHANGE analisou a documentação e os anúncios para esta análise; não executámos TorchNeuron nem verificámos de forma independente as alegações de desempenho da AWS.
## Fontes e leituras adicionais
- [Notas de versão do AWS Neuron 2.33 TorchNeuron](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/release-notes/components/torchneuron.html): data de lançamento, estado da beta, matriz de versões e sistemas operativos, API e limitações conhecidas.
- [Visão geral do TorchNeuron da AWS](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/about-pytorch-neuron.html): integração de dispositivos, execução imediata e compilada, comportamento de recurso à CPU e percurso do software através do Neuron.
- [Guia rápido de instalação e verificação da AWS](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/get-started/quickstart-torch-neuron.html): requisitos da instância e da imagem, instalação de pacotes e verificação documentada do dispositivo.
- [Blogue PyTorch: apresentação do TorchNeuron](https://pytorch.org/blog/introducing-torchneuron-native-pytorch-backend-for-aws-trainium/): explicação, do lado do PyTorch, sobre a mudança de dispositivo, compilação e API distribuídas. O artigo é um anúncio de colaboradores da AWS no blogue PyTorch, não um teste de desempenho independente.
- [Anúncio da Amazon](https://www.aboutamazon.com/news/innovation-at-amazon/torchneuron-pytorch-aws-trainium-chips-ai): descrição da AWS dos seus objetivos e primeiros utilizadores. As alegações de migração, desempenho e economia exigem verificação específica para cada carga de trabalho.
## Sources
- [Notas de versão do AWS Neuron: TorchNeuron](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/release-notes/components/torchneuron.html) — Fonte primária; data a beta pública de 2026-10-19, um dia antes do lançamento da beta pública e do código aberto indicado no anúncio do PyTorch; matriz de versões e limites declarados.
- [O que é o TorchNeuron?](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/about-pytorch-neuron.html) — Documentação primária sobre a utilização do dispositivo/backend.
- [Blogue PyTorch: TorchNeuron, backend PyTorch nativo para AWS Trainium](https://pytorch.org/blog/introducing-torchneuron-native-pytorch-backend-for-aws-trainium/) — Anúncio do lado do PyTorch por colaboradores da AWS; datado de 19 de outubro e indica que a beta pública/código aberto fica disponível a 20 de outubro. URL ativo obtido a partir do artigo da Amazon; não é verificação independente do desempenho.
- [Anúncio da Amazon](https://www.aboutamazon.com/news/innovation-at-amazon/torchneuron-pytorch-aws-trainium-chips-ai) — Anúncio do fornecedor; as alegações sobre migração e economia são declarações da AWS, não verificadas de forma independente.
- [Instalar e verificar torch-neuronx](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/get-started/quickstart-torch-neuron.html) — Guia rápido da AWS sobre requisitos, instalação de pacotes compatíveis e uma verificação documentada do dispositivo CPU/Neuron.
- [Tabela de compatibilidade da API TorchNeuron](https://github.com/aws-neuron/torch-neuronx/blob/main/docs/torch_api_compatibility.md) — Classificações do responsável pelo projeto por API: execução nativa, recurso à CPU e não suportado.
Newsletter BIG CHANGE
A perspetiva geral, ao seu ritmo.
Histórias recentes sobre IA e robótica, mudanças que vale a pena acompanhar e ideias práticas para utilizar. Escolha um briefing diário, um resumo semanal ou uma perspetiva mensal.
Next scheduled send (UTC): . Your first edition arrives at the next scheduled send after you confirm.
A sua privacidade, a sua escolha.
O armazenamento necessário ajuda a proteger o site e a memorizar as suas escolhas. O Google Analytics opcional permanece desativado até que o autorize. Pode ler todos os artigos utilizando apenas o armazenamento necessário. Detalhes de privacidade