AI-translated from English; not yet reviewed by a fluent editor.
# TorchNeuron da AWS traz um backend nativo do PyTorch para o Trainium
> O Neuron 2.33 da AWS apresenta um backend do PyTorch em beta público para Trainium2 e Trainium3. As versões compatíveis, a cobertura de operadores e os limites de compilação definem o que os engenheiros precisam verificar em uma avaliação.
By BIG CHANGE Editorial
Published: 2026-10-20T04:20:56.038Z
Updated: 2026-10-20T04:20:56.038Z
Canonical: https://bigchange.ai/blog/aws-torchneuron-native-pytorch-backend-trainium
AI-generated conceptual illustration by BIG CHANGE.
As [notas de versão](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/release-notes/components/torchneuron.html) do Neuron 2.33 da AWS datam o beta público do TorchNeuron em 19 de outubro. O [anúncio do PyTorch](https://pytorch.org/blog/introducing-torchneuron-native-pytorch-backend-for-aws-trainium/), também datado de 19 de outubro, informa que o lançamento do beta público e do código aberto ocorre em 20 de outubro. O pacote `torch-neuronx` registra um dispositivo `neuron` no PyTorch para Trainium2 e Trainium3, permitindo que operações de modelos e tensores compatíveis usem as APIs conhecidas do PyTorch. Para os engenheiros que consideram esses chips, a mudança útil é um caminho mais curto entre um programa PyTorch existente e um teste no dispositivo. Se esse programa funciona corretamente e com eficiência ainda depende de suas operações, dos formatos dos tensores e do ambiente de software.
O caminho anterior do PyTorch para o Trainium usava uma biblioteca `torch-neuronx` baseada em XLA e código de dispositivo `torch_xla`. A AWS afirma que o backend nativo usa a extensão `PrivateUse1` do PyTorch e substitui `xm.xla_device()` pelo posicionamento no dispositivo `neuron`. É uma mudança significativa de interface para projetos que já usam o Neuron, embora o nome do pacote seja conhecido. A versão se aplica a treinamento e inferência em instâncias Trn2 e Trn3; a matriz de suporte não lista o Trn1.
## O que muda em um programa PyTorch
As [notas de versão da AWS](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/release-notes/components/torchneuron.html) mostram um modelo movido com `.to("neuron")` e um tensor de entrada criado em `device="neuron"`. As operações compatíveis de `torch.nn`, autograd e otimizadores passam então pelo backend. O código escrito para a API independente de dispositivo `torch.accelerator` do PyTorch pode descobrir o Neuron sem uma reescrita específica para o dispositivo, segundo a [visão geral do TorchNeuron](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/about-pytorch-neuron.html).
Há dois caminhos de execução. O modo eager executa as operações do PyTorch conforme o Python as chama, preservando o fluxo de controle normal, as impressões e os pontos de interrupção. Cada operação é compilada no primeiro uso, e chamadas posteriores correspondentes podem usar um cache. Os engenheiros também podem compilar um modelo ou uma região selecionada com `torch.compile(model, backend="neuron", dynamic=False)`. O backend nativo compila os grafos compatíveis de propagação direta e retropropagação; o código fora da região capturada continua em modo eager. O [anúncio do PyTorch](https://pytorch.org/blog/introducing-torchneuron-native-pytorch-backend-for-aws-trainium/) também descreve como configurar `torch.compiler.set_default_backend("neuron")` uma vez antes de compilar, para que chamadas de compilação posteriores possam omitir o argumento do backend.
A versão inclui um backend `neuron` para `torch.distributed`, com operações coletivas e ponto a ponto documentadas. A AWS lista DistributedDataParallel, FSDP2, DTensor, DeviceMesh e paralelismo de pipeline entre as APIs compatíveis. São caminhos úteis a examinar em um projeto de treinamento distribuído, mas as notas de versão não demonstram que uma tarefa existente em vários nós funcionará sem alterações nem que atingirá uma meta específica de vazão.
## A avaliação começa com um ambiente compatível
O [guia de instalação rápida](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/get-started/quickstart-torch-neuron.html) da AWS exige uma instância Trn2 ou Trn3 e uma Neuron Base DLAMI ou uma AMI Ubuntu compatível. A matriz da versão especifica Linux x86\_64 no Ubuntu 24.04 ou 26.04. O suporte ao Ubuntu 22.04 terminou para essa versão. Ela lista Python 3.12, 3.13 e 3.14, com `torch-neuronx` 2.13.3.0 para PyTorch 2.13.0 ou `torch-neuronx` 2.14.3.0 para PyTorch 2.14.0. A família do pacote precisa corresponder à versão do PyTorch.
O guia rápido instala `torch-neuronx==2.14.*` junto com `neuronx-cc==2.*` e `nki` a partir dos índices de pacotes do Neuron e do PyTorch. Em seguida, verifica a disponibilidade do dispositivo e compara uma pequena operação matricial no Neuron com um resultado na CPU. Isso verifica o caminho do dispositivo instalado no exemplo da AWS. Não valida o modelo do leitor. Uma próxima avaliação sensata é executar os caminhos de propagação direta e retropropagação do modelo real, examinar os fallbacks para CPU registrados com `torch_neuronx.get_fallback_ops()`, comparar as saídas com as do ambiente atual e medir separadamente a compilação e as execuções em regime estável. Essas últimas etapas são questões de avaliação propostas pelo BIG CHANGE, e não testes que realizamos.
## Onde o beta ainda pode mudar o trabalho
No modo eager, uma operação não compatível pode recorrer à CPU e emitir um aviso. Com `torch.compile`, uma operação capturada em um grafo que o backend Neuron não consegue converter faz a compilação falhar por padrão. A AWS direciona os desenvolvedores à sua [tabela de compatibilidade de operadores](https://github.com/aws-neuron/torch-neuronx/blob/main/docs/torch_api_compatibility.md) para consultar a cobertura de cada operação. Portanto, uma execução eager concluída não comprova, por si só, que toda a execução ocorre no dispositivo nem que há compatibilidade com a compilação.
A versão também informa que `torch.compile` exige `dynamic=False`; um novo formato de entrada pode exigir outra compilação. A AWS sugere preenchimento ou agrupamento por formatos, conhecido como bucketing, para reduzir essa variação. A primeira execução inclui a compilação quando não há um artefato correspondente no cache. Esses detalhes importam ao cronometrar uma carga de trabalho: a latência de compilação e o padrão dos formatos de entrada podem alterar o resultado de uma avaliação.
Outros limites explícitos restringem a compatibilidade anunciada. O beta não oferece suporte a `torch.sparse`, `torch.func`, `torch.nested` ou `torch.distributions`. Apenas algumas transformações de `torch.fft` são executadas no Neuron, e `float64` é executado como `float32` com um aviso. A integração com TorchAO e o suporte ao tipo de dados composto MXFP8 estão ausentes nessa versão. Uma equipe que usa essas funções precisa verificar seu próprio caminho de código antes de tratar o posicionamento do dispositivo como um plano de migração.
### A grande mudança
O TorchNeuron coloca o Trainium por trás das interfaces nativas de dispositivo e compilação do PyTorch em um beta público. Isso torna um primeiro teste mais direto para programas PyTorch compatíveis e oferece aos usuários atuais do Neuron um caminho diferente do código baseado em XLA. A evidência decisiva para a adoção virá de cada carga de trabalho: se seus operadores permanecem no dispositivo pretendido, se seus resultados numéricos continuam aceitáveis e se o desempenho e o custo medidos justificam a instância e o trabalho de migração. O BIG CHANGE analisou a documentação e os anúncios para esta análise; não executamos o TorchNeuron nem verificamos de forma independente as alegações de desempenho da AWS.
## Fontes e leituras complementares
- [Notas de versão do TorchNeuron no AWS Neuron 2.33](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/release-notes/components/torchneuron.html): data de lançamento, status de beta, matriz de versões e sistemas operacionais, APIs e limitações conhecidas.
- [Visão geral do TorchNeuron pela AWS](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/about-pytorch-neuron.html): integração de dispositivo, execução eager e compilada, comportamento do fallback para CPU e caminho de software pelo Neuron.
- [Guia rápido de instalação e verificação da AWS](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/get-started/quickstart-torch-neuron.html): pré-requisitos de instância e imagem, instalação de pacotes e verificação documentada do dispositivo.
- [Blog do PyTorch: apresentação do TorchNeuron](https://pytorch.org/blog/introducing-torchneuron-native-pytorch-backend-for-aws-trainium/): a explicação pelo lado do PyTorch sobre troca de dispositivo, compilação e APIs distribuídas. O artigo é um anúncio de colaboradores da AWS no blog do PyTorch, não um benchmark independente.
- [Anúncio da Amazon](https://www.aboutamazon.com/news/innovation-at-amazon/torchneuron-pytorch-aws-trainium-chips-ai): a descrição da AWS sobre seus objetivos e os primeiros usuários. Suas alegações de migração, desempenho e economia exigem verificação para cada carga de trabalho.
## Sources
- [Notas de versão do AWS Neuron: TorchNeuron](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/release-notes/components/torchneuron.html) — Fonte primária; data seu beta público em 2026-10-19, um dia antes do lançamento do beta público e do código aberto informado no anúncio do PyTorch; matriz de versões e limites declarados.
- [O que é o TorchNeuron?](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/about-pytorch-neuron.html) — Documentação primária sobre o uso do dispositivo e do backend.
- [Blog do PyTorch: TorchNeuron, backend nativo do PyTorch para AWS Trainium](https://pytorch.org/blog/introducing-torchneuron-native-pytorch-backend-for-aws-trainium/) — Anúncio pelo lado do PyTorch escrito por colaboradores da AWS; datado de 19 de outubro, informa que o beta público e o código aberto ficam disponíveis em 20 de outubro. A URL atual foi acessada pelo artigo da Amazon; não é uma verificação independente de desempenho.
- [Anúncio da Amazon](https://www.aboutamazon.com/news/innovation-at-amazon/torchneuron-pytorch-aws-trainium-chips-ai) — Anúncio do fornecedor; as alegações de migração e economia são declarações da AWS, não verificadas de forma independente.
- [Instalar e verificar o torch-neuronx](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/torch/get-started/quickstart-torch-neuron.html) — Guia rápido da AWS com pré-requisitos, instalação de pacotes correspondentes e uma verificação documentada de dispositivo CPU/Neuron.
- [Tabela de compatibilidade da API do TorchNeuron](https://github.com/aws-neuron/torch-neuronx/blob/main/docs/torch_api_compatibility.md) — Classificações do mantenedor para cada API: execução nativa, fallback para CPU e não compatível.
Newsletter da BIG CHANGE
A visão ampla, no seu ritmo.
Matérias recentes sobre IA e robótica, mudanças que merecem atenção e ideias práticas para usar. Escolha um briefing diário, um resumo semanal ou uma perspectiva mensal.
Next scheduled send (UTC): . Your first edition arrives at the next scheduled send after you confirm.
Sua privacidade, sua escolha.
O armazenamento necessário ajuda a proteger o site e a lembrar suas escolhas. O Google Analytics opcional permanece desativado até você autorizá-lo. Você pode ler todas as matérias usando apenas o armazenamento necessário. Detalhes de privacidade