Edição Markdown

AI-translated from English; not yet reviewed by a fluent editor.

# Os contentores de inferência Xeon da Intel deixam a segurança e os testes de carga a cargo dos utilizadores

> Os novos Inference Microservices da Intel selecionam um perfil de serviço Xeon para um modelo por contentor. Os programadores continuam a ter de proteger o ponto final HTTP e testar a sua carga de trabalho.

By BIG CHANGE Editorial

Published: 2026-10-15T05:59:18.080Z
Updated: 2026-10-15T05:59:18.080Z
Canonical: https://bigchange.ai/blog/intel-inference-microservices-xeon-container-explainer

![Conceptual charcoal illustration of the rear of an unbranded rackmount server, with a power cable and an orange network cable routed downward.](https://bigchange.ai/api/media/file/intel-xeon-local-serving-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE; generic server hardware, with no actual Intel product, interface, deployment or test result depicted.

A Intel anunciou os [Inference Microservices](https://www.intel.com/content/www/us/en/newsroom/news/artificial-intelligence/intel-inference-microservices-tuned-llm-processors.html) a 14 de outubro: contentores específicos para cada modelo que servem um grande modelo de linguagem por contentor em processadores Xeon compatíveis. No arranque, um contentor deteta o anfitrião, seleciona o perfil da Intel para esse modelo e processador e inicia o vLLM por trás de uma API HTTP compatível com OpenAI. Para um programador com capacidade Xeon, a tarefa imediata é decidir se uma imagem documentada consegue servir um pedido de aplicação numa rede interna e, depois, medir a carga de trabalho nesse anfitrião.

As primeiras imagens publicadas têm a etiqueta `0.1.0`. Destinam-se a Xeon de quarta, quinta e sexta geração com precisão BF16, em Linux com Docker Engine 20.10 ou posterior ou Kubernetes 1.24 ou posterior. A [documentação](https://swcatalog.intel.com/developer/docs/intel-inference-microservices) descreve um pacote local de serving, não um ponto final alojado pela Intel: não é necessária uma chave de API da Intel. As afirmações da Intel de que os perfis reduzem o trabalho de afinação ou melhoram o desempenho são declarações do fornecedor; a BIG CHANGE não executou nem testou as imagens.

## A grande mudança

- **O que mudou:** A Intel empacotou configurações do vLLM específicas para cada modelo em contentores. Estes verificam um anfitrião Xeon compatível e escolhem um perfil de serviço integrado antes de exporem uma API padrão.
- **Porque é importante:**Uma aplicação pode chamar um ponto final de chat conhecido, mas o contentor não fornece encaminhamento da aplicação, autenticação, TLS, conformidade com a licença do modelo nem provas de que uma carga de trabalho específica atinge os objetivos de latência e capacidade.
- **O que acompanhar:**Confirme se o modelo necessário tem uma imagem de catálogo e um perfil correspondente; depois teste a prontidão, o comportamento das respostas e a carga no anfitrião pretendido. A Intel apresenta suporte para GPU, outros motores e precisões, um Helm chart e um operador como trabalho futuro, não como funcionalidades desta primeira versão.

## O que o contentor trata e o que continua a ser responsabilidade da equipa

A Intel afirma que a deteção no arranque considera a geração Xeon, os núcleos disponíveis, a topologia NUMA e as capacidades de processador suportadas. A imagem específica do modelo resolve um perfil que define a precisão, a distribuição do trabalho e a disposição da memória para o vLLM. Se não encontrar um perfil específico correspondente, falha no arranque em vez de mudar silenciosamente para um perfil geral. A imagem base da Intel para outros modelos Hugging Face tem uma alternativa geral diferente. Esta distinção importa para perceber se um arranque bem-sucedido representa a configuração específica do modelo que a equipa pretendia avaliar.

A [API documentada](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/reference/api-reference) expõe `GET /health`, `GET /v1/models`, `POST /v1/chat/completions`, `POST /v1/completions` e `GET /metrics` na porta 8000 por predefinição. `/health` devolve HTTP 200 com corpo vazio quando o modelo está pronto e 503 enquanto não está; verificar o código de estado é mais útil do que procurar um corpo de resposta. `/v1/models` devolve o único ID de modelo servido. A aplicação tem de fornecer esse ID num pedido de chat e escolher o encaminhamento se servir vários modelos. A Intel documenta streaming e bibliotecas cliente compatíveis com OpenAI, mas a compatibilidade do formato do pedido não demonstra a qualidade nem a velocidade do modelo e prompt específicos da equipa.

Existe também um limite de confiança explícito. O [guia de segurança](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/deployment/security-network-tokens-and-cache-mounts) indica que o ponto final não fornece TLS nem autenticação de quem o chama. Não exponha a porta 8000 numa rede pública sem um gateway de proteção ou um limite de rede. Em Kubernetes, a Intel recomenda restringir o acesso com uma NetworkPolicy e utilizar um gateway ou ingress para TLS e autenticação. O serviço funciona na infraestrutura do cliente, pelo que a equipa também é responsável pela capacidade do anfitrião, localização da cache, monitorização e acesso a pesos de modelos restritos.

## Primeiro uma verificação local documentada, depois um teste da carga de trabalho

Para o exemplo público Qwen3-4B, o [guia de início rápido](https://swcatalog.intel.com/developer/docs/intel-inference-microservices) da Intel fornece este comando Linux/Docker. Trata-se apenas do procedimento documentado; a BIG CHANGE não o executou:

```sh
docker run --rm -p 8000:8000 \
  --cap-add SYS_NICE \
  --shm-size=2g \
  intel/inference-xeon-qwen-qwen3-4b:0.1.0
```

A Intel diz que o primeiro arranque descarrega os pesos do modelo e pode demorar vários minutos. Num segundo terminal, `curl -i http://localhost:8000/health` deve apresentar HTTP 200 com corpo vazio quando o motor estiver pronto. Depois, `GET /v1/models` deverá identificar `Qwen/Qwen3-4B`, e um pedido `POST /v1/chat/completions` com esse ID e uma matriz `messages` deverá devolver uma resposta de chat completion. Estas verificações só demonstram que o ponto final documentado arrancou e respondeu. Uma decisão de implementação continua a exigir medições próprias da equipa sobre os pedidos, concorrência, latência e recursos, além de testes do comportamento perante falhas e reinícios.

Os [pré-requisitos](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/getting-started/prerequisites) sugerem 32 GB de RAM e 50 GB de espaço livre em disco para cache para modelos 4B–8B; os maiores precisam de mais memória. Recomenda-se Ubuntu 22.04 LTS ou posterior, embora o requisito de software seja Linux capaz de executar Docker Engine 20.10 ou posterior. O exemplo da Intel não exige um token Hugging Face para Qwen3-4B, e o respetivo [cartão do modelo](https://huggingface.co/Qwen/Qwen3-4B) indica Apache 2.0. Outros modelos podem ter acesso condicionado: é necessário verificar separadamente as licenças, a aprovação de acesso e o token de leitura. A documentação pública da Intel não indica um preço para o software microservices nem estabelece um custo de hardware ou operação para esta implementação.

A lista de [funcionalidades suportadas](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/reference/supported-features) da Intel distingue o percurso integrado e validado dos pass-throughs do vLLM. A utilização de ferramentas, saída estruturada, LoRA e alterações ao comprimento do contexto exigem `INFERENCE_ENGINE_ARGS` flags adicionais. Estas podem alterar ou invalidar a configuração afinada; a Intel recomenda inspecionar o comando resolvido com `dry-run` e testar o resultado sob carga. Trate-os como um projeto de integração separado, não como capacidades demonstradas pela imagem predefinida. As implementações Kubernetes podem adicionar réplicas e sondas de prontidão, mas a aplicação ou um gateway continua a encaminhar entre modelos. A anterior [cobertura da série D](https://bigchange.ai/blog/intel-d-series-d270-160gb-partner-480gb) da Intel diz respeito a um anúncio separado de hardware GPU, não a esta versão Xeon de serving.

## Fontes e leituras adicionais

- [Anúncio da Intel](https://www.intel.com/content/www/us/en/newsroom/news/artificial-intelligence/intel-inference-microservices-tuned-llm-processors.html), 14 de outubro de 2026. Descreve o contentor específico do modelo, a deteção do anfitrião, os perfis, o âmbito inicial Xeon e as extensões planeadas. As afirmações sobre afinação e desempenho são da Intel; a BIG CHANGE não as testou de forma independente.
- [Documentação Intel Inference Microservices](https://swcatalog.intel.com/developer/docs/intel-inference-microservices), assinalada como atualizada em 24 de setembro de 2026. O respetivo `0.1.0`guia de início rápido fornece o comando Qwen3-4B e o percurso inicial de saúde/chat; o procedimento acima baseia-se apenas na documentação.
- [Pré-requisitos](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/getting-started/prerequisites), [referência da API](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/reference/api-reference), [funcionalidades suportadas](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/reference/supported-features) e [orientações de segurança](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/deployment/security-network-tokens-and-cache-mounts), documentação da Intel assinalada como atualizada em 24 de setembro de 2026. Define anfitriões suportados, respostas de prontidão, funcionalidades integradas face aos pass-throughs do vLLM e o limite HTTP sem autenticação.
- [Cartão do modelo Qwen/Qwen3-4B](https://huggingface.co/Qwen/Qwen3-4B), consultado em 15 de outubro de 2026. Indica a licença Apache 2.0 para o modelo de exemplo; outros modelos podem ter condições e restrições de acesso diferentes.

## Sources

- [Anúncio Intel Inference Microservices](https://www.intel.com/content/www/us/en/newsroom/news/artificial-intelligence/intel-inference-microservices-tuned-llm-processors.html) — Anúncio do fornecedor; os benefícios de desempenho e afinação são alegações da Intel.
- [Documentação Intel Inference Microservices](https://swcatalog.intel.com/developer/docs/intel-inference-microservices) — Assinalada como atualizada em 24 de setembro de 2026; guia de início rápido para a etiqueta de imagem 0.1.0.
- [Pré-requisitos da Intel](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/getting-started/prerequisites) — Anfitriões compatíveis, sugestões de memória/cache, Docker e acesso a modelos condicionados.
- [Funcionalidades suportadas pela Intel](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/reference/supported-features) — Diferença entre a superfície validada e os pass-throughs do vLLM.
- [Referência da API da Intel](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/reference/api-reference) — Caminhos, estados de prontidão, ID do modelo e formato da resposta.
- [Orientações de segurança da Intel](https://swcatalog.intel.com/developer/docs/intel-inference-microservices/deployment/security-network-tokens-and-cache-mounts) — O ponto final HTTP não tem TLS nem autenticação de quem o chama.
- [Cartão do modelo Qwen/Qwen3-4B](https://huggingface.co/Qwen/Qwen3-4B) — O modelo de exemplo indica uma licença Apache 2.0.