Destaques
- A Intel lança o Xeon 6 com Performance-cores (P-cores), dobrando o desempenho para cargas de trabalho de IA e HPC.
- Os novos aceleradores de IA Gaudi 3 oferecem até 20% mais rendimento e 2x preço/desempenho em comparação ao H100 para inferência do LLaMa 2 70B1.
SANTA CLARA, Califórnia, 24 de setembro de 2024 — À medida que a IA continua a revolucionar os setores, as empresas precisam cada vez mais de infraestrutura que seja econômica e disponível para rápido desenvolvimento e implantação Para atender a essa demanda de frente, a Intel lançou hoje o Xeon 6 com performance-cores (P-cores) e aceleradores de IA Gaudi 3, reforçando o compromisso da empresa de fornecer sistemas de IA poderosos com desempenho ideal por watt e menor custo total de propriedade (TCO).
“A demanda por IA está levando a uma transformação massiva no data center, e a indústria está pedindo escolhas em hardware, software e ferramentas de desenvolvedor”, disse Justin Hotard, vice-presidente executivo da Intel e gerente geral do Data Center and Artificial Intelligence Group "Com nosso lançamento do Xeon 6 com núcleos de desempenho (P-cores) e aceleradores de IA Gaudi 3, a Intel está habilitando um ecossistema aberto que permite que nossos clientes implementem todas as suas cargas de trabalho com maior desempenho, eficiência e segurança".
Mais: Intel Xeon 6 com P-cores e aceleradores Gaudi 3 AI (Kit de imprensa) | Liderança em desempenho com a série P-core 6900 Intel Xeon 6900 (Ficha técnica) | Uma nova era de sistemas e soluções de IA empresariais de alto desempenho (cotação de folha)
Apresentando o Intel Xeon 6 com aceleradores P-cores e Gaudi 3 AI Apresentando o Intel Xeon 6 com núcleos de desempenho (P-cores) e aceleradores de IA Gaudi 3
Os últimos avanços da Intel em infraestrutura de IA incluem duas grandes atualizações em seu portfólio de data center:
- Intel® Xeon® 6 com núcleos de desempenho (P-cores): Projetado para lidar com cargas de trabalho intensivas em computação com eficiência excepcional, o Xeon 6 oferece o dobro do desempenho de seu antecessor2. Ele apresenta maior contagem de núcleos, o dobro da largura de banda de memória e recursos de aceleração de IA incorporados em cada núcleo. Este processador foi projetado para atender às demandas de desempenho de IA da borda ao data center e ambientes de nuvem.
- Acelerador de IA Intel® Gaudi® 3: Especificamente otimizado para IA generativa em larga escala, o Gaudi 3 ostenta 64 núcleos de processador Tensor (TPCs) e oito mecanismos de multiplicação de matrizes (MMEs) para acelerar computações de rede neural profunda Ele inclui 128 gigabytes (GB) de memória HBMe2 para treinamento e inferência, e 24 portas Ethernet de 200 Gigabits (Gb) para rede escalável O Gaudi 3 também oferece compatibilidade perfeita com a estrutura PyTorch e modelos avançados de transformador e difusor Hugging Face. A Intel anunciou recentemente uma colaboração com a IBM para implantar aceleradores de IA Intel Gaudi 3 como um serviço na IBM Cloud. Por meio dessa colaboração, a Intel e a IBM visam reduzir o custo total de propriedade para alavancar e escalar a IA, ao mesmo tempo em que aprimoram o desempenho.
Melhorando os sistemas de IA com benefícios de TCO
A implantação de IA em escala envolve considerações como opções de implantação flexíveis, relações preço-desempenho competitivas e tecnologias de IA acessíveis A infraestrutura x86 robusta da Intel e o amplo ecossistema aberto a posicionam para dar suporte a empresas na construção de sistemas de IA de alto valor com um TCO e desempenho por watt ideais Notavelmente, 73% dos servidores acelerados por GPU usam Intel Xeon como sua CPU de base3.
A Intel faz parcerias com OEMs líderes, incluindo Dell Technologies e Supermicro para desenvolver sistemas coprojetados sob medida para necessidades específicas do cliente para implantações de IA eficazes. A Dell Technologies está atualmente coprojetando soluções baseadas em RAG, aproveitando o Gaudi 3 e o Xeon 6.
A Intel lançou hoje o acelerador de IA Intel Gaudi 3 em 24 de setembro de 2024, durante um momento de lançamento virtual. O acelerador é otimizado para IA gerativa em larga escala. (Crédito: Intel Corporation)
A Intel lançou hoje o acelerador de IA Intel Gaudi 3 em 24 de setembro de 2024, durante um momento de lançamento virtual. Gaudi 3 PCIe CEM estamos trazendo mais eficiência à IA de Geração — com menor consumo de energia e custo e ideal para inferência, ajuste fino e treinamento de modelo pequeno. (Crédito: Intel Corporation)
A Intel lançou hoje o acelerador de IA Intel Gaudi 3 em 24 de setembro de 2024, durante um momento de lançamento virtual. Gaudi 3 estará disponível tanto no fator de forma OAM em um UBB com 8 aceleradores conectados em uma topologia all2all. (Crédito: Intel Corporation)
A Intel lançou hoje o acelerador de IA Intel Gaudi 3 em 24 de setembro de 2024, durante um momento de lançamento virtual. A Gaudi 3 possui 64 núcleos de processador Tensor (TPCs) e oito mecanismos de multiplicação de matriz (MMEs) para acelerar computação de rede neural profunda. (Crédito: Intel Corporation)
A Intel lançou hoje o Intel Xeon 6 com P-cores durante um momento de lançamento virtual em 24 de setembro de 2024. O Xeon 6 com P-cores são exclusivamente projetados para oferecer saltos significativos de desempenho em espaços críticos de crescimento, como IA, HPC e banco de dados. (Crédito: Intel Corporation)
A Intel lançou hoje o Intel Xeon 6 com P-cores durante um momento de lançamento virtual em 24 de setembro de 2024. O Xeon 6 foi projetado para cargas de trabalho de computação intensiva com eficiência excepcional, o Xeon 6 oferece o dobro do desempenho de seu antecessor. (Crédito: Intel Corporation)
A Intel lançou hoje o Intel Xeon 6 com P-cores durante um momento de lançamento virtual em 24 de setembro de 2024. Ela possui uma maior contagem de núcleos, o dobro da largura de banda de memória e recursos de aceleração de IA embarcados em todos os núcleos. Este processador foi projetado para atender às demandas de desempenho de IA da borda ao data center e ambientes de nuvem. (Crédito: Intel Corporation)
Reduzindo a distância entre protótipos e produção com esforços de coengenharia
A transição de soluções de IA generativa (Gen AI) de protótipos para sistemas prontos para produção apresenta desafios em monitoramento em tempo real, tratamento de erros, registro, segurança e escalabilidade. A Intel aborda esses desafios por meio de esforços de coengenharia com OEMs e parceiros para fornecer soluções de geração aumentada de recuperação (RAG) prontas para produção.
Essas soluções, construídas na plataforma Open Platform Enterprise AI (OPEA ), integram microsserviços baseados em OPEA em um sistema RAG escalável, otimizado para sistemas Xeon e IA Gaudi, projetados para permitir que os clientes integrem facilmente aplicativos do Kubernetes, Red Hat OpenShift e Red Hat Enterprise Linux AI.
Expandindo o acesso a aplicativos de IA empresarial
O portfólio Tiber da Intel oferece soluções empresariais para enfrentar desafios como acesso, custo, complexidade, segurança, eficiência e escalabilidade em ambientes de IA, nuvem e edge. O Intel® Tiber™ Developer Cloud agora fornece sistemas de visualização do Intel Xeon 6 para avaliação e teste de tecnologia. Além disso, clientes selecionados ganharão acesso antecipado ao Intel Gaudi 3 para validar implantações de modelos de IA, com clusters Gaudi 3 começando a ser lançados no próximo trimestre para implantações de produção em larga escala.
As novas ofertas de serviço incluem SeekrFlow, uma plataforma de IA de ponta a ponta da Seekr para desenvolver aplicativos de IA confiáveis. As atualizações mais recentes apresentam o lançamento mais recente do software Intel Gaudi e notebooks Jupyter carregados com PyTorch 2.4, Intel oneAPI e ferramentas de IA 2024.2, que incluem novos recursos de aceleração de IA e suporte para processadores Xeon 6.
1Veja o intel.com/processorclaims: Intel Gaudi 3. Os resultados podem variar.
2Consulte o intel.com/processorclaims: Intel Xeon 6. Os resultados podem variar.
3Fonte: Relatório do rastreador de servidor IDC, com base no volume do sistema no 1º trimestre de 2024.