Acelerador de AI Intel® Gaudi® 2
Aceleração de alto desempenho para GenAI e LLMs.
Acelerador de AI Intel® Gaudi® 2
O nosso acelerador de AI Intel® Gaudi® 2 está impulsionando o preço/desempenho para aprendizado profundo
Bem como a eficiência operacional para o treinamento e a execução de modelos de última geração, desde os maiores modelos de linguagem e multimodais até modelos de visão computacional e NLP mais básicos. Projetados com uma capacidade de redimensionamento eficiente, seja na nuvem ou no seu data center, os aceleradores Intel® Gaudi® 2 oferecem ao setor de IA a escolha adequada, agora mais que nunca.
Recursos da arquitetura Intel® Gaudi® 2:
Construído com base na fundação comprovada do design Intel® Gaudi® da primeira geração.
- Tecnologia de processamento de 7 nm
- Computação heterogênea
- 24 núcleos de processador tensor
- Dois mecanismos de multiplicação matricial
- 24 portas Ethernet de 100 Gigabit integradas ao chip
- Memória HBM2E de 96 GB integrada
- SRAM de 48 MB
- Controle de mídia integrado
Acelerador de AI Intel® Gaudi® 2 na nuvem
Conheça o desempenho e a facilidade de uso que o acelerador de AI Intel® Gaudi® 2 fornece na Nuvem para desenvolvedores Intel® Tiber™.
Saiba mais
Acelerador de AI Intel® Gaudi® 2 no data center
Garanta uma vantagem de preço/desempenho de preço para a sua infraestrutura com soluções da Supermicro e IEI.
Saiba mais
O acelerador de AI Intel® Gaudi® 2 continua sendo a ÚNICA alternativa de referência à Nvidia H100 para desempenho de IA generativa
Com base nos parâmetros de referência mais recentes do MLPerf Training 3.1 e Inference 4.0, publicados em dezembro de 2023 e março de 2024, respectivamente, o acelerador Intel® Gaudi® 2 continua sendo a única alternativa de referência à NVIDIA H100.
Além do parâmetro de referência do setor MLPerf, o acelerador de AI Intel® Gaudi® 2 obteve uma pontuação em outras avaliações de terceiros.1
O acelerador de AI Intel® Gaudi® 2 suporta uma expansão enorme e flexível
Com 24 portas Ethernet de 100 Gigabit (RoCEv2) integradas a todos os aceleradores de AI Intel® Gaudi® 2, os clientes beneficiam-se de uma capacidade de redimensionamento flexível e econômica que amplia o desempenho do acelerador de AI Intel® Gaudi® 2 de um para milhares de aceleradores.
Veja na imagem abaixo o design de referência de servidor com oito aceleradores Intel® Gaudi® 2.
Para mais informações sobre a construção em escala do sistema com o acelerador de AI Intel® Gaudi® 2, consulte a nossa página de redes ›
Parceiro em destaque
Os switches Cisco Nexus 9364D-GX2A são qualificados para conectar os aceleradores Intel Gaudi 2 para construir uma rede de escalabilidade para executar treinamento de grandes modelos de linguagem (LLM), inferência ou cargas de trabalho de IA generativa semelhantes.
Construa facilmente novos modelos ou migre modelos existentes nos aceleradores de AI Intel® Gaudi® 2
O software Intel® Gaudi®, otimizado para desempenho e facilidade na plataforma Intel® Gaudi®, oferece aos desenvolvedores os documentos, ferramentas, conteúdo instrutivo e modelos de referência para ajudá-los a começarem a usar o software Intel® Gaudi® de forma rápida e fácil.
Acesse e implemente facilmente mais de 500 mil modelos com a biblioteca Habana Optimum no hub da Hugging Face.
Para mais informações, consulte o nosso site para desenvolvedores ›
Recursos para o acelerador de AI Intel Gaudi 2
Informações de produto e desempenho
Visite https://habana.ai/habana-claims-validation para consultar cargas de trabalho e configurações. Os resultados podem variar https://huggingface.co/blog/habana-gaudi-2-benchmark https://huggingface.co/blog/habana-gaudi-2-bloom