Intel® FPGA AI Suite
Saiba como o Intel® FPGA AI Suite pode adicionar IA de FPGA a sistemas embarcados e data centers.
Visão geral
Os FPGAs permitem inferência de aprendizado profundo em tempo real, com baixa latência e baixo consumo de energia combinada com as seguintes vantagens:
- Flexibilidade de E/S
- Reconfiguração
- Facilidade de integração com plataformas personalizadas
- Vida útil longa
O Intel FPGA AI Suite foi desenvolvido com foco na facilidade de uso da inferência de inteligência artificial (IA) em FPGAs Intel®. O pacote permite que designers de FPGA, engenheiros de aprendizado de máquina e desenvolvedores de software criem plataformas de IA de FPGA otimizadas de forma eficiente.
Os utilitários no Intel FPGA AI Suite aceleram o desenvolvimento de FPGA para inferência de IA utilizando frameworks populares do setor, como TensorFlow, PyTorch e o kit de ferramentas OpenVINO, aproveitando também fluxos de desenvolvimento de FPGA robustos e comprovados com o software Intel Quartus Prime.
O fluxo da ferramenta Intel FPGA AI Suite funciona com o kit de ferramentas OpenVINO, um projeto de código aberto, para otimizar a inferência em uma série de arquiteturas de hardware. O kit de ferramentas OpenVINO utiliza modelos de aprendizado profundo de todos os principais frameworks (como TensorFlow, PyTorch e Keras) e os otimiza para inferência em uma série de arquiteturas de hardware, incluindo diversas CPUs, CPU+GPU e FPGAs.
Saiba como o Intel FPGA AI Suite pode adicionar IA de FPGA a sistemas embarcados e data centers. Entre em contato com o departamento de vendas da Intel para saber os preços e a disponibilidade ›
Comece hoje mesmo
Por que os FPGAs são especialmente bons para implementar IA
Leia sobre como os FPGAs e SoCs Intel® com Intel® FPGA AI Suite e kit de ferramentas OpenVINO impulsionam aplicações de IA/aprendizado de máquina embarcadas/na borda.
Leia a publicação técnica
A opinião dos clientes
“A facilidade de uso do Intel® FPGA AI Suite e da distribuição Intel® do kit de ferramentas OpenVINO permitiu à Stryker desenvolver um Intel® FPGA IP otimizado para inferência de aprendizado profundo. O IP de inferência foi integrado com sucesso a um Intel® FPGA utilizando o software Intel® Quartus® Prime. Os designs de exemplo fornecidos com o pacote permitiram que a equipe avaliasse rapidamente diferentes algoritmos para diferentes fontes de imagem. O Intel® FPGA AI Suite e a distribuição Intel® do kit de ferramentas OpenVINO permitem que cientistas de dados e engenheiros de FPGA trabalhem juntos com perfeição para desenvolver inferência de aprendizado profundo otimizada para aplicações médicas.” — Equipe de engenharia da Stryker
Recursos principais
Alto desempenho
O FPGA Intel Agilex® 7 série M pode alcançar um desempenho teórico máximo de 38 TOPS em INT8, ou 3.679 quadros por segundo em Resnet-50, a 90% de utilização do FPGA.
Fácil integração do sistema
Suporta integração com IPs personalizados, como ADCs/DACs, vídeo e Ethernet, para ocupar o menor espaço e obter a mais baixa latência.
Baixo custo total de propriedade
Minimize o TCO com inferência de IA altamente escalável, personalizável e de granularidade fina entre uma ampla gama de desempenhos e tamanhos de lote.
Fluxos simples e padrão
Crie e adicione IP de inferência de IA a designs de FPGA existentes ou novos com o software Intel Quartus Prime ou o Platform Designer.
Suporte para front-end de IA
Utilize seu front-end de IA favorito, como TensorFlow, Caffe, PyTorch, MXNet, Keras e ONNX.
Otimização do OpenVINO
O kit de ferramentas OpenVINO otimiza o desempenho e o consumo de energia enquanto minimiza o espaço ocupado pela lógica e pela memória.
Fluxo de desenvolvimento de inferência de IA de FPGA
O fluxo de desenvolvimento de inferência de IA é mostrado na figura 1. O fluxo combina perfeitamente um fluxo de trabalho de hardware e software em um fluxo de trabalho de IA de ponta a ponta genérico. As etapas são as seguintes:
1. O otimizador de modelos do kit de ferramentas OpenVINO cria arquivos de rede de representação intermediária (.xml), avalia e influencia os arquivos (.bin).
2. O compilador do Intel FPGA AI Suite é utilizado para:
- Fornecer a área estimada ou a métrica de desempenho para um determinado arquivo de arquitetura ou produzir um arquivo de arquitetura otimizado. (Arquitetura refere-se a parâmetros de IP de inferência, como o tamanho da matriz de PEs, precisões, funções de ativação, larguras de interface, tamanhos de janela etc.)
- Compilar arquivos de rede em um arquivo .bin com partições de rede para FPGA e CPU (ou ambos) juntamente a pesos e influências.
3. O arquivo .bin compilado é importado pelo aplicativo de inferência do usuário no tempo de execução.
- Interfaces de programação de aplicativos (APIs) de tempo de execução incluem a API de mecanismo de inferência (partição do tempo de execução para CPU e FPGA, inferência de agendamento) e IA de FPGA (memória DDR, blocos de hardware de FPGA).
- Designs de referência demonstram as operações básicas de importação de arquivos .bin e execução de inferência em FPGA com CPUs host compatíveis (processadores x86 e Arm).
Figura 1: Fluxo de desenvolvimento do Intel FPGA AI Suite
Observações:
Dispositivos suportados: FPGA Intel Agilex® 7, FPGA Intel® Cyclone® 10 GX, FPGA Intel® Arria® 10
Redes, camadas e funções de ativação testadas1:
- ResNet-50, MobileNet v1/v2/v3, YOLO v3, TinyYOLO v3, UNET, i3d
- 2D Conv, 3D Conv, Fully Connected, Softmax, BatchNorm, EltWise Mult, Clamp
- ReLU, PReLU
Arquiteturas do nível do sistema
O Intel FPGA AI Suite é flexível e configurável para uma série de casos de uso do nível do sistema. Maneiras típicas de incorporar o IP FPGA AI Suite em um sistema estão listadas na Figura 2. Os casos de uso abrangem diferentes verticais, desde plataformas embarcadas otimizadas variando de aplicações com CPUs host (processadores Intel® Core™, processadores Arm) até ambientes de data center com processadores Intel® Xeon® e também aplicações sem host (ou processadores softcore, como os processadores Nios® V).
Figura 2: topologias típicas de sistemas Intel FPGA AI Suite
Descarga de CPU
Acelerador de IA
Descarga de CPU multifunção
Acelerador de IA + função de hardware adicional
Ingestão/processamento em linha + IA
Acelerador de IA + ingestão direta e streaming de dados
FPGA SoC embarcado + IA
Acelerador de IA + ingestão direta e streaming de dados + função de hardware +
Processadores Arm, Nios® ou Nios® V embarcados
Vídeos demonstrativos
Visão geral do Intel FPGA AI Suite
Assista a este vídeo para conhecer o fluxo de design do Intel FPGA AI Suite.
Vídeo de demonstração de instalação do Intel® FPGA AI Suite
A instalação do Intel FPGA AI Suite é fácil, assista a este vídeo para uma demonstração da instalação.
Vídeo de demonstração de compilação do Intel® FPGA AI Suite
Assista a uma demonstração rápida do Intel FPGA AI Suite compilando um modelo RESNET-50 pré-treinado e gerando resultados de inferência.
Vídeo de demonstração da instalação e inicialização da placa FPGA Intel Agilex®
Este tutorial rápido o orientará sobre como inicializar e programar facilmente um FPGA Intel Agilex® 7 para utilizar o Intel FPGA AI Suite.
Exemplo de design PCIe do Intel® FPGA AI Suite
Este vídeo apresenta algumas das capacidades do Intel FPGA AI Suite.