Plugin heterogêneo com o Stick de computação neural Intel® 2

Documentação

Instalação e configuração

000055368

07/09/2022

O Plugin Heterogêneo (HETERO) permite inferência computacional em uma rede usando vários dispositivos. Você pode querer executar redes em modo heterogêneo para:

  • Utilize o poder dos aceleradores, incluindo o cálculo das partes mais pesadas da rede em aceleradores, e execute camadas não suportadas em dispositivos de reposição, como a CPU.
  • Utilize todos os hardwares disponíveis com mais eficiência durante uma inferência.

Para usar o Plugin heterogêneo e executar a inferência™ em seu Stick de computação neural Intel® 2 usando o aplicativo benchmark OpenVINO do OpenVINO, siga as etapas abaixo:

  1. Construa as amostras C++ executando buildsamples.sh (para Linux) ou build_samples_msvc.bat (para Windows) encontradas no inference_engine/samples diretório.
  2. Use o benchmark_app para testar e configurar o Plugin Hetero com os dispositivos que você gostaria de usar. Por exemplo, executar -d HETERO:GPU,CPU dará prioridade à GPU, enquanto a CPU será um dispositivo de reação.

Encontre mais informações sobre o Plugin heterogêneo e o OpenVINO Toolkit.