Plugin com vários dispositivos com o Stick de computação neural Intel® 2

Documentação

Instalação e configuração

000055294

06/09/2022

O OpenVINO™ Toolkit 2019 R2 apresenta um plugin multi-dispositivo que atribui automaticamente solicitações de inferência a dispositivos disponíveis para executar as solicitações em paralelo.

  1. Construa as amostras C++ executando o build_samples.sh (Linux) ou build_samples_msvc.bat (Windows) encontrados no diretório/inference_engine/samples/.
  2. Use o hello_query_device aplicativo amostral para descobrir dispositivos Stick de computação neural Intel® 2 (Intel® NCS 2) disponíveis,.

    Linux: ./hello_query_device

    Windows: hello_query_device.exe

    A hello_query_device exibirá os nomes dos dispositivos disponíveis e informações adicionais sobre o dispositivo. Para efeitos deste artigo, estamos interessados apenas no nome do dispositivo.

    Dispositivos disponíveis:

    Dispositivo: CPU

    ...

    Dispositivo: MYRIAD.1.1.2-ma2480

    ...

    Dispositivo: MYRIAD.1.1.4-ma2480

    ...

  3. Use o benchmark_app para testar e configurar o plugin de vários dispositivos com os dispositivos Intel® NCS 2 descobertos. Observe que os dispositivos estão separados por uma vírgula sem espaços.

    Linux: ./benchmark_app -d MULTI:MYRIAD.1.1.2-ma2480,MYRIAD.1.1.4-ma2480

    Windows: benchmark_app.exe-d MULTI:MYRIAD.1.1.2-ma2480,MYRIAD.1.1.4-ma2480

Informações adicionais sobre o Plugin de vários dispositivos podem ser encontradas na documentação OpenVINO Toolkit.