Como configurar um contêiner OpenVINO aplicativo e um contêiner HDDL Daemon para ser executado em uma placa HDDL
Erros encontrados ao executar um contêiner OpenVINO aplicativo ou contêiner de daemon HDDL com uma placa HDDL:
Erro: shm_open() failed: errno=2 (No such file or directory)
Erro: share memory buffer(‘hddl_9841_140599233988480_0’) mapping failed
Erro: map inputTensor failed, device10.2 taskID=1
Erro: loadTensor(1) failed, rc=-118
- Usar OpenNESS* ou Kubernetes* para orquestrar cada status de contêiner.
- Crie contêineres de capacidade única para gerenciamento mais fácil:
- Contêiner baseado em Ubuntu*com aplicativo baseado em OpenVINO 2020 R4 (4.287)
- Contêiner baseado em Ubuntu executando o Daemon HDDL baseado no OpenVINO 2020 R4 (4.287)
- Compile o hddl Daemon e o aplicativo OpenVINO com a mesma versão do so e do driver do kernel.
- OpenVINO instalador instalará o pacote RPM certo para o Daemon HDDL com base na versão do SO.
- O driver HDDL será compilado com os arquivos de cabeçalho do kernel apropriados com base na versão do kernel.
- OpenVINO de parceiros, como OpenCV, são pré-compiladas com base na versão do SO e do kernel.
- O usuário no arquivo docker precisa ser o mesmo que o usuário que é executado no host ou em outro contêiner docker.
Exemplo: o usuário raiz é usado no contêiner HDDL Daemon, portanto, a raiz precisa ser usada no contêiner OpenVINO aplicativo também.
- Argumentos para execução de HDDL no contêiner:
-
OpenVINO de aplicativos:
--ipc=“host”
-v /var/tmp:/var/tmp -
Contêiner HDDL Daemon:
--ipc=“host”
-v /var/tmp:/var/tmp
--privileged
[--device=/dev/ion:/dev/ion] or [-v /dev:/dev]
-
O compartilhamento de memória e outros erros ocorrerão se o aplicativo OpenVINO e o HdDL Daemon usarem diferentes versões de drivers de SO e Kernel. Por exemplo:
- [OpenVINO de aplicativos no Ubuntu*] e [contêiner HDDL-Daemon no CentOS*]
- [Contêiner HDDL Daemon em Ubuntu] e [contêiner OpenVINO aplicativo no CentOS]
- [OpenVINO de aplicativos no Ubuntu] tem uma versão do kernel diferente [contêiner HDDL Daemon no Ubuntu]
- [OpenVINO de aplicativos no CentOS] tem uma versão do kernel diferente [contêiner HDDL Daemon no CentOS]
OpenVINO plugins da Unidade de processamento visual (VPU) permitem a inferência de modelos de aprendizagem profunda nas seguintes VPUs suportadas:
- Stick de computação neural Intel® 2 com o Intel® Movidius™ Myriad™ X — suportado pelo plugin MYRIAD
- Intel® Vision Accelerator Design com VPUs Intel® Movidius — suportadas pelo plugin HDDL
Guias de referência
Crie imagens Docker* com Distribuição Intel® do kit de ferramentas OpenVINO™ para SO Linux* para construir a Imagem Docker* para Intel® Vision Accelerator Design com VPUs Intel® Movidius.
Use uma imagem Docker* para Intel® Vision Accelerator Design com VPUs Intel® Movidius