Como evitar problemas de vazamento de memória ao executar OpenVINO™ amostras C++ com o Intel Inspector.
- Correu OpenVINO™ Amostra de assíncrona de classificação de imagem C++com Intel® Inspector para verificar o problema de memória.
Comando usado:
$ pwd
/home/centos/inference_engine_cpp_samples_build/intel64/Release
$ /opt/intel/oneapi/inspector/2021.3.0/bin64/inspxe-cl -c mi3 ./classification_sample_async -m /opt/intel/openvino_2021.3.394/deployment_tools/open_model_zoo/tools/downloader/intel/image-retrieval-0001/FP16-INT8/image-retrieval-0001.xml -i /home/centos/images -nt 8
$ /opt/intel/oneapi/inspector/2021.3.0/bin64/inspxe-cl -report observations - Intel® Inspector relatório gerado detalhando o problema de memória.
O aplicativo benchmark foi usado como referência para maximizar o desempenho de inferência. Havia alguns códigos relacionados às estatísticas de latência no Aplicativo benchmark.
Remover os trechos relacionados do código tornará a memória estável
Não é recomendável usar o aplicativo benchmark_app para testes de estresse, pois ele usa std::vector_latencies na classe InferRequestsQueue , que coleta todos os valores de latência e calcula o valor mediano da latência.