Ir para o conteúdo principal
Base de conhecimentos do Suporte

Não foi possível executar Benchmark_app para o modelo ONNX na GPU

Tipo de conteúdo: Solução de problemas   |   ID do artigo: 000095644   |   Última revisão: 24/07/2023

Ambiente

OpenVINO 2023.0

Descrição

  • Modelo ONNX inferido com OpenVINO™ 2023.0 Benchmark_app em CPU e GPU.
  • Sucesso de inferência na CPU, mas falhou na GPU.

Resolução

Atualmente, o suporte a formato dinâmico para GPU é um recurso de pré-visualização e possui as seguintes limitações:

  • Ela suporta principalmente modelos de processamento de linguagem natural (NLP). Nem todas as operações e otimização passam e suportam formas dinâmicas. Como resultado, um determinado modelo pode falhar ou experimentar quedas significativas de desempenho.
  • Devido à sobrecarga de tempo de execução dominante no dispositivo host, formas dinâmicas podem ter um desempenho pior do que formas estáticas em uma GPU dedicada.
  • A classificação dinâmica não é suportada.

Outras informações

Consulte dispositivos de GPU para obter mais informações.

Produtos relacionados

Este artigo aplica-se a 3 produtos.
Software do processador Intel® Xeon Phi™ OpenVINO™ toolkit Bibliotecas de desempenho

Avisos legais

O conteúdo desta página é uma combinação de tradução humana e por computador do conteúdo original em inglês. Este conteúdo é fornecido para sua conveniência e apenas para informação geral, e não deve ser considerado completo ou exato. Se houver alguma contradição entre a versão em inglês desta página e a tradução, a versão em inglês prevalecerá e será a determinante. Exibir a versão em inglês desta página.