ID do artigo: 000059690 Tipo de conteúdo: Documentação e informações do produto Última revisão: 02/03/2023

Qual é a relação entre a complexidade de um modelo e sua taxa de transferência de inferência?

Ambiente

NCS2

BUILT IN - ARTICLE INTRO SECOND COMPONENT
Resumo

Fatores que podem afetar o FPS obtido na Ferramenta de benchmark

Descrição

Não foi possível determinar por que a Ferramenta de benchmark relata FPS de inferência semelhante para dois modelos de complexidades muito diferentes, que é definido pelas Operações de ponto flutuante Giga (GFLOPs).

Resolução
  • Um número maior de FLOPs é diretamente proporcional a um número reduzido de FPS. No entanto, não há comparação justa entre os FPS e os FLOPs.
  • Fatores que podem afetar o FPS obtido na Ferramenta benchmark:
    • Execute no modo síncrono e assíncrono
    • Número de fluxos
    • Número de solicitações de inferência
Outras informações

Intel® NCS2 é construído sobre a vpu Intel® Movidius™ Myriad™ X com 16 núcleos programáveis de barba e um mecanismo de computação neural dedicado. Este recurso aumenta o desempenho das redes.

Produtos relacionados

Este artigo aplica-se a 2 produtos

O conteúdo desta página é uma combinação de tradução humana e por computador do conteúdo original em inglês. Este conteúdo é fornecido para sua conveniência e apenas para informação geral, e não deve ser considerado completo ou exato. Se houver alguma contradição entre a versão em inglês desta página e a tradução, a versão em inglês prevalecerá e será a determinante. Exibir a versão em inglês desta página.