Qual é a relação entre a complexidade de um modelo e sua taxa de transferência de inferência?

Não foi possível determinar por que a Ferramenta de benchmark relata FPS de inferência semelhante para dois modelos de complexidades muito diferentes, que é definido pelas Operações de ponto flutuante Giga (GFLOPs).

• Um número maior de FLOPs é diretamente proporcional a um número reduzido de FPS. No entanto, não há comparação justa entre os FPS e os FLOPs.
• Fatores que podem afetar o FPS obtido na Ferramenta benchmark:
  • Execute no modo síncrono e assíncrono
  • Número de fluxos
  • Número de solicitações de inferência

Intel® NCS2 é construído sobre a vpu Intel® Movidius™ Myriad™ X com 16 núcleos programáveis de barba e um mecanismo de computação neural dedicado. Este recurso aumenta o desempenho das redes.