Ir para o conteúdo principal
Base de conhecimentos do Suporte

Qual é a razão pela qual o formato do modelo de inferência FP32 é mais rápido do que o formato do modelo FP16 na CPU?

Tipo de conteúdo: Compatibilidade   |   ID do artigo: 000093301   |   Última revisão: 20/11/2023

Descrição

  1. Formato do modelo FP32 inferido e formato de modelo FP16 na CPU.
  2. A velocidade de inferência do formato do modelo FP32 foi mais rápida do que o formato do modelo FP16.
  3. Não foi possível determinar o motivo da inferência no formato do modelo FP32 é mais rápido do que o formato do modelo FP16 na CPU.

Resolução

O resultado da inferência varia de acordo com o plug-in de dispositivo suportado com o formato de modelo suportado.

Produtos relacionados

Este artigo aplica-se a 3 produtos.
Software do processador Intel® Xeon Phi™ OpenVINO™ toolkit Bibliotecas de desempenho

Avisos legais

O conteúdo desta página é uma combinação de tradução humana e por computador do conteúdo original em inglês. Este conteúdo é fornecido para sua conveniência e apenas para informação geral, e não deve ser considerado completo ou exato. Se houver alguma contradição entre a versão em inglês desta página e a tradução, a versão em inglês prevalecerá e será a determinante. Exibir a versão em inglês desta página.