Espera-se que a inferência do modelo INT8 em uma nova CPU seja mais rápida do que em uma CPU antiga?
Tipo de conteúdo: Documentação e informações do produto | ID do artigo: 000091932 | Última revisão: 18/05/2023
O modelo INT8 inferido em uma nova CPU e a velocidade de inferência é mais rápida em comparação com a inferência com uma CPU antiga.
A inferência lenta em uma CPU antiga é esperada com base na configuração do sistema e nas especificações de hardware.
Consulte os resultados Distribuição Intel® do kit de ferramentas OpenVINO™ benchmark para obter o desempenho de inferência em uma configuração de hardware especificada.