O modelo DETR mostra resultados diferentes em diferentes hardwares após otimizado com OpenVINO™

1. Modelo de DETR otimizado com otimização de modelo.
2. Executou benchmark_app com o modelo otimizado (modelo DETR) na máquina SPR e salvou a latência e a taxa de transferência.
3. Correu o mesmo benchmark_app e modelo na máquina Icelake e salvou a latência e a taxa de transferência.
4. Ambos os resultados mostraram diferenças significativas.

A seguir está a resolução após os detalhes serem examinados.

1. A diferença de precisão no comportamento diferente do hardware é esperada devido à memória e ao núcleo do processador.
2. Isso pode ser suportado pela documentação , onde algumas comparações foram feitas em hardware diferente.
3. Para detecção de objetos, espera-se também que ela tenha múltiplas detecções com diferentes probabilidades.
4. No exemplo de detecção de objetos, o desenvolvedor adicionou um filtro chamado confident_threshold para filtrar a detecção com uma menor probabilidade.
5. Sugestão para executar o filtro da pontuação inferior no código.