ID do artigo: 000088711 Tipo de conteúdo: Manutenção e desempenho Última revisão: 07/09/2022

Demo multi-target Python* da câmera multi-alvo em OpenVINO™ é lenta ao usar muitas faixas

BUILT IN - ARTICLE INTRO SECOND COMPONENT
Resumo

Opções para melhorar o desempenho da demonstração Multi Target Python da Multi Camera

Descrição
  1. O _compute_mct_distance_matrixfunction em Demo Python multi-target multi-target de várias câmeras verifica a distância cossine entre cada faixa uma da outra em várias câmeras.
  2. Um grande número de faixas custaria horas a dias para verificar as faixas.
Resolução

Opção 1: Valide o modelo avaliando o desempenho do modelo em dados não vistos no PyTorch.

  • Use a função:
    with torch.no_grad():
    for i,data in enumerate(X_test):
    y_val = model.forward(data) #this function is to grab prediction

  • A with torch.no_grad() de afetará o mecanismo de gradiente automático e, essencialmente, desativá-lo. O programa não enfatiza a contrapropagação, pois trata-se apenas de avaliar o modelo, portanto, não há necessidade de alterar o peso ou os preconceitos, etc. Por isso, ajuda a reduzir o uso da memória e acelerar a computação. No entanto, isso é aplicável apenas ao conjunto de dados de teste, mas não ao conjunto de dados de treinamento.

Opção 2: Acelere a inferência de modelos de aprendizagem profunda usando a Otimização pós-treinamento (POT).

  • O POT usa otimização de baixa precisão, o que ajuda a reduzir o tempo de inferência. POT não requer um conjunto de dados de treinamento ou um pipeline, pois o POT pode ser aplicado sem retreinamento de modelo ou ajuste fino.
  • Consulte Use a interface de linha de comando da ferramenta de otimização pós-treinamento para a implementação passo a passo.

Produtos relacionados

Este artigo aplica-se a 1 produtos

O conteúdo desta página é uma combinação de tradução humana e por computador do conteúdo original em inglês. Este conteúdo é fornecido para sua conveniência e apenas para informação geral, e não deve ser considerado completo ou exato. Se houver alguma contradição entre a versão em inglês desta página e a tradução, a versão em inglês prevalecerá e será a determinante. Exibir a versão em inglês desta página.