Demo multi-target Python* da câmera multi-alvo em OpenVINO™ é lenta ao usar muitas faixas

1. O _compute_mct_distance_matrixfunction em Demo Python multi-target multi-target de várias câmeras verifica a distância cossine entre cada faixa uma da outra em várias câmeras.
2. Um grande número de faixas custaria horas a dias para verificar as faixas.

Opção 1: Valide o modelo avaliando o desempenho do modelo em dados não vistos no PyTorch.

• Use a função:
  with torch.no_grad():
  for i,data in enumerate(X_test):
  y_val = model.forward(data) #this function is to grab prediction

• A with torch.no_grad() de afetará o mecanismo de gradiente automático e, essencialmente, desativá-lo. O programa não enfatiza a contrapropagação, pois trata-se apenas de avaliar o modelo, portanto, não há necessidade de alterar o peso ou os preconceitos, etc. Por isso, ajuda a reduzir o uso da memória e acelerar a computação. No entanto, isso é aplicável apenas ao conjunto de dados de teste, mas não ao conjunto de dados de treinamento.

Opção 2: Acelere a inferência de modelos de aprendizagem profunda usando a Otimização pós-treinamento (POT).

• O POT usa otimização de baixa precisão, o que ajuda a reduzir o tempo de inferência. POT não requer um conjunto de dados de treinamento ou um pipeline, pois o POT pode ser aplicado sem retreinamento de modelo ou ajuste fino.
• Consulte Use a interface de linha de comando da ferramenta de otimização pós-treinamento para a implementação passo a passo.