Impossível determinar os passos para implementar o pipeline de inferência em tempo de execução OpenVINO™ com IR.
Resolução
Criar OpenVINO™ Runtime Core import openvino as ov core = ov.Core()
Compilar o Modelo compiled_model = core.compile_model("model.xml", "AUTO")
Criar uma Solicitação de Inferir infer_request = compiled_model.create_infer_request()
Set Entradas # Create tensor from external memory input_tensor = ov.Tensor(array=memory, shared_memory=True) # Set input tensor for model with one input infer_request.set_input_tensor(input_tensor)
Início Inferência infer_request.start_async() infer_request.wait()
Processar os Resultados da Inferência # Get output tensor for model with one output output = infer_request.get_output_tensor() output_buffer = output.data # output_buffer[] - accessing output tensor data
O conteúdo desta página é uma combinação de tradução humana e por computador do conteúdo original em inglês. Este conteúdo é fornecido para sua conveniência e apenas para informação geral, e não deve ser considerado completo ou exato. Se houver alguma contradição entre a versão em inglês desta página e a tradução, a versão em inglês prevalecerá e será a determinante. Exibir a versão em inglês desta página.