Intel® Distribution do kit de ferramentas OpenVINO™

Quais as novas

• Mais cobertura de IA da Geração e integrações de frameworks para minimizar as mudanças de código
  • Novos modelos suportados: Phi-4-mini-reasoning, AFM-4.5B, Gemma-3-1B-it, Gemma-3-4B-it e Gemma-3-12B.
  • Suporte da NPU adicionado para: Qwen3-1,7B, Qwen3-4B, e Qwen3-8B.
  • LLMs otimizados para NPU estão agora disponíveis na coleção OpenVINO Hugging Face.
  • Pré-visualização: o processador Intel® Core™ Ultra e os PCs de IA baseados em Windows agora podem aproveitar o provedor de execução de OpenVINO™ para Windows* ML para uma experiência inicial de alto desempenho e de prateleira no Windows*.
• Suporte ao modelo LLM mais amplo e mais técnicas de otimização da compressão do modelo
  • O plug-in da NPU adiciona suporte para contextos mais longos de até 8K tokens, prompts dinâmicos e LoRA dinâmica para um desempenho LLM aprimorado.
  • O plug-in da NPU agora suporta tamanhos de lote dinâmicos, remodelando o modelo para um tamanho de lote de 1 e gerenciando simultaneamente várias solicitações de inferência, melhorando o desempenho e otimizando a utilização da memória.
  • Melhorias de precisão para modelos GenAI em gráficos integrados e dedicados foram alcançadas através da implementação da compressão de cache chave por técnica do canal, além do método de compactação de cache KV existente por token.
  • OpenVINO™ GenAI apresenta o TextRerankPipeline para uma melhor relevância de recuperação e precisão do pipeline RAG, além de Saída estruturada para melhor confiabilidade e chamada de função de resposta, garantindo a adesão aos formatos predefinidos.
• Mais portabilidade e desempenho para executar IA na borda, na nuvem ou localmente
  • Anunciando suporte para Intel® Arc™ Pro série B (B50 e B60).
  • Pré-visualização: A Hugging Face models que são habilitadas pelo GGUF para OpenVINO GenAI é agora suportada pelo OpenVINO™ Model Server para arquiteturas populares de modelo LLM como DeepSeek Destilado, Qwen2, Qwen2.5 e Llama 3. Essa funcionalidade reduz o footprint (pegada) de memória e simplifica a integração para cargas de trabalho GenAI.
  • Com maior confiabilidade e precisão nas chamadas de ferramentas, o OpenVINO™ Model Server aumenta o suporte para casos de uso de IA agenteica em PCs de IA, ao mesmo tempo em que aprimora o desempenho em CPUs Intel, GPUs integradas e NPUs.
  • A compressão de pesos com reconhecimento de dados int4, agora suportada na estrutura de compressão de rede neural (NNCF) para modelos ONNX, reduz o tamanho da memória enquanto mantém a precisão e permite uma implantação eficiente em ambientes com restrição de recursos.

Obtenha todos os detalhes. Consulte as notas da versão 2025.3.

Instruções de instalação

Você pode escolher como instalar o OpenVINO™ Runtime do Archive* de acordo com seu sistema operacional:

• Instale OpenVINO Runtime no Linux*
• Instale OpenVINO Tempo de execução no Windows*
• Instale OpenVINO Tempo de execução no macOS*

O que está incluído no pacote de download (Arquivo arquivo arquivo)

• Oferece APIs C/C++ e Python
• Além disso, contém exemplos de código

Links úteis

NOTA: os links são abertos em uma nova janela.

• Página inicial
• Baixar
• Toda a documentação, guias e recursos
• OpenVINO Notebooks
• Notas da versão
• Fórum da comunidade
• Arquive um problema no GitHub*