Intel® Distribution do kit de ferramentas OpenVINO™

O que há de novo

• Mais cobertura de IA da Geração e integrações de frameworks para minimizar as mudanças de código
  • Novos modelos suportados em CPUs e GPUs: GPT-OSS-20B, MiniCPM-V-4_5-8B, MiniCPM-o-2.6 e Qwen3-30B-A3B.
  • Novos modelos suportados em NPUs: MiniCPM-o-2.6. Além disso, o suporte à NPU está agora disponível em Qwen2.5-1B-Instruct, Qwen3-Embedding-0.6B, e Qwen-2.5-coder-0.5B.
  • OpenVINO™ GenAI agora adiciona funcionalidade de registro de tempo de nível de palavra ao Pipeline Whisper em CPUs, GPUs e NPUs, permitindo transcrições e subtitagem mais precisas de acordo com as implementações OpenAI e FasterWhisper.
  • O modelo FastScript Phi-3 agora está disponível no Hugging Face para acelerar a inferência LLM em NPUs. O FastDraft otimiza a decodificação especulativa para LLMs.
• Suporte para modelo LLM mais amplo e mais técnicas de compactação de modelo
  • Com a nova compressão de peso com reconhecimento de dados int4 para MatMuls 3D, a estrutura de compressão de rede neural permite que os MoE LLMs funcionem com memória, largura de banda e precisão aprimoradas em comparação com esquemas livres de dados que oferecem uma implantação mais rápida e eficiente em dispositivos com restrição de recursos.
  • Pré-visualização: o framework de compressão de rede neural agora é compatível com tabelas de pesquisa (LUT) por camada e por grupo para quantização de FP8-4BLUT. Isso permite uma compressão refinada baseada em codebook, que reduz o tamanho do modelo e a largura de banda, ao mesmo tempo em que melhora a velocidade e precisão de inferência para LLMs e cargas de trabalho de transformers.
• Mais portabilidade e desempenho para executar IA na borda, na nuvem ou localmente
  • Pré-visualização: OpenVINO™ GenAI adiciona um suporte a pipeline de VLM para aprimorar a integração do framework Agentic AI.
  • OpenVINO GenAI agora suporta decodificação especulativa para NPUs, oferecendo melhor desempenho e geração de texto eficiente por meio de um pequeno modelo de rascunho que é validado periodicamente pelo modelo de tamanho completo.
  • Pré-visualização: a integração do compilador NPU com o plug-in NPU permite compilação antecipada e no dispositivo sem precisar de atualizações de drivers de OEM. Os desenvolvedores podem habilitar esse recurso para um único pacote pronto para envio que reduz o atrito de integração e acelera o tempo de retorno.
  • OpenVINO™ Model Server adiciona suporte aprimorado para equipamentos de áudio mais lotes contínuos agente e execuções simultânicas para melhor desempenho de LLM em fluxos de trabalho agenteíticos em CPUs e GPUs Intel.

Obtenha todos os detalhes. Consulte as notas da versão 2026.0.

Instruções de instalação

Você pode escolher como instalar o OpenVINO™ Runtime do Archive* de acordo com seu sistema operacional:

• Instale OpenVINO Runtime no Linux*
• Instale OpenVINO Tempo de execução no Windows*
• Instale OpenVINO Tempo de execução no macOS*

O que está incluído no pacote de download (Arquivo arquivo arquivo)

• Oferece APIs C/C++ e Python
• Além disso, contém exemplos de código

Links úteis

NOTA: os links são abertos em uma nova janela.

• Página inicial
• Download
• Toda a documentação, guias e recursos
• OpenVINO Notebooks
• Notas da versão
• Fórum da comunidade
• Arquive um problema no GitHub*