O que é a IA na borda

Os recursos inovadores na borda, facilitados por avanços em desempenho e eficiência da computação, estão unindo os mundos físico e digital. A IA na borda, que traz a IA para dispositivos e sensores locais, permite análise de dados e ação rápidas, independentemente da nuvem ou do data center. Isso libera capacidade de resposta e percepções em tempo quase real, maior eficiência, redução de despesas operacionais e a capacidade de oferecer novos tipos de experiências ao cliente.

Função da IA na borda

Quer o objetivo final seja automatizar os fluxos de trabalho de imagens médicas para acelerar o diagnóstico ou melhorar a eficiência operacional em uma planta de fabricação de metal, a função da IA na borda é a mesma – aproveitar os dados para adotar ações mais rapidamente. Dentro do reino da IA, isso é alcançado por meio de uma tarefa conhecida como inferência.

Durante a inferência, os dados de entrada ao vivo são alimentados em um modelo de IA que foi previamente treinado para realizar funções como tomar decisões, enviar alertas, fornecer percepções ou concluir tarefas, como a classificação de imagens.

A IA na borda usa com frequência dispositivos de Internet das Coisas (IoT), incluindo câmeras, fontes de dados e sensores, para coletar e analisar dados no mundo real. Digamos que uma empresa de energia ou serviços públicos queira manter suas torres, tubulações ou redes protegidas contra atores mal intencionados. Os dados de vídeos e sensores de segurança podem ser processados na borda, alertando automaticamente os operadores sobre ameaças em tempo quase real. Com a capacidade de coletar e processar dados quase instantaneamente, a IA na borda expande em muito a capacidade de uma organização, permitindo uma série de aplicativos e experiências baseados em IA na borda. Desde um chatbot em um quiosque bancário, até carros com assistência de faixa automatizada e recursos para evitar colisões, até alertas em tempo quase real sobre riscos à segurança ou incidentes nas ruas da cidade ou no chão da fábrica, os casos de uso para a IA na borda em todos os setores são bastante amplos.

IA na borda versus IA tradicional

Tradicionalmente, a IA tem sido principalmente baseada na nuvem, com os dados sendo enviados para o data center, onde são processados e devolvidos após análise. Tais modelos de infraestrutura de computação centrada na nuvem não são ideais para processos e operações corporativas sensíveis ao tempo.

Muitos casos de uso de inferência corporativa beneficiam-se com a análise dos dados muito rápida. Eles geralmente exigem processamento de dados em tempo real e têm requisitos de latência rigorosos. Com muita frequência, eles precisam ser implementados em locais com conectividade fraca, tornando-os vulneráveis a atrasos e erros decorrentes da perda de pacotes de dados durante a transmissão para a nuvem e da nuvem.

Para atender a essas necessidades e desafios, a IA na borda realiza análise de dados na fonte de dados, como o chão da fábrica, o hospital ou a loja. Os algoritmos são implantados no local, onde os dados são processados em um hub central ou diretamente em dispositivos na borda com processadores integrados.

IA na borda híbrida

Essas duas abordagens, a IA na borda e a IA na nuvem, não são mutuamente exclusivas. À medida que a IA na borda avança, uma abordagem de borda híbrida, que distribui cargas de trabalho de inferência entre a borda e a nuvem deve se tornar amplamente adotada. A ideia é que a percepção leve e em tempo quase real na borda possa ser reforçada por um contexto mais profundo na nuvem.

Ao combinar a velocidade e a eficiência da borda com recursos escaláveis baseados na nuvem, a borda híbrida facilitará aplicativos de ponta com diversos ambientes de implantação e demandas de desempenho. Uma abordagem híbrida também permitirá que as empresas agreguem a entrada de vários modelos em seus processos.

Embora a IA na borda seja frequentemente associada à visão computacional, o cenário da IA na borda está se expandindo rapidamente para incluir aplicativos de vários modelos envolvendo IA generativa (GenAI), linguagem natural (texto para fala, chatbots) e robótica. Espera-se que esses casos de uso emergentes revolucionem os setores. Na fabricação, o software orientado por IA generativa poderia facilitar uma cadeia de fornecimento ágil e dinâmica, enquanto os veículos autônomos e a infraestrutura inteligente poderiam ajudar as cidades inteligentes a reduzir a tensão no ambiente e otimizar o fluxo de tráfego.

Benefícios da IA na borda

A IA na borda pode ajudar as empresas a enfrentar qualquer número de desafios complexos para resolver problemas do mundo real. Alguns dos benefícios de trazer a IA para a borda incluem:

• Velocidade e eficiência operacionais: crucial para a inovação, a automação baseada em IA na borda permite operações autônomas em tempo quase real, eliminando atrasos associados ao processamento baseado na nuvem. Os gargalos de latência e rede são minimizados, aumentando as taxas de transferência de dados.
• Rentabilidade: o crescente volume de dados de sensores e dispositivos torna a computação na borda mais econômica do que enviar dados para a nuvem e de volta. Menos largura de banda é consumida e menos recursos baseados na nuvem são necessários, ajudando a reduzir despesas operacionais.
• Conservação de energia: os dispositivos de IA na borda com eficiência energética são projetados para facilitar a computação de baixa potência e podem ser significativamente mais eficientes do que o processamento baseado na nuvem. Enquanto isso, o hardware de rede, como roteadores e comutadores, consome menos energia, pois o tráfego de e para o data center é minimizado.
• Segurança e soberania de dados: manter dados confidenciais na borda ajuda a reduzir os riscos à segurança e à privacidade, garantindo controle local, autonomia e conformidade com os regulamentos.

Considerações sobre IA na borda

Levar a IA para ambientes de nuvem apresenta novos desafios em comparação com a execução da IA na nuvem pública ou privada, incluindo:

• Adição da IA aos investimentos existentes: muitos ambientes de borda apresentam infraestrutura legada de função fixa com uma variedade de equipamentos e software proprietários. As tecnologias proprietárias com formatos incompatíveis podem apresentar desafios técnicos ao serem integradas a uma solução na borda.
• Modelos de treinamento e ajuste fino: os modelos de IA na borda são exclusivos e devem ser ajustados para um setor específico ou para a dinâmica de casos de uso. O conhecimento do domínio humano é frequentemente crítico nesses casos. As empresas precisam de ferramentas simples que auxiliem os especialistas não cientistas de dados a transformar sua experiência em recursos de IA.
• Abordar a diversidade de hardware: aplicativos nativos da borda provavelmente abrangerão uma grande quantidade de nós, sistemas operacionais, protocolos de conectividade, necessidades de computação e armazenamento, restrições de energia e custo e problemas de conformidade. Os desenvolvedores precisam de maneiras de lidar com essa complexidade e suportar o ambiente de computação heterogêneo distribuído.
• Protegendo e gerenciando aplicativos distribuídos: as empresas enfrentam novos desafios ao buscar apoiar a IA avançada na borda. A gerenciabilidade é fundamental para a aplicação da IA em escala, e a segurança é uma necessidade em todas as etapas do caminho.
• Planejamento para condições adversas ou restritos: os ambientes de borda impõem diferentes tipos de estresse ao hardware de IA, como calor, umidade ou vibração. As soluções de IA na borda para casos de uso, como monitoramento de tráfego ou garantia de qualidade, geralmente precisam ser colocadas em áreas com pequena quantidade de imóveis físicos. Fazer tudo isso acontecer com baixo uso de energia também é importante para controlar os custos e promover a sustentabilidade.

Soluções de IA na borda

Como modernizar as operações de negócios com a tecnologia de IA na borda é um tópico profundo e multifacetado. Algumas organizações, como aquelas na fabricação e na indústria, buscarão adicionar tecnologia de borda e “inteligência” aos equipamentos operacionais legados à medida que evoluem para uma empresa digital que utiliza dados em tempo quase real para oferecer valor. Outras, como aquelas nos setores financeiro e de saúde, têm grandes operações centradas em dados que são muito vastas ou díspares para monitoramento e análise humanos. Essas organizações estão migrando para a digitalização e automatização de seus processos de dados para descobrir padrões e percepções mais rapidamente e melhorar a eficiência, a conformidade e a segurança de dados.

Independentemente de quais desafios uma organização esteja tentando enfrentar, é recomendável enfrentar a capacitação de IA em etapas. Embora os casos de uso mais avançados e abrangentes exigirão uma pilha de tecnologia de IA de tecnologias da borda à nuvem, começar a usar a IA na borda pode ser feito sem um grande investimento em infraestrutura. As empresas com ambientes de borda atuais provavelmente estão prontas para começar a usar a IA hoje mesmo. Os recursos de computação de borda existentes, como sistemas de pontos de vendas (POS), PCs industriais e servidores locais em consultórios médicos, podem suportar muitas cargas de trabalho de IA, incluindo visão computacional.

Considerações sobre integração

O principal desafio para implementar uma solução de IA na borda é superar a complexidade inerente envolvida na coordenação das várias partes que compõem a solução, incluindo infraestrutura de computação, dispositivos de IoT e equipamentos legados. Uma plataforma de tecnologia unificada pode ajudar a reduzir essa complexidade e promover a interoperabilidade entre vários ambientes de IA e a padronização em toda a infraestrutura heterogênea, criando um tecido unificado da borda à nuvem.

Considerações sobre hardware

Seja treinando modelos na nuvem, ajustando-os ou implantando-os na borda, a escolha do hardware de IA certo pode ajudar as empresas a dimensionar corretamente seu investimento e oferecer suporte aos requisitos de desempenho.
Nossa variedade de processadores de IA apoia todo o pipeline de IA, desde o treinamento de modelos extremamente complexos até necessidades de IA mais simples, incluindo a incorporação de IA em dispositivos para usuários finais:

• As unidades de processamento central (CPUs) com motores aceleradores integrados podem ajudar a alimentar muitas cargas de trabalho de IA na borda avançada sem a necessidade de hardware especializado.
• As soluções de GPU podem ajudar a potencializar suas cargas de trabalho mais exigentes no data center, na borda ou em dispositivos para usuários finais.
• Os FPGAs são frequentemente usados como aceleradores de IA e processadores de IA para ajudar a habilitar cargas de trabalho de IA da borda à nuvem. Em comparação com as CPUs e GPUs, os FPGAs são mais versáteis e podem ser reconfigurados para atender a uma ampla variedade de casos de uso. Os FPGAs oferecem uma combinação de velocidade, programabilidade e flexibilidade para proporcionar desempenho sem o custo e a complexidade do desenvolvimento de chips personalizados.

Seleção de uma abordagem de adoção

As organizações que buscam estender os aplicativos de IA para a borda geralmente se enquadram em três categorias: aquelas que desejam comprar uma solução ou aplicativo de IA construída para esse propósito, aquelas que desejam construir seu próprio aplicativo de IA e aquelas que buscam alcançar suas metas de IA por meio de alguma combinação dessas duas abordagens.

Construção de uma solução de IA: para aqueles que buscam criar suas próprias soluções de IA na borda a partir do zero, as plataformas de software independentes de fornecedor e nativas da borda podem ajudar na construção, implantação e iteração em fluxos de trabalho de IA e apresentam a mais ampla interoperabilidade e suporte a protocolos. As plataformas nativas da borda pós-implantação também facilitam o gerenciamento e a atualização do software de IA em todos os ambientes de borda distribuída.
Ao examinar plataformas, é importante buscar:

• Suporte para os ambientes de computação heterogêneos frequentemente encontrados em toda a borda
• Padrões abertos para ajudar os esforços de IA à prova do futuro
• Opções de desenvolvimento profissionais e de baixo código
• A capacidade de importar aplicativos existentes
• Painéis de telemetria integrados que podem ajudar a dimensionar o hardware e otimizar aplicativos
• Recursos de segurança integrada
• Recursos de escalonamento automático e conteinerização semelhantes à nuvem
  

Compra de soluções de IA prontas: as organizações corporativas também podem comprar soluções de IA de um provedor de soluções ou integrador de sistemas. Esses fornecedores oferecem sistemas de hardware e software integrados adaptados para casos de uso e necessidades, específicos do setor. É importante escolher uma solução pronta para o mercado que tenha recursos de IA interoperáveis e um histórico comprovado de implantações bem-sucedidas do setor e específicas de domínio.

Adoção de uma abordagem combinada: muitas organizações acham que a combinação de suas próprias iniciativas de desenvolvimento com componentes pré-construídos pode ser a maneira mais eficiente de alcançar o sucesso na IA. Uma variedade de tutoriais e recursos demonstrando casos de uso de IA na borda está disponível e pode ajudar a acelerar o tempo de valorização e simplificar o desenvolvimento. Além disso, há uma ampla gama de recursos de software que podem ajudar a facilitar o aumento do desenvolvimento, incluindo estruturas, kits de ferramentas, ferramentas de desenvolvimento específicas do setor, arquiteturas de referência e implementações de referência.