Transformando a IA: a jornada de Alessandro Faria com o OpenVINO da Intel no openSUSE Linux

O OpenVINO da Intel agora está disponível nativamente no sistema openSUSE. Com isso, os usuários do sistema operacional baseado em Linux passam a contar em seus PCs com as soluções de inteligência artificial desenvolvidas no toolkit de software de código aberto da Intel. Todo o processo de implementação, interlocução com as comunidades de desenvolvedores e compatibilidade de políticas técnicas foi conduzido pelo cofundador da OITI Technologies, Embaixador de Inovação Credicitrus, Embaixador OpenSUSE Linux e parceiro Intel Innovator, Alessandro Faria nascido em Bebedouro Interior de SP.

Além de compatibilizar o código que permite aos usuários do sistema operacional terem acesso a soluções de IA, Alessandro já produziu inúmeras outras inovações envolvendo a tecnologia e trabalha com OpenVINO desde a sua primeira versão. Ele conta que o principal desafio para a implementação nativa do pacote de ferramentas foi a adequação das políticas técnicas da Intel com as da openSUSE.

“O OpenVINO não rodava no openSUSE, então primeiro foi necessário criar um procedimento de compilação para torná-lo compatível com o sistema, depois foi preciso fazer o mesmo com o instalador para, finalmente, implementar nativamente o toolkit da Intel”, explica. A iniciativa é pioneira, destacando um produto desenvolvido pela comunidade por meio de código aberto da Intel. “É um trabalho colaborativo, que contribui para fomentar a inovação e a transformação digital em todo o ecossistema, servindo de referência e inspirando outras pessoas a se aventurarem na tecnologia. Como membros de uma comunidade de código aberto, é nosso dever lutar para democratizar as tecnologias emergentes e reduzir a exclusão digital na sociedade”, conclui o Intel Innovator.

Desde o lançamento do OpenVINO, em 2018, a Intel já permitiu que centenas de milhares de desenvolvedores acelerassem drasticamente o desempenho de inferência de IA, começando na borda e se estendendo à empresa e ao cliente.  O kit de ferramentas de software de código aberto da Intel otimiza o uso do hardware, agilizando o desenvolvimento de IA e a integração da aprendizagem profunda em domínios como visão computacional, modelos de linguagem ampla (LLM) e IA generativa.

Quais são os benefícios do OpenVINO?

1. Otimização e Implantação de Modelos de IA: O OpenVINO permite otimizar e implantar modelos de IA em diversos dispositivos, como CPUs, GPUs, FPGAs e VPUs. Ele converte os modelos treinados em um formato intermediário chamado Intermediate Representation (IR), que pode ser executado em qualquer dispositivo compatível com o OpenVINO.
2. Desempenho de Aprendizado Profundo de Alto Desempenho: O OpenVINO otimiza automaticamente os pipelines de aprendizado profundo usando fusão de gráficos agressiva, reutilização de memória, balanceamento de carga e paralelismo de inferência em CPU, GPU, VPU e mais.
3. Quantização e Compressão de Modelos: O OpenVINO oferece técnicas de quantização e outras técnicas de compressão de última geração para aumentar ainda mais a velocidade do seu modelo, reduzir o tamanho do modelo e os requisitos de memória, permitindo que ele seja implantado em hardware de borda com recursos limitados.
4. Suporte a Modelos Generativos de IA (GenAI) e Modelos de Linguagem de Grande Porte (LLMs): Esses modelos podem gerar conteúdo novo e original, como textos, imagens, áudios e vídeos.
5. Integração com Outras Bibliotecas e Frameworks da Intel: O OpenVINO se integra com outras bibliotecas e frameworks da Intel, como o oneAPI, o oneDNN e o oneTBB.
6. Nova API JavaScript em Versão Prévia: Isso permite usar o OpenVINO em aplicações web ou Node.js.
7. Portabilidade de Aplicativos Aprimorada: Escreva um aplicativo uma vez, implante-o em qualquer lugar, alcançando o máximo desempenho do hardware.
8. Tempo de Inicialização do Aplicativo Aprimorado: O OpenVINO reduz significativamente a latência da primeira inferência, usando a CPU para a inferência inicial e depois mudando para GPU ou VPU uma vez que o modelo tenha sido compilado e carregado na memória.