A Microsoft está expandindo o uso de IA com o DeepSeek R1, inicialmente popular nos dispositivos móveis, agora sendo integrado ao ecossistema de PCs Copilot+. Em uma iniciativa surpreendente, a gigante de software trouxe versões compactas e otimizadas desse modelo para os computadores, visando aumentar a capacidade de processamento de IA nas máquinas domésticas. O DeepSeek R1 agora faz parte do Azure AI Foundry, permitindo que desenvolvedores testem e criem aplicativos e serviços baseados em nuvem.
Versões destiladas do DeepSeek R1 para PCs Copilot+
Com o objetivo de facilitar o uso em dispositivos comuns, as versões destiladas do modelo DeepSeek R1 estão sendo adaptadas para chips como Snapdragon X, Intel Core Ultra 200V e, futuramente, para PCs com AMD Ryzen AI 9. Inicialmente, o modelo destilado será o DeepSeek-R1-Distill-Qwen-1.5B, com versões mais avançadas de 7B e 14B de parâmetros previstas para lançamento. Os desenvolvedores poderão fazer o download desses modelos através do AI Toolkit da Microsoft.
Esses modelos compactados foram otimizados para funcionar de maneira eficiente em dispositivos com unidades de processamento neural (NPUs), garantindo uma performance aprimorada. A operação que exige maior uso de memória será gerida pela CPU, enquanto os processos mais pesados, como os transformadores, serão executados nas NPUs. A Microsoft alcançou um desempenho impressionante com um tempo de resposta de apenas 130 milissegundos para o primeiro token e uma taxa de 16 tokens por segundo para comandos curtos.
Notícias Relacionadas
Vulnerabilidade explorada
Falha Time Bandit burla segurança do ChatGPT e revela temas sensíveis
Pesquisadores descobriram o Time Bandit, um jailbreak do ChatGPT que ignora proteções e revela informações sensíveis. A falha, baseada em confusão temporal, foi relatada à OpenAI, mas continua funcionando parcialmente.
Disputa acirrada
DeepSeek ultrapassa ChatGPT e lidera a App Store
DeepSeek alcança o topo da App Store, superando o ChatGPT nos EUA e em outros 51 países. Seu modelo R1, eficiente e econômico, está revolucionando o mercado de IA e preocupando gigantes como Apple, Google e Microsoft.
Além de sua parceria com a OpenAI, que desenvolve o ChatGPT e GPT-4, a Microsoft continua a diversificar suas opções de IA, oferecendo modelos de outras plataformas como o GPT da OpenAI, Llama da Meta, e Mistral. Isso demonstra o compromisso da empresa em fornecer uma variedade de tecnologias de IA para atender a diferentes necessidades.
Para quem prefere uma IA local, os interessados podem baixar o AI Toolkit no VS Code e acessar o modelo destilado diretamente. Embora a destilação de modelos resulte em um desempenho reduzido em comparação com o modelo original (com 671 bilhões de parâmetros), o tamanho menor dos modelos destilados torna-os acessíveis para uso em dispositivos pessoais, sem a necessidade de hardware especializado caro.
Se você está em busca de uma IA poderosa, mas mais acessível para seu PC, o DeepSeek R1 destilado oferece uma solução promissora para integrar modelos de aprendizado de máquina em ambientes mais acessíveis e eficientes.
