Whisperfile oferece transcrição local segura e fácil com suporte da Mozilla

A equipe Mozilla Ocho, conhecida por sua constante inovação, integrou o sistema de reconhecimento automático de fala (ASR) Whisper, desenvolvido pela OpenAI, ao projeto llamafile. Este projeto busca simplificar o uso de modelos de linguagem de grande escala em hardware local, tudo em um único arquivo executável. Para usuários preocupados com a privacidade, a possibilidade de executar o software de transcrição localmente oferece uma camada adicional de segurança ao transcrever áudios sensíveis.

O projeto llamafile tem como objetivo eliminar a complexidade associada à instalação de modelos de linguagem, utilizando o código da biblioteca llama.cpp e a Cosmopolitan Libc, ambos escritos em C/C++. Ao combinar a inferência do modelo LLaMA da Meta, através do llama.cpp, com a portabilidade do C proporcionada pela Cosmopolitan Libc, a Mozilla Ocho criou uma solução robusta que pode ser executada em diferentes sistemas operacionais sem a necessidade de interpretadores ou máquinas virtuais.

A mais recente adição ao llamafile, conhecida como Whisperfile, foi anunciada no perfil da Mozilla no Hugging Face. Segundo a descrição, “Whisperfile é uma implementação de alto desempenho do Whisper da OpenAI, criada pela Mozilla Ocho como parte do projeto llamafile, baseada no software whisper.cpp desenvolvido por Georgi Gerganov, entre outros.” Para facilitar a implementação, a equipe embalou todos os pesos necessários do modelo em “whisperfiles”, que mantêm as características da Cosmopolitan Libc, permitindo que o modelo funcione na maioria dos sistemas.