Segurança cibernética
Falhas críticas no Framework Ollama AI podem permitir DoS e roubo de modelos
O framework Ollama AI possui seis falhas críticas de segurança que permitem DoS e roubo de modelos. Aplique medidas de segurança.
Search: Llama
Removido código
Llama Group remove código-fonte do Winamp do GitHub após controvérsias
O Llama Group removeu o código-fonte do Winamp do GitHub devido a violações de licenças copyleft e uso indevido de código proprietário. A comunidade aguarda um posicionamento oficial sobre o futuro do projeto e a correção das irregularidades.
Nova interface
Llamafile 0.8.14 lança interface chatbot via CLI com realce de código e suporte a GPUs
A nova versão do Llamafile traz uma interface de chatbot via CLI com suporte a linguagens como Python e Java, além de melhorias no desempenho com cache KV BF16 e suporte a GPUs no llamafile-bench. Confira as novidades no GitHub.
Llamafile 0.8.7 traz correções e melhor desempenho do ARM
Nos últimos tempos, o Llamafile tem sido uma das melhores novas iniciativas da Mozilla. O Llamafile facilita a distribuição e a execução de modelos de linguagem grandes como um único arquivo. Além disso, ao mesmo tempo ele suporta a execução de CPU e GPU e torna os LLMs de IA muito mais acessíveis para os […]
Como instalar o GUI Follamac no Linux!
Follamac é um aplicativo de desktop que fornece uma maneira conveniente de trabalhar com Ollama e modelos de linguagem grande (LLMs) e oferece excelentes recursos. Neste tutorial, saiba como instalar o GUI Follamac no Linux, usando pacotes Flatpak. Você precisa do Ollama rodando em seu host local com algum modelo. Depois que o Ollama estiver […]
Llamafile 0.8.2 da Mozilla tem novas otimizações de desempenho do AVX2
Chegou o Llamafile 0.8.2 da Mozilla, um recurso que recebe grandes novas otimizações de desempenho do AVX2. Esta é uma das inovações interessantes do Mozilla Ocho como grupo de inovação e experimentos da empresa de navegadores é o Llamafile, uma maneira fácil de distribuir e executar modelos de linguagem grande (LLMs) de IA a partir […]
Llama 2 da Meta não é tão de código aberto como diz ser!
Quando falamos de software de código aberto, estamos falando de qualquer programa em que o desenvolvedor libera o código-fonte gratuitamente. Isso significa que qualquer pessoa no mundo pode baixá-lo, modificá-lo e distribuí-lo sem pagar taxas ao seu criador original. Para atender aos critérios de código aberto, o código-fonte deve ser compartilhado com outras pessoas usando […]
Meta firma parceria com a Microsoft para lançar o Llama 2 LLM gratuitamente
A IA Generativa, Generative AI (GAI), está na moda hoje em dia, graças a novos chatbots e serviços de IA como o ChatGPT da OpenAI, o Bing Chat da Microsoft, o Bard do Google e muito mais. E com o passar do tempo, essas tecnologias só estão melhorando com a adição de novos recursos para […]
Tudo sobre o Llama 2 da Microsoft e Meta
O Llama 2 é uma nova ferramenta incrível desenvolvida pela Microsoft em parceria com a Meta, uma colaboração que tem despertado grande entusiasmo em todo o mundo. Neste post, vamos explorar em detalhes todas as informações e recursos relacionados a essa emocionante parceria, que certamente está trazendo avanços significativos para a área. Com essa nova […]
ZenDNN 5.0
AMD ZenDNN 5.0: Melhorias para EPYC Zen 5 e modelos de IA Gerativa
A AMD lançou oficialmente a versão 5.0 de sua biblioteca ZenDNN, projetada para redes neurais profundas e otimizada para os processadores AMD Zen 5, incluindo a linha EPYC 9005. Esta atualização não só melhora o desempenho de modelos de linguagem gerativa, como também é compatível com as APIs do oneDNN da Intel, o que facilita […]