Nova interface
Llamafile 0.8.14 lança interface chatbot via CLI com realce de código e suporte a GPUs
A nova versão do Llamafile traz uma interface de chatbot via CLI com suporte a linguagens como Python e Java, além de melhorias no desempenho com cache KV BF16 e suporte a GPUs no llamafile-bench. Confira as novidades no GitHub.