llamafile es un proyecto de Mozilla que resuelve uno de los mayores dolores de cabeza al trabajar con modelos de lenguaje locales: la complejidad de instalación. La propuesta es radical: un solo archivo ejecutable que contiene el modelo y todo lo necesario para correrlo, sin instalación, en la mayoría de los sistemas operativos.
Combina llama.cpp con Cosmopolitan Libc para crear binarios portables que funcionan en macOS, Linux, BSD y Windows. El flujo de uso es mínimo:
curl -LO https://huggingface.co/Mozilla/llava-v1.5-7b-llamafile/resolve/main/llava-v1.5-7b-q4.llamafile
chmod +x llava-v1.5-7b-q4.llamafile
./llava-v1.5-7b-q4.llamafileAl ejecutarlo, abre automáticamente una interfaz web en el navegador. En Windows, basta con renombrar el archivo añadiéndole la extensión .exe.
Recientemente adoptado por Mozilla AI, el proyecto está en proceso de modernización de su base de código. Si usas o estás interesado en llamafile, la comunidad está activamente recabando opiniones sobre qué características son más valiosas.
Más información en el link 👇
