Sherpa

Esta aplicación es una demostración del modelo llama.cpp.
Puede encontrar el código fuente de esta aplicación en GitHub
Se hizo en Flutter usando una implementación de ggerganov/llama.cpp recompilado para funcionar en móviles.

Intenta recrear un chatbot que está fuera de línea y funciona como ChatGPT de OpenAI.
Puede ajustarlo con indicaciones previas.

Meta proporciona el modelo de llama 7B para la investigación. Debe descargarlo en su dispositivo, cambiarle el nombre a ggml-model.bin y ponerlo en su carpeta de descargas para ejecutar esta aplicación.

Los modelos LLaMA son distribuidos oficialmente por Meta y nunca serán proporcionados por nosotros.