Sherpa

Questa app è una demo del modello llama.cpp.
Puoi trovare il codice sorgente di questa app su GitHub
È stato realizzato su Flutter utilizzando un'implementazione di ggerganov/llama.cpp ricompilata per funzionare sui dispositivi mobili.

Cerca di ricreare un chatbot offline e funziona come ChatGPT di OpenAI.
Puoi perfezionarlo con i preprompt.

Meta fornisce il modello di lama 7B per la ricerca. Devi scaricarlo sul tuo dispositivo, rinominarlo ggml-model.bin e metterlo nella cartella di download per eseguire questa app.

I modelli LLaMA sono ufficialmente distribuiti da Meta e non verranno mai forniti da noi.