Sherpa

Aplikasi ini adalah demo dari model llama.cpp.
Anda dapat menemukan kode sumber aplikasi ini di GitHub
Itu dibuat di Flutter menggunakan implementasi ggerganov/llama.cpp yang dikompilasi ulang agar berfungsi di ponsel.

Ia mencoba membuat ulang chatbot yang offline, dan berfungsi seperti ChatGPT OpenAI.
Anda dapat menyempurnakannya dengan preprompts.

Meta menyediakan model llama 7B untuk penelitian. Anda perlu mengunduhnya di perangkat Anda, ganti namanya ggml-model.bin dan letakkan di folder unduhan Anda untuk menjalankan aplikasi ini.

Model LLaMA didistribusikan secara resmi oleh Meta dan tidak akan pernah disediakan oleh kami.