Sherpa

Cette application est une démo du modèle llama.cpp.
Vous pouvez trouver le code source de cette application sur GitHub
Il a été réalisé sur Flutter en utilisant une implémentation de ggerganov/llama.cpp recompilé pour fonctionner sur les mobiles.

Il essaie de recréer un chatbot qui est hors ligne et fonctionne comme ChatGPT d'OpenAI.
Vous pouvez l'affiner avec des pré-invites.

Meta fournit le modèle de lama 7B pour la recherche. Vous devez le télécharger sur votre appareil, le renommer ggml-model.bin et le mettre dans votre dossier de téléchargement pour exécuter cette application.

Les modèles LLaMA sont officiellement distribués par Meta et ne seront jamais fournis par nous.