Sherpa

这个应用程序是 llama.cpp 模型的演示。
你可以在 GitHub 上找到这个应用程序的源代码
它是在 Flutter 上使用重新编译的 ggerganov/llama.cpp 实现在手机上运行的。

它试图重建一个离线的聊天机器人，并且像 OpenAI 的 ChatGPT 一样工作。
您可以使用预提示对其进行微调。

Meta 提供了用于研究的 7B llama 模型。您需要将其下载到您的设备上，将其重命名为 ggml-model.bin 并将其放入您的下载文件夹中以运行该应用程序。

LLaMA 模型由 Meta 官方发布，我们永远不会提供。