树莓派 5 运行 Mistral 7B 大语言模型

写在前面

使用开源工具 Ollama，可以在本地非常简单地运行大语言模型。

测试环境

硬件：树莓派 5，8G RAM

系统：Raspberrypi OS Lite

硬盘：USB 外置 SSD 120G

安装

直接执行：

curl -fsSL https://ollama.com/install.sh | sudo sh

运行

执行：

ollama run mistral

如果是首次运行，会自动下载模型。下载完成后可以直接对话。

详细使用说明可以参考控制台打印的内容。

---

··· EOF ···
> 喜欢文章，支持一下 <