linux下安装ollama

安装要安装 Ollama请运行以下命令curl -fsSL https://ollama.ac.cn/install.sh | sh手动安装如果您是从旧版本升级应先运行sudo rm -rf /usr/lib/ollama删除旧的库文件。下载并解压软件包curl -fsSL https://ollama.ac.cn/download/ollama-linux-amd64.tar.zst \ | sudo tar x -C /usr启动 Ollamaollama serve在另一个终端中验证 Ollama 是否正在运行ollama -vAMD GPU 安装如果您使用的是 AMD GPU还需下载并解压额外的 ROCm 软件包curl -fsSL https://ollama.ac.cn/download/ollama-linux-amd64-rocm.tar.zst \ | sudo tar x -C /usrARM64 安装下载并解压 ARM64 专用软件包curl -fsSL https://ollama.ac.cn/download/ollama-linux-arm64.tar.zst \ | sudo tar x -C /usr将 Ollama 添加为启动服务推荐为 Ollama 创建用户和用户组sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama sudo usermod -a -G ollama $(whoami)在/etc/systemd/system/ollama.service中创建服务文件[Unit] DescriptionOllama Service Afternetwork-online.target [Service] ExecStart/usr/bin/ollama serve Userollama Groupollama Restartalways RestartSec3 EnvironmentPATH$PATH [Install] WantedBymulti-user.target然后启动服务sudo systemctl daemon-reload sudo systemctl enable ollama安装 CUDA 驱动程序可选下载并安装 CUDA。通过运行以下命令验证驱动程序是否已安装该命令应打印出有关 GPU 的详细信息nvidia-smi安装 AMD ROCm 驱动程序可选下载并安装 ROCm v6。启动 Ollama启动 Ollama 并验证其正在运行sudo systemctl start ollama sudo systemctl status ollama虽然 AMD 已将amdgpu驱动程序上游提交至官方 Linux 内核源码但该版本较旧可能不支持所有 ROCm 功能。为了给您的 Radeon GPU 提供最佳支持建议您从 https://www.amd.com/en/support/linux-drivers 安装最新驱动程序。自定义设置要自定义 Ollama 的安装您可以通过运行以下命令来编辑 systemd 服务文件或环境变量sudo systemctl edit ollama或者在/etc/systemd/system/ollama.service.d/override.conf中手动创建一个覆盖文件[Service] EnvironmentOLLAMA_DEBUG1更新通过再次运行安装脚本来更新 Ollamacurl -fsSL https://ollama.ac.cn/install.sh | sh或者通过重新下载 Ollama 进行更新curl -fsSL https://ollama.ac.cn/download/ollama-linux-amd64.tar.zst \ | sudo tar x -C /usr安装特定版本在安装脚本中使用OLLAMA_VERSION环境变量来安装特定版本的 Ollama包括预发布版本。您可以在 发布页面 找到版本号。例如curl -fsSL https://ollama.ac.cn/install.sh | OLLAMA_VERSION0.5.7 sh查看日志要查看作为启动服务运行的 Ollama 日志请运行journalctl -e -u ollama卸载删除 ollama 服务sudo systemctl stop ollama sudo systemctl disable ollama sudo rm /etc/systemd/system/ollama.service从库目录/usr/local/lib、/usr/lib或/lib中删除 ollama 库sudo rm -r $(which ollama | tr bin lib)从二进制目录/usr/local/bin、/usr/bin或/bin中删除 ollama 可执行文件sudo rm $(which ollama)删除下载的模型以及 Ollama 服务用户和用户组sudo userdel ollama sudo groupdel ollama sudo rm -r /usr/share/ollama转自https://docs.ollama.ac.cn/linux