在 AMD Ryzen AI 7 H350 Radeon 860M 上使用 Ollama 运行 GPU 加速

本文介绍了如何在搭载 AMD Ryzen AI 7 H350 及 Radeon 860M 显卡的系统上配置 Ollama 以利用 GPU 运行 AI 模型。一、安装 AMD 驱动程序首先请安装最新的 AMD 驱动程序以确保系统能够正确识别并调用显卡硬件。驱动程序下载地址https://www.amd.com/zh-cn/support/download/drivers.html二、了解 ROCm 的作用ROCm 是 AMD 官方推出的驱动程序旨在让 AI 模型能够在 AMD GPU 上运行。它增加了一个兼容层使得原本为 CUDA 编写的程序也可以在 AMD GPU 上执行。对应的 ROCm 驱动可在此处下载https://www.amd.com/en/developer/resources/rocm-hub/hip-sdk.html三、检查本机支持模式使用以下命令查询系统支持的 GPU 架构模式bashclinfo | findstr Device Name查询结果应为gfx1152这是 Radeon 860M 对应的架构标识。四、下载并替换 Ollama 的 ROCm 驱动访问以下仓库下载适用于 Ollama 的 ROCm 驱动https://github.com/likelovewant/ollama-for-amd/releases操作步骤下载并安装官方的OllamaSetup.exe。删除以下目录中的整个rocm文件夹C:\Users\用户名\AppData\Local\Programs\Ollama\lib\ollama\rocm将本仓库中的ollama-windows-amd64.7z解压出来的内容替换到上述目录。更新 ROCm 库在 Ollama 安装目录中找到rocblas.dll文件和rocblas/library文件夹通常位于C:\Users\用户名\AppData\Local\Programs\Ollama\lib\ollama\rocm删除现有的rocblas/library文件夹。替换为正确的 ROCm 库。请根据您的 GPU 选择正确的版本可在以下地址获取适用于 6.4.2 版本的 ROCmLibsROCmLibs for 6.4.2对于 Radeon 860M架构为gfx1152请下载以下专用包https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases/download/v0.6.4.2/rocm.gfx1152.for.hip.6.4.2.7z五、启动并验证 GPU 使用情况完成上述配置后启动 Ollama检查是否能够正常调用 GPU。如果仍然无法使用 GPU可能是因为显卡显存不足。此时加大显卡的专用的内存设置方法有两种 BIOS或者AMD Software: Adrenalin Edition一般设为8G。此时可以配置使用 Vulkan 模式并回退上面的更新ROCm库方法如下设置环境变量powershellset OLLAMA_VULKAN1六、可选方案使用一键安装程序您也可以使用以下链接中的一键安装程序实现快速安装。需要注意的是该程序会替换ollama.exe因此可能不是最新版本。一键安装程序地址https://github.com/ByronLeeeee/Ollama-For-AMD-Installer通过以上步骤您可以在 AMD Radeon 860M 上成功配置 Ollama利用 GPU 加速运行 AI 模型。