开发者-导航 猿导航

Ollama Window 安装

发布时间:

目录

欢迎使用 Ollama for Windows。

不再需要 WSL 啦!

Ollama 现在作为一个原生 Windows 应用程序运行,包括 NVIDIA 和 AMD Radeon GPU 支持。
安装完成 Ollama for Windows 后,Ollama 将在后台运行,并且 ollama 命令行将可用于 cmdpowershell 或您的喜爱的终端应用程序。如常,Ollama api 将在 http://localhost:11434 上提供服务。

系统要求 #

Ollama 使用 Unicode 字符作为进度指示器,可能在一些较旧的 Windows 10 终端字体中渲染为未知方块。如果您看到这种情况,请尝试更改您的终端字体设置。

文件系统要求 #

Ollama 安装不需要管理员权限, 默认安装在 C:\Users\Administrator\AppData\Local\Programs目录中。安装 Ollama 需要至少 4GB 的空间。完成安装后,您还需要额外的空间来存储 Large Language 模型,这些模型可以达到几十到数百 GB 的大小。如果您的家目录没有足够的空间,请尝试更改安装位置和模型存储位置。

更改安装位置 #

要将 Ollama 应用程序安装在不同的位置(而不是当前用户目录),请在安装时使用以下标记启动安装器:

OllamaSetup.exe /DIR="d:\some\location"
提示
上述标记的具体命令根据实际情况可能会有所变化。

更改模型位置 #

要更改 Ollama 存储下载的模型的位置(而不是当前用户目录),请在您的用户账户中设置环境变量 OLLAMA_MODELS

  1. 启动 Windows 11 的 设置 或 Windows 10 的 控制面板 应用程序,查找 环境变量
  2. 点击 编辑环境变量为您的帐户
  3. 编辑或创建一个新的变量 OLLAMA_MODELS 以指定存储模型的位置。
  4. 点击确定/应用以保存更改。

如果 Ollama 已经在运行,退出托盘应用程序并从启动菜单重新启动它,或者在保存环境变量后新打开终端。

API 访问 #

以下是一个快速示例,演示了如何从 powershell 中访问 API:

(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

故障排除 #

Ollama 在 Windows 上存储文件在几个不同的位置。您可以通过以下步骤查看它们:

卸载 #

Ollama Windows 安装程序注册了一个卸载器应用程序。您可以在 Windows 设置中的 添加或删除程序 中卸载 Ollama。

提示
上如果您已经更改了 `OLLAMA_MODELS` 位置,则卸载程序将不会删除您的下载的模型。

独立 CLI #

在 Windows 上安装 Ollama 的最简单方法是使用 OllamaSetup.exe 安装程序。它会在您的帐户中安装,而不需要管理员权限。我们会定期更新 Ollama 以支持最新的模型,这个安装程序将帮助您保持更新。

如果您想安装或集成 Ollama 为服务,一个独立的 ollama-windows-amd64.zip zip 文件可用,它包含只有 Ollama CLI 和 Nvidia 和 AMD 的 GPU 库依赖项。这使得可以在现有应用程序中嵌入 Ollama,或使用工具如 NSSMollama serve 的方式以系统服务的形式运行它。

提示
如果您正在从前版本升级,应先删除旧目录。