如何配置 Ollama 服务器

Ollama 服务器可以通过环境变量进行配置。

在 Mac 上设置环境变量:

如果 Ollama 作为 macOS 应用程序运行，则应使用 launchctl 设置环境变量：

1. 为每个环境变量，调用 launchctl setenv。

launchctl setenv OLLAMA_HOST "0.0.0.0"

2. 重启 Ollama 应用程序。

在 Linux 上设置环境变量

如果 Ollama 作为 systemd 服务运行，则应使用 systemctl 设置环境变量：

1.  通过调用 systemctl edit ollama.service 编辑 systemd 服务，执行该命令后会打开一个编辑器。

2. 为每个环境变量，在 [Service] 部分下添加一行 Environment：

[Service]
Environment="OLLAMA_HOST=0.0.0.0"

3. 保存并退出。

4. 重新加载 systemd 并重启 Ollama：

systemctl daemon-reload
systemctl restart ollama

在 Windows 上设置环境变量

在 Windows 上，Ollama 继承您的用户和系统环境变量。

1. 首先通过单击任务栏中的 Ollama 退出程序

2. 从控制面板编辑系统环境变量

3. 为您的用户帐户编辑或创建 OLLAMA_HOST、OLLAMA_MODELS 等新变量。

4. 单击确定/应用保存

5. 从新的终端窗口运行 Ollama

如何在网络上公开 Ollama？

默认情况下，Ollama 绑定 127.0.0.1 端口 11434。使用 OLLAMA_HOST 环境变量更改绑定地址。

有关如何在您的平台上设置环境变量，请参阅上面的部分。

如何将 Ollama 与代理服务器一起使用？ Ollama 运行一个 HTTP 服务器，可以使用 Nginx 等代理服务器公开。为此，请配置代理以转发请求并有选择地设置所需的标头（如果不在网络上公开 Ollama）。例如，使用 Nginx：

server {
    listen 80;
    server_name example.com;  # Replace with your domain or IP
    location / {
        proxy_pass http://localhost:11434;
        proxy_set_header Host localhost:11434;
    }
}