Categories: AI/人工智能

Ollama环境变量设置

修改前先要关闭Ollama,修改完成后在开启

Ollama 默认模型在C盘下,到时候模型多了就占用了很多的系统空间,所以要修改下。

另外默认Ollama只允许本机localhost访问,对外访问也要修改下

我们直接修改系统变量添加下面需要修改的地方,这样对这台电脑上的所有人都生效


修改后


OLLAMA_HOST:这个变量定义了Ollama监听的网络接口。通过设置OLLAMA_HOST=0.0.0.0,我们可以让Ollama监听所有可用的网络接口,从而允许外部网络访问。

OLLAMA_MODELS:这个变量指定了模型镜像的存储路径。通过设置OLLAMA_MODELS=F:\OllamaCache,我们可以将模型镜像存储在E盘,避免C盘空间不足的问题。

OLLAMA_KEEP_ALIVE:这个变量控制模型在内存中的存活时间。设置OLLAMA_KEEP_ALIVE=24h可以让模型在内存中保持24小时,提高访问速度。

OLLAMA_PORT:这个变量允许我们更改Ollama的默认端口。例如,设置OLLAMA_PORT=8080可以将服务端口从默认的11434更改为8080。

OLLAMA_NUM_PARALLEL:这个变量决定了Ollama可以同时处理的用户请求数量。设置OLLAMA_NUM_PARALLEL=4可以让Ollama同时处理两个并发请求。

OLLAMA_MAX_LOADED_MODELS:这个变量限制了Ollama可以同时加载的模型数量。设置OLLAMA_MAX_LOADED_MODELS=4可以确保系统资源得到合理分配。

OLLAMA_ORIGINS: 允许的源列表,星号*或使用逗号分隔。

王哥哥

Share
Published by
王哥哥

Recent Posts

【推荐】银行业信息化丛书【套装共18册】

 【定制】:需要这套丛书的PD…

5 天 ago

【PDF】数据中心手册

 mail:gyd1#vip.…

5 天 ago

Workstation Pro 17.6.3

 VMSA-2025-0004…

5 天 ago

下载DeepSeek R1越狱版模型

在安装完Ollama后,您可以…

5 天 ago

【图片】DirectStorage for Windows

出处:https://www.…

6 天 ago