Ollama服务默认设定修改(模型保存位置、HOST、PORT等)

前言

  • ollama被设计成开箱即用的方式,上手非常简单,但是有一些隐藏的设置可以对默认情况进行修改

修改模型保存位置

Windows

  • 退出ollama应用
  • 打开系统环境变量设置窗口
  • 在环境变量中修改/添加 OLLAMA_MODELS项,值设置为想要保存模型的文件夹路径
  • 保存环境变量
  • 如果已经有下载完毕的ollama模型,相关文件默认保存在C:\Users\你的用户名\.ollama\models目录内,将目录内的文件剪切到新设置的目录内
  • 启动ollama应用,使用ollama list 命令查看模型是否正常存在

修改HOST和PORT

  • 通过设置OLLAMA_HOST参数,设置成host:port的格式,默认为"127.0.0.1:11434",只支持本机访问。
  • 想要将ollama对外也能访问,可以将参数设置成"0.0.0.0:11434"。
  • 确定好想要设置的参数值,就可以根据设备的系统进行对应的设置。

MAC

  • 退出运行中的ollama服务/应用
  • 在terminal中执行语句launchctl setenv OLLAMA_HOST "参数值"
  • 重新打开ollama应用,启动服务即可

注意: 这种配置方式在重启电脑后会失效,每次系统重启后都要重新进行参数设置的ollama的重启步骤

Linux

  • 执行命令systemctl edit ollama.service 打开ollama服务的文件编辑界面
  • [service]块下增加一行数据 Environment="OLLAMA_HOST=参数值"
  • 保存文件并退出
  • 重新启动服务systemctl daemon-reload && systemctl restart ollama

Windows

  • 打开系统环境变量设置窗口
  • 在环境变量中修改/添加 OLLAMA_HOST项,值设置为参数值
  • 保存环境变量,退出ollama应用并重新启动,实在不行也可以尝试重启电脑