Ollama 使用指南:Linux、Windows 和 macOS

打印 上一主题 下一主题

主题 882|帖子 882|积分 2646

Ollama 是一个开源平台,用于摆设和运行大型语言模型。它提供了一种在本地环境中运行语言模型的能力,使得用户可以在本地安全地与这些模型进行交互,而无需将数据发送到云端。

安装 Ollama

确保您已经安装了 Ollama。如果还没有安装,可以通过以下下令安装:
代码语言:javascript
  1. # Linux, macOS
  2. curl -s https://install.ollama.ai | sh
  3. # Windows (PowerShell)
  4. Invoke-WebRequest -Uri https://install.ollama.ai -OutFile ollama-install.ps1
  5. .\ollama-install.ps1
复制代码
启动服务

使用 ollama serve

下令启动服务。
Linux/macOS:
代码语言:javascript
  1. ollama serve
复制代码
Windows (PowerShell):
代码语言:javascript
  1. ollama serve
复制代码
配置 Ollama 以允许外部访问

默认情况下,Ollama 绑定的是 127.0.0.1:11434,这意味着它仅监听本地回环地址。要让 Ollama 在局域网内被其他设备访问,您需要配置 OLLAMA_HOST 环境变量以监听所有网络接口。
Linux/macOS:
代码语言:javascript
  1. export OLLAMA_HOST=0.0.0.0:11434
  2. ollama serve
复制代码
Windows (PowerShell):
代码语言:javascript
  1. $env:OLLAMA_HOST = "0.0.0.0:11434"
  2. ollama serve
复制代码
使用 Systemd 管理服务 (仅限 Linux)

如果您使用的是 Linux 体系,并且希望使用 Systemd 来管理 Ollama 服务,可以按照以下步调操纵:
创建服务文件 创建一个新的 Systemd 服务文件,例如 /etc/systemd/system/ollama.service,并添加以下内容:
代码语言:javascript
  1. [Unit]Description=Ollama AI ServiceAfter=network.target[Service]Type=simpleUser=<your-username>WorkingDirectory=/path/to/ollamaExecStart=/usr/bin/ollama serve
  2. Restart=on-failureEnvironment="OLLAMA_HOST=0.0.0.0:11434"[Install]WantedBy=multi-user.target
复制代码
启用服务 通过以下下令启用并启动服务:
代码语言:javascript
  1. sudo systemctl enable ollama.service
  2. sudo systemctl start ollama.service
复制代码
制止服务 如果需要制止服务,可以使用以下下令:
代码语言:javascript
  1. sudo systemctl stop ollama.service
复制代码
使用 ollama run 启动模型

使用 ollama run 下令启动单个模型实例。例如,要启动名为 gemma 的模型,可以使用以下下令:
代码语言:javascript
  1. ollama run gemma
复制代码
如果您还没有下载该模型,Ollama 会主动为您下载它。您可以通过 ollama list 下令检察所有可用的模型列表。
检察正在运行的模型

使用 ollama ps
下令检察正在运行的模型:
代码语言:javascript
  1. ollama ps
复制代码
验证服务状态

由于 ollama status 下令不存在,您可以使用以下方法之一来检查服务的状态:
使用 ps 下令
Linux/macOS:
代码语言:javascript
  1. ps aux | grep ollama
复制代码
Windows (PowerShell):
代码语言:javascript
  1. Get-Process ollama
复制代码
使用 Docker 下令
检察运行中的 Docker 容器:
代码语言:javascript
  1. docker ps
复制代码
使用 systemctl 下令 (仅限 Linux)
如果您使用 Systemd 来管理服务,可以使用以下下令来检察服务的状态:
代码语言:javascript
  1. sudo systemctl status ollama.service
复制代码
结论

通过以上步调,您可以在 Linux、Windows 和 macOS 体系上成功地配置 Ollama 服务,使其能够在您的局域网内被其他设备访问。这不但增长了 Ollama 的可用性,还为您提供了更多的灵活性来使用其强大的语言处理功能。
如何体系的去学习大模型LLM ?

大模型时代,火爆出圈的LLM大模型让步伐员们开始重新评估自己的本事。 “AI会代替那些行业?”“谁的饭碗又将不保了?”等问题热议不停。
事实上,抢你饭碗的不是AI,而是会使用AI的人。
继科大讯飞、阿里、华为等巨头公司发布AI产物后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 现在大厂老板们,也更倾向于会AI的人,普通步伐员,还有应对的时机吗?
与其焦虑……

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先实验,谁就能占得先机!
但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习本钱和门槛很高。
针对所有自学遇到困难的同学们,我帮大家体系梳理大模型学习脉络,将这份 LLM大模型资料 分享出来:包罗LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等,

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

正序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

玛卡巴卡的卡巴卡玛

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表