Ollama安装使用

一、自动安装ollama

ollama官网https://ollama.com/download/linux提供了直接安装的方法，一行命令即可完成安装

curl -fsSL https://ollama.com/install.sh | sh

二、手工安装ollama

实际使用中可能由于网速问题，非常慢，超时中断。 ollama也可以手工安装：https://github.com/ollama/ollama/blob/main/docs/linux.md

1. 安装ollama

下载包: 命令行 curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz 或者点击https://ollama.com/download/ollama-linux-amd64.tgz下载安装包（大约1.54GB）

解压到/usr目录 sudo tar -C /usr -xzf ollama-linux-arm64.tgz

如果报错：bash: sudo: command not found apt-get update apt-get install sudo

测试是否安装成功 Start Ollama: ollama serve 出现以下结果即为安装成功： 在这里插入图片描述

In another terminal, verify that Ollama is running: ollama -v 结果如下： 在这里插入图片描述 2. AMD GPU和ARM64架构的Linux系统

查看当前的Linux系统架构 uname -m

输出 （1）x86_64 这是 64 位的 Intel 或 AMD 架构（也称为 AMD64）。 命令行curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz 或者点击https://ollama.com/download/ollama-linux-amd64.tgz下载安装包（大约1.54GB） （2）aarch64 这是 64 位的 ARM 架构。 sudo tar -C /usr -xzf ollama-linux-arm64.tgz 命令行或者点击https://ollama.com/download/ollama-linux-arm64.tgz下载安装包 3. 将Ollama设置为系统启动时自动运行（建议）

创建系统用户和用户组 sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama sudo usermod -a -G ollama $(whoami)

创建服务文件 创建一个 systemd 服务文件来管理 Ollama 作为后台服务运行。该文件通常位于 /etc/systemd/system/ollama.service 文件内容如下：

[Unit] Description=Ollama Service After=network-online.target

[Service] ExecStart=/usr/bin/ollama serve User=ollama Group=ollama Restart=always RestartSec=3 Environment="PATH=$PATH" Environment="OLLAMA_MODELS=/home/ollama" [Install] WantedBy=default.target

将服务文件复制到 /etc/systemd/system/ollama.service

启动服务 sudo systemctl daemon-reload sudo systemctl enable ollama sudo systemctl start ollama

查看服务状态 sudo systemctl status ollama 重启服务 sudo systemctl restart ollama