手把手教大家在自己电脑上本地部署Gamma4
超人科技
编辑于 2026年04月04日 07:57

今天这篇文章,超哥就来手把手教大家在自己电脑上本地部署Gamma4。

第一步:安装Ollama

Ollama是一个开源的大型语言模型服务工具,可以帮助我们快速在本地运行大语言模型。

并且Ollama支持市面上各种主流的模型,比如llama2、qwen1.5、mixtral、Gemma等等。

所以建议大家本地部署Gemma4的时候,都使用Ollama来运行Gemma4以获得更快的性能。

Ollama客户端可以直接在官网下载。

官网地址:http://ollama.com

Ollama支持macOS、Linux和Windows系统,选择自己电脑对应的版本下载即可。

以linux为例,我用的是rock9

Ollama默认监听的是127.0.0.1:11434

需要修改配置:

推荐方法:systemd 配置(适用于Linux)‌

‌创建override 配置目录‌

sudo mkdir -p /etc/systemd/system/ollama.service.d

创建并编辑 override 文件‌(以端口 11434 为例)

```sudo tee /etc/systemd/system/ollama.service.d/override.conf > /dev/null <<EOF

[Service]

Environment="OLLAMA_HOST=0.0.0.0:11434"

EOF

```

若仅本地使用,可设为 127.0.0.1:11434。

若需局域网访问,使用 0.0.0.0:11434 并开放防火墙:方法略有需要的自行搜索相关方法

‌重载并重启服务‌

```

sudo systemctl daemon-reload

sudo systemctl restart ollama.service

sudo systemctl status ollama.service  # 确认状态为 "active (running)"

```

第二步:下载和运行Gemma4模型

载和运行Gemma4模型:

```

ollama run gemma4:e2b

```

Gemma4 e2b大概7.2G左右:

简单测试:

1.问who are you

2.问是否可以用中文

3.做个简单的算术