
今天这篇文章,超哥就来手把手教大家在自己电脑上本地部署Gamma4。
第一步:安装Ollama
Ollama是一个开源的大型语言模型服务工具,可以帮助我们快速在本地运行大语言模型。
并且Ollama支持市面上各种主流的模型,比如llama2、qwen1.5、mixtral、Gemma等等。
所以建议大家本地部署Gemma4的时候,都使用Ollama来运行Gemma4以获得更快的性能。
Ollama客户端可以直接在官网下载。
官网地址:http://ollama.com

Ollama支持macOS、Linux和Windows系统,选择自己电脑对应的版本下载即可。
以linux为例,我用的是rock9

Ollama默认监听的是127.0.0.1:11434
需要修改配置:
推荐方法:systemd 配置(适用于Linux)
创建override 配置目录
sudo mkdir -p /etc/systemd/system/ollama.service.d
创建并编辑 override 文件(以端口 11434 为例)
```sudo tee /etc/systemd/system/ollama.service.d/override.conf > /dev/null <<EOF
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
EOF
```
若仅本地使用,可设为 127.0.0.1:11434。
若需局域网访问,使用 0.0.0.0:11434 并开放防火墙:方法略有需要的自行搜索相关方法
重载并重启服务
```
sudo systemctl daemon-reload
sudo systemctl restart ollama.service
sudo systemctl status ollama.service # 确认状态为 "active (running)"
```
第二步:下载和运行Gemma4模型

载和运行Gemma4模型:
```
ollama run gemma4:e2b
```

Gemma4 e2b大概7.2G左右:

简单测试:
1.问who are you

2.问是否可以用中文

3.做个简单的算术
