Linux非docker环境安装Ollama和Open-webui

举报
yd_275138019 发表于 2024/09/09 15:01:42 2024/09/09
【摘要】 一、安装Ollama: curl -fsSL https://ollama.com/install.sh | sh为使外网环境能够访问到服务,需要对HOST进行配置。打开配置文件/etc/systemd/system/ollama.service添加如下配置:Environment="OLLAMA_HOST=0.0.0.0:11434"重启ollamasystemctl daemon-rel...

一、安装Ollama:

 curl -fsSL https://ollama.com/install.sh | sh

为使外网环境能够访问到服务,需要对HOST进行配置。

打开配置文件

/etc/systemd/system/ollama.service

添加如下配置:

Environment="OLLAMA_HOST=0.0.0.0:11434"

重启ollama

systemctl daemon-reload
systemctl restart ollama

浏览器中打开:http://your_ip:11434/,如果出现 Ollama is running,说明服务已经成功运行。

二、安装Open-webui

安装pip

yum install python3-pip

安装Open WebUI

pip install open-webui

将Open-webui添加服务并开机自启动

在/etc/systemd/system文件夹下新建open-webui.service文件,并加入如下内容:

[Unit]
Description=open-webui service
After=network.target

[Service]
Type=simple
ExecStart=/usr/local/bin/open-webui serve
Restart=on-failure

[Install]
WantedBy=multi-user.target

 

默认端口为8080,http://IP或者域名:8080访问。

 

【版权声明】本文为华为云社区用户原创内容,未经允许不得转载,如需转载请自行联系原作者进行授权。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。