Linux非docker环境安装Ollama和Open-webui

举报
yd_275138019 发表于 2024/09/09 15:01:42 2024/09/09
4.5k+ 0 0
【摘要】 一、安装Ollama: curl -fsSL https://ollama.com/install.sh | sh为使外网环境能够访问到服务,需要对HOST进行配置。打开配置文件/etc/systemd/system/ollama.service添加如下配置:Environment="OLLAMA_HOST=0.0.0.0:11434"重启ollamasystemctl daemon-rel...

一、安装Ollama:

 curl -fsSL https://ollama.com/install.sh | sh

为使外网环境能够访问到服务,需要对HOST进行配置。

打开配置文件

/etc/systemd/system/ollama.service

添加如下配置:

Environment="OLLAMA_HOST=0.0.0.0:11434"

重启ollama

systemctl daemon-reload
systemctl restart ollama

浏览器中打开:http://your_ip:11434/,如果出现 Ollama is running,说明服务已经成功运行。

二、安装Open-webui

安装pip

yum install python3-pip

安装Open WebUI

pip install open-webui

将Open-webui添加服务并开机自启动

在/etc/systemd/system文件夹下新建open-webui.service文件,并加入如下内容:

[Unit]
Description=open-webui service
After=network.target

[Service]
Type=simple
ExecStart=/usr/local/bin/open-webui serve
Restart=on-failure

[Install]
WantedBy=multi-user.target

默认端口为8080,http://IP或者域名:8080访问。

【版权声明】本文为华为云社区用户原创内容,未经允许不得转载,如需转载请自行联系原作者进行授权。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

作者其他文章

评论(0

抱歉,系统识别当前为高风险访问,暂不支持该操作

    全部回复

    上滑加载中

    设置昵称

    在此一键设置昵称,即可参与社区互动!

    *长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

    *长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。