部署ollama 和openwebui需要解决的几个问题。

一 、Ollama 安装需要解决问题
Ollama 官网 https://ollama.com/
1、 Ollama 安装包是github上下载,无法访问。
使用国外服务器下载后中转。

二、openwebui部署需要解决的两个域名访问问题
openwebui 官方仓库:https://github.com/open-webui/open-webui

1、openwebui dockerhub 站点镜像无法访问问题
可以使用清华docker镜像站加速方案。
阿里云服务器可以试试阿里云自己的hub加速:https://help.aliyun.com/zh/acr/user-guide/accelerate-the-pulls-of-docker-official-images?spm=a2c4g.11186623.0.i7

2、openwebui 依赖的 openai api无法访问问题。
自建代理、使用第三方中转api、直接代理。

3、openwebui一些语义向量模型依赖 huggingface 模型站点无法访问问题。
使用国内镜像站替换 https://huggingface.co/
docker 系统环境变量中增加镜像站配置。
HF_ENDPOINT=https://hf-mirror.com

太难了,本来很丝滑的操作,现在需要先解决一大堆网络问题才能部署。
最好的学习方式是直接开一台美国或者国外的服务器部署这些环境,无障碍访问。

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

退出移动版