使用one-api统一大模型API接口,适配openai的api格式

使用one-api统一各个大模型的接口,提供openai 的api兼容格式。

最近安装了 openwebui ,openwebui不支持其他大模型的在线接口。只能使用兼容openai的api模式的。

宝塔安装docker模块:

one-api代码地址:

https://github.com/songquanpeng/one-api/

宝塔面板安装one-api的官方教程:

https://github.com/songquanpeng/one-api/issues/175

我在宝塔面板安装one-api 的操作记录,基于新加坡腾讯云服务器。

先配置国内加速,为什么国外服务器也提示用户名密码不正确。

选择腾讯云加速:

搜索线上镜像拉取到本地:

拉取成功后:

创建容器,选择拉取到的镜像,主要是本地端口3000和容器端口3000;本机的容器可读写目录,我喜欢在/data/wwwroot/ 下创建一个目录映射到 容器的data目录。

添加域名的反向代理:

容器启动成功:

容器启动成功后:添加一个网站,设置反向代理到127.0.0.1:3000 端口。

这样也不用单独配置安全组的3000端口对外开放了。直接访问域名就可以使用one-api。

登录密码默认root,123456。

然后再配置渠道,增加令牌就可以把开放的api添加到 openwebui 了。

添加渠道:

添加令牌:

火山引擎的豆包大模型需要先创建接入点:

https://console.volcengine.com/ark/region:ark+cn-beijing/endpoint?current=1&pageSize=10

然后把接入点的名字填入模型。

百度云的文心一言和千帆模型,需要创建应用,而不是使用系统ask。

https://console.bce.baidu.com/qianfan/ais/console/applicationConsole/application

阿里的通义千问的灵积自己支持openai 的api兼容:

也可以配置上。

https://help.aliyun.com/zh/dashscope/developer-reference/compatibility-of-openai-with-dashscope/?spm=a2c4g.11186623.0.0.d1f53116BlRnJw

直接阿里开通灵积服务:

https://dashscope.console.aliyun.com/overview

配置完以后:在openwebui中配置外部链接即可:

目前不知道为什么,我的dall-3的openai接口没有权限,不知道哪里设置还是不对。

AIGC的对话模型基本这样就可以一直充值使用gpt4和国内各大模型能力了,希望偶尔使用可以比开plus会员少一点费用。

后续需要关注绘画、视频、音频、数字人、音色学习相关的知识了。