4k star!升级版OneAPI,助力 Dify 兼容 OpenAI 格式

技术

picture.image

猴哥的第 144 期分享,欢迎追看

最近用 dify 搭建了不少智能体,不过 dify 有一个缺陷。

相信用过的朋友会有同样的感受:它的 API 和 Open AI 不兼容

这就导致一个应用中,用到 dify 的地方,还必须重新写一套 LLM 的调用逻辑。

很是麻烦,怎么搞?

前段时间,和大家分享过大模型分发和管理神器 OneAPI:

一键封装成OpenAI协议,强推的一款神器!

并接入了多款大模型 API:

盘点 9 家免费且靠谱的AI大模型 API,统一封装,任性调用!

实现一个接口聚合不同的大模型,再转换为 OpenAI 的 API,遗憾的是不支持 Dify 接入

最近看到一款开源项目 NewAPI :对 OneAPI 进行了二次开发,实现了对 Dify 的支持。终于,Dify API 也可以通过 OpenAI 统一分发了!

话不多说,上实操!

  1. 服务部署

项目:https://github.com/Calcium-Ion/new-api

推荐使用 docker 部署:

数据库使用 SQLite 的部署命令

  
docker run -d --name newapi --restart always -p 3007:3000 -e TZ=Asia/Shanghai -v ./data:/data calciumion/new-api:latest  

当然,也支持 Docker Compose 的方式:

  
# 先下载项目到本地  
git clone https://github.com/Calcium-Ion/new-api.git  
# 然后修改 docker-compose.yml 文件  
# 最后启动  
docker-compose up -d  

  1. NewAPI 使用

2.1 登录

本地浏览器通过 IP + 端口的形式进行访问,初始账号密码:root 123456。

picture.image

2.2 渠道

相信用过 OneAPI 的朋友,应该不陌生:渠道用于添加不同厂商的大模型。

点击「控制台-渠道-添加渠道」,在支持的渠道里选择 Dify:

picture.image

picture.image

然后,在代理这里:需填入 dify 的 IP地址+端口号。

picture.image

注意:图中的http://host.docker.internal:3006 用于从Docker容器内部访问宿主机的网络,不过只能在Windows和Mac版本的 Docker 中使用。Linux 用户需要改为本机的 IP 地址(同一局域网内即可,无需公网 IP )。

清空下方所有模型,填入模型名称 dify:

picture.image

然后,在最下方填入 dify 应用中获取的密钥:

picture.image

最后,来测试一下吧,一般只要 IP+端口号没问题,这里都能通过:

picture.image

此外,New API 完美兼容 OneAPI 的数据库,可直接迁移 OneAPI 的数据库(one-api.db),无需同时维护OneAPI 和 NewAPI 两个项目。

2.3 PlayGround

相比 Dify,作者贴心地新增了 PlayGround,方便可视化模型效果。

模型选择我们之前在 Dify 上搭建的搜索引擎智能体:

picture.image

2.4 令牌

要在本地客户端调用,还需一个 api_key。添加令牌:

picture.image

2.5 更多

此外,相比 OneAPI,NewAPI 这个项目还增加了更多实用功能,比如下方的调用量数据看板,同时也增加了支付接口,新一代大模型网关与AI资产管理系统,当之无愧!

picture.image

写在最后

本文介绍了大模型接口管理工具-NewAPI,除了 Dify 之外,还支持 Midjourney 绘图接口。有需要的朋友快去试试。

如果对你有帮助,欢迎点赞收藏 备用。


为方便大家交流,新建了一个 AI 交流群,公众号后台「联系我」,拉你进群。

👇 关注猴哥,快速入门AI工具

picture.image

# AI 工具:

本地部署大模型?看这篇就够了,Ollama 部署和实战

盘点9家免费且靠谱的AI大模型 API,统一封装,任性调用!

AI全栈利器开源!带你用Ollama+Qwen2.5-Code跑bolt.new,一键生成网站

# AI应用** :**

弃坑 Coze,我把 Dify 接入了个人微信,AI小助理太强了

搭建微信AI助理的第4种方式,我造了一个摸鱼小助手,免费开源,轻量高效

我把「FLUX」接入了「小爱」,微信直接出图,告别一切绘画软件!

202K 下载!最强开源OCR:本地部署,邀你围观体验

0
0
0
0
关于作者

文章

0

获赞

0

收藏

0

相关资源
大模型解决方案白皮书:社交陪伴场景全流程落地指南
随着大模型技术持续突破,AI正加速重塑社交娱乐的形态与体验。其中,陪伴式聊天因用户黏性强、互动频次高,成为大模型商业化落地的关键赛道。随着模型能力跃升至万亿参数级,AI从工具属性正迈向情感交互生态,现象级产品的诞生条件逐渐成熟。 本白皮书聚焦AI陪伴聊天应用开发,面向“从何起步、如何落地”的新手困惑,系统拆解从需求定义到产品上线的关键流程。我们结合工程化实践路径,打造模块化知识体系与渐进式开发框架,帮助开发者在30天内完成从技术认知到产品原型的跃升,快速构建具备基础交互能力的Web或App应用,迈出大模型
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论