Deepseek 真的强,通过 APIPark 10秒就能接上!

最佳实践开源

近日,国产AI 大模型 DeepSeek 在中美科技圈引发热议,被誉为大模型领域的“黑马”。1月27日,DeepSeek 应用登顶苹果中国区和美区应用商店免费 App下载榜,甚至在美区超越了 ChatGPT,成为榜首。

DeepSeek 的崛起无疑为全球 AI 领域注入了新的活力,也让全球看见中国 AI 团队的创新能力。

picture.image APIPark 在一个月之前已经支持 DeepSeek 的接入了!只需简单几步,你即可在 APIPark 上调用 DeepSeek 的 API, 而且还有上百款 LLM 等你来试用!

🚀接入 DeepSeek

步骤1:配 置 DeepSeek 为 AI 供应商

进入 系统设置 模块,在侧边栏中选择 AI 模型管理,在列表中可以找到 DeepSeek

picture.image 填写 供应商配置,每个供应商有不同的配置信息,系统会自动根据你选择的供应商来生成所需的配置信息。您可以点击弹窗左下角,在 DeepSeek 官网出获得配置信息。

picture.image


步骤2:创建并发布 AI 服务

进入 工作空间 模块填写 AI 服务的基本信息配置管理权限订阅审核形式 等。

完成创建 AI 服务后,APIPark 会自动在服务里创建一个默认的 聚合 API(Unified API),你可以直接通过这个聚合 API 来调用 AI 服务。

picture.image

APIPark
有效解决大模型负载均衡#LLM Gateway #Developer Portal

随着企业对 AI 应对多场景的负载均衡日趋增加。企业需要一个更加灵活、自动化的解决方案,来确保 AI 基础设施的高可用性、低延迟和无缝扩展。

除了 DeepSeek 外,APIPark 还支持多款主流大模型,包括 OperAI、Anthropic、Bedrock、Gemini ...等等。****

您可以在 APIPark 给当前 AI 供应商配置一个负载优先级的字段,该字段识别在其他供应商异常的情况下,其关联的 API 优先调用其他 AI 大模型。

优先级数字越靠前(越小)的优先级越高,优先调用该供应商的默认模型。

picture.image

APIPark 有效优化了请求在多个大型语言模型实例之间的分配,确保在大型语言模型之间的无缝切换,减少业务因外部因素的影响。

您可以直接登录 APIPark 官网 查看部署教程,只需 5分钟即可快速部署!

如果对 APIPark 未来的功能感兴趣, 并有意向参与我们项目的开源共建,请登录 APIPark Github 仓 给我们开源团队提出您宝贵的建议!

0
0
0
0
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论