any-llm：又一个统一模型服务接口的Python代理库 - 文章 - 开发者社区

今天介绍一个由 Mozilla AI 开发的开源项目 - any-llm，它专门解决多 LLM 提供商接口统一的问题，让你可以用一个简单的接口调用不同的大语言模型。

picture.image

在当前 AI 开发中，开发者经常需要在不同的 LLM 提供商之间切换，比如 OpenAI、Mistral、Ollama 等，但每个提供商的 API 接口都略有差异。any-llm 巧妙地解决了这个痛点，提供了一个统一的接口来访问各种 LLM 服务。之前我们也介绍过liteLLM、AISuite，OneAPI等产品，any-LLM在此基础上吸取了各方的长处，对于开发者来讲，是一个新的选择。

aisuite: 吴恩达领导的开源统一LLM接口解决方案

比One-Api还简单的大模型路由 - simple-one-api

核心优势：

统一接口 ：只需要改变一个字符串参数就能切换不同的模型提供商
官方 SDK 支持 ：尽可能使用官方 SDK，确保兼容性和稳定性
开发友好 ：完整的类型提示和清晰的错误信息
无需代理 ：直接与 LLM 提供商通信，无需额外的网关服务
框架无关 ：可以在任何 Python 项目中使用

使用起来非常简单：

  
from any\_llm import completion  
import os  
  
# 设置 API Key  
assert os.environ.get('MISTRAL\_API\_KEY')  
  
# 统一的调用方式  
response = completion(  
    model="mistral/mistral-small-latest",  # <provider\_id>/<model\_id>  
    messages=[{"role": "user", "content": "Hello!"}]  
)  
print(response.choices[0].message.content)

安装时可以选择性安装需要的提供商：

  
pip install 'any-llm-sdk[mistral,ollama]'  
# 或者安装所有支持的提供商  
pip install 'any-llm-sdk[all]'

any-LLM支持的模型：

picture.image

github地址：https://github.com/mozilla-ai/any-llm

关注公众号回复“进群”入群讨论。