🍹 Insight Daily 🪺
Aitrainee | 公众号：AI进修生
Hi，这里是Aitrainee，欢迎阅读本期新文章。
/ 速览： 本节给你带来一个讯息：Github最近提供了海量免费模型，包括Gpt4o、o1-preview等强大模型。
官方的说法是这些模型有速率限制，供你开发调试项目使用，等项目做好了可以切换到付费模式。
我还会介绍一个Blot分支项目，以配合这些免费api使用。
Bolt 呀，以前写的一篇文章介绍它是最好的代码编写代理之一，大家都很喜欢它，并且他是开源的，唯一的问题是他需要和 Anthropic API （Claude模型）密钥一起使用，这个就限制了很多人。
[Bolt.new：这款全新免费编码代理太棒了！轻松超越 v0 和 Cursor！（告别 ChatGPT、Claude）
2024-10-06
所以说介绍使用免费的api来说是很有价值的，我最近发现了 Bolt 的开源版本的一个分支： bolt.new-any-llm。
它有以下功能：首先，它支持 Open Router、Gemini 和 AI 模型的集成。它还可以下载AI生成的项目为 zip 文件，并改进了系统提示（system prompt），包括了 Deep Seek、Mistral 和 OpenAI 兼容的 API 集成。
它还支持将文件同步到本地文件夹，甚至可以直接将项目发布到 GitHub。
下面我们还是直接本地安装一下看一看它的实际功能吧，直接动手做可能更直观，项目原址还有Docker安装。
首先，你需要使用这个命令将它克隆到你的计算机上。
git clone git@github.com:coleam00/bolt.new-any-llm.git
克隆完成后，进入文件夹，然后运行 pnpm install 命令安装依赖项。
安装完成后，将 EnV 示例文件重命名为 EnV 本地文件。
现在打开它，你需要这个文件里输入你想使用的提供商的 API 密钥，比如 Groq、OpenAI、Anthropic、Deep Seek、Mistral、Ollama 和你的自定义 OpenAI 基础 URL。
Gemini 以及 Mistral (没有速率限制) 的 API 是免费的。
Mistral API：https://console.mistral.ai/api-keys/（支持中国号码验证）
然后启动：
看到界面
选择 Mistral Large Latest 模型
测试一下，创建一个待办事项
▲ AICodeKing
OK的。
这上面就是我们提到前面的一些功能，比如上传Github、下载Zip：
Github免费的GPT4o API来了！
这个项目 如何搭配GitHub 模型提供的免费 API 来使用 ？
到这获取GitHub Model界面提供的免费模型API
https://github.com/marketplace/models
主流模型都在这
虽然免费但还是有限制的
获取密钥
你可以在本地测试API是否调用成功
import os
from openai import OpenAI
token = os.environ["GITHUB_TOKEN"]
endpoint = "https://models.inference.ai.azure.com"
model_name = "gpt-4o"
client = OpenAI(
base_url=endpoint,
api_key=token,
)
response = client.chat.completions.create(
messages=[
{
"role": "system",
"content": "You are a helpful assistant.",
},
{
"role": "user",
"content": "Give me 5 good reasons why I should exercise every day.",
}
],
model=model_name,
stream=True
)
for update in response:
if update.choices[0].delta.content:
print(update.choices[0].delta.content, end="")
回到Blot来，你需要创建一个轻量 LLM 代理服务器（Light llm proxy server），使 上面的 GitHub 模型 API 完全兼容 OpenAI。
然后就是导入密钥，使用模型。
当然你完全也可以使用One-API来起到相同的效果。
Ok了这样就搞好了
使用React创建一个简单的扫雷游戏。
▲ AICodeKing
还不错呦。
总的来说，这次我介绍了谷歌、Mistral 这两个提供免费模型API的供应商，并介绍了GitHub Model上众多免费的模型。
这些资源可以帮助您在开发和调试项目时使用免费的API。 同时，结合Bolt 这个强大的AI代理，你可以获得更好的开发体验。
🌟希望这篇文章对你有帮助，感谢阅读！如果你喜欢这系列文章请以 点赞 / 分享 / 在看 的方式告诉我，以便我用来评估创作方向。
💫video source： https://www.youtube.com/watch?v=p\_tyWtQZx48
👽Submission：kristjahmez06@gmail.com
参考链接：
[1] github：https://github.com/coleam00/bolt.new-any-llm
知音难求，自我修炼亦艰
抓住前沿技术的机遇，与我们一起成为创新的超级个体
（把握AIGC时代的个人力量）
点这里👇关注我，记得标星哦～
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见 ~