能在手机本地运行 DeepSeek-R1、Qwen的口袋AI开源了!

大模型向量数据库机器学习

picture.image

相信不少朋友和我有类似的经历:

飞机上想查资料,打开手机...没网

地铁里写文章卡壳,打开AI...断网

出差急用GPT,访问官网...超时

这些时候,多希望手机里能有个

不用联网,随时可用的AI助手...

今天,我要宣布一个重大决定:

口袋AI正式开源了!🎉

picture.image

开源地址:https://github.com/yzfly/pocketpal-ai-zh

是的,就是那个能在手机上运行 DeepSeek、Qwen、Llama、Gemma、Phi等大模型的口袋AI!

昨天我根本没想到,

在最新版本发布一小时内,

下载链接就被冲爆了。

picture.image

看到大家的热情,

我决定迈出更大的一步 —— 将口袋AI完全开源!

像 DeepSeek 一样,坚定拥抱开源精神!

picture.image

从一个简单的需求说起

去年,我经常在飞机上或旅途中,

遇到想要查询的知识时,

打开手机才想起:

没有网络,AI助手用不了...😓

"要是能有个不用联网的AI助手就好了!"

就是这个简单的想法,

让我开始探索手机本地运行AI的可能性。

探索与突破

通过研究,我发现了 pocketpal 这个项目。

但它存在几个问题:

  • 缺少中文语言选项
  • 内置模型的中文表现差
  • 国内网络访问困难
  • 界面设计有优化空间
  • 操作复杂,对新手不友好

picture.image

"与其等待完美,不如开始行动。"

即使我不懂安卓开发,

在 Claude 和 GPT 的协助下,

我开始了改进之路。

picture.image

从自用工具到开源项目

这个过程分为几个重要阶段:

  1. 初始版本

首先我优化了第一版,支持中文最好的千问系列模型:

参考文章:

口袋AI:五分钟把世界知识装进口袋

picture.image

  1. 持续优化

年后 DeepSeek 爆火,应大家需求,

我添加了 DeepSeek R1 系列模型支持,

参考文章:

口袋AI重磅更新:DeepSeek终于可以在手机本地运行,无惧官网崩溃!

picture.image

  1. 开源之路

现在,我们决定完全开源,

让更多人参与到开发中来。

有趣的是,整个开发过程中,

代码都是在AI的帮助下完成的。

picture.image

如果大家感兴趣,

我会在后续文章分享这个经历。

关于手机本地AI的一些思考

在开发过程中,经常听到这样的声音:

"手机端跑AI模型能有什么用?功能肯定很局限..."

"等以后手机厂商都内置AI了,这些就没意义了..."

坦白说,这些疑虑我也思考过。

但经过几个月的实践,

我有了不同的认识:

首先,本地AI的意义不在于替代在线服务

它的价值在于:

  • 随时随地可用(飞机、地铁、野外)
  • 数据完全私密(不用担心敏感信息泄露)
  • 不依赖网络(无需担心服务器宕机)
  • 使用成本几乎为零

picture.image

其次,即便未来手机都内置AI

开源的意义依然重大:

  • 用户可以自由选择和定制模型
  • 完全掌控自己的数据
  • 不受商业公司限制
  • 社区驱动持续创新

诚然,当前手机本地AI的能力还无法与在线大模型相比。

但技术在飞速进步,

更轻量、更智能的模型正在不断涌现。

与其等待手机厂商的内置方案,

不如我们一起打造真正属于用户的AI助手。

这正是口袋AI开源的意义所在。

诚邀各路英雄参与

"每个伟大的项目,都始于一个简单的参与。"

我们特别期待以下方向的贡献:

  1. iOS开发
  • 目前急需iOS开发者加入
  • 帮助将口袋AI带到苹果设备
  • 优秀的中文模型推荐
  • 提升中文对话体验
  • 适配更多优秀中文模型
  • 提示词优化和场景分享
  • 分享你的优秀提示词用例
  • 分享你的使用场景
  • 设备适配
  • 支持更多安卓设备
  • 优化性能表现

一起来玩!

公众号: 云中江树

GitHub讨论区: https://github.com/yzfly/pocketpal-ai-zh

让生成式AI真正走进每个人的生活,

从现在开始!


如果觉得有用,欢迎给我们的GitHub仓库点个⭐️!

0
0
0
0
关于作者
关于作者

文章

0

获赞

0

收藏

0

相关资源
边缘计算在视频直播场景的应用与实践
视频直播作为当前视频行业的核心场景之一,对于高清化、实时性、交互性要求较高,需要强大算力保障用户流畅观看与互动体验。本次分享主要从视频直播场景需求切入,介绍基于边缘计算的视频直播场景方案及其架构、应用与实践。
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论