小智Pro:给小智装上"知识外挂",从此告别一问三不知

大模型智能应用向量数据库

picture.image

猴哥的第 202 期分享,欢迎追看

前文,分享了【小智Pro】系列文章:

30天,AI 陪我写了3万行代码,上线一款应用,3点血泪教训

小智Pro:智能闹钟提醒 + 云端同步,端云协同方案

小智Pro:在线点歌+歌词同步,支持打断和搜索,端云协同方案

今天来聊:如何给小智接入【知识库】,让它从此告别一问三不知!

关于【知识库】的设备端实现,前文已有分享:

小智 AI 外挂知识库RAG,打造私人定制专家

为了降低大家的使用门槛,小智Pro 现已接入【知识库】功能。

接下来,上实操:

  1. 平台知识库

体验 小智Pro ,请戳👇:

https://mkwyqeoebedx.sealosbja.site

1.1 创建知识库

点击左上角创建知识库,默认选择平台自研知识库

picture.image

1.2 设置知识库

picture.image

step 1 : 点击上方按钮区的知识库设置,弹出右侧抽屉

step 2 : 配置模型(必填)

推荐前往硅基流动获取免费模型:https://cloud.siliconflow.cn/i/DrgxdqSF

模型名称 :点击模型卡片 右上角 复制

Base URLhttps://api.siliconflow.cn/v1

API Key :硅基流动-左侧导航栏-账户管理-API密钥

免费模型参考:

  • 文本模型:Qwen/Qwen3-8B
  • Embed 嵌入模型:BAAI/bge-m3
  • Rerank 重排模型:BAAI/bge-reranker-v2-m3
  • 多模态模型:THUDM/GLM-4.1V-9B-Thinking

step 3 : 测试模型

这一步是为了确保模型公网可访问。

step 4 : 保存模型

测试通过后,点击保存,自动生成模型ID。

picture.image

step 5 : 4个模型成功生成模型ID 之后,右下角点击保存,自动生成知识库 ID。

1.3 添加知识

知识库创建成功后,即可添加知识内容,当前支持两种类型:

  • 本地文件:支持 PDF、Word、Markdown、TXT 和图片格式;
  • 网页URL:确保公网可访问;

picture.image

上传后,需等待后端完成向量提取和索引构建:

picture.image

前端会定期轮询后端索引状态,并更新:

picture.image

当状态变更为已索引,代表该知识可用。

1.4 检索测试

在设备端使用之前,可以在前端先测试一下:

picture.image

1.5 设备端测试

前端检索没问题后,设备端小智即可通过 MCP 调用这里的知识库,获取相关上下文来回答你的问题了:

  
硅迹流动针对学生有哪些活动?  

picture.image

  
那针对企业有哪些活动?  

picture.image

PS:如果小智无法调用 MCP 检索知识库内容,可以在小智控制台-配置角色,添加提示词,比如:

picture.image

或者提示它:调用知识库后回答:

picture.image

写在最后

本文分享了小智Pro: 知识库搭建+设备端检索的完整流程。

如果对你有帮助,不妨点赞收藏 备用。

欢迎体验 小智Pro 更多功能,请戳👇:

https://mkwyqeoebedx.sealosbja.site

有任何问题,欢迎进群交流:

picture.image

👇 关注猴哥,快速入门AI工具

picture.image

# AI 工具:

本地部署大模型?看这篇就够了,Ollama 部署和实战

盘点9家免费且靠谱的AI大模型 API,统一封装,任性调用!

免费GPU算力本地跑DeepSeek R1,无惧官方服务繁忙!

# AI应用** :**

弃坑 Coze,我把 Dify 接入了个人微信,AI小助理太强了

202K 下载!最强开源OCR:本地部署,邀你围观体验

阿里开源TTS CosyVoice 再升级!语音克隆玩出新花样,支持流式输出

借 WeChatFerry 东风,我把微信机器人复活了!

成本不到50的AI对话机器人,如何自建服务端?自定义角色+语音克隆

成本低至1.5元/天,小智AI服务端,完整解决方案,高可用+可扩展

0
0
0
0
关于作者

文章

0

获赞

0

收藏

0

相关资源
大规模高性能计算集群优化实践
随着机器学习的发展,数据量和训练模型都有越来越大的趋势,这对基础设施有了更高的要求,包括硬件、网络架构等。本次分享主要介绍火山引擎支撑大规模高性能计算集群的架构和优化实践。
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论