大家好,我是 Chris,今天详细和大家介绍如何在离线情况,使用 WiseMindAI 本地 AI 功能,比如文档总结、AI 对话、知识卡片等功能。
往期回顾:《
WiseMindAI:一款 AI 智能学习助手
》
官方网址:
这次 Chris 还录制了视频详细介绍,大家可以根据自己需求查看。
一、背景介绍
WiseMind AI 是一款 AI 驱动的本地 AI 知识库软件,数据完全本地化,安全可靠,支持丰富文档类型、AI 大语言模型和实用的 AI 插件。
本地 AI 知识库的好处在于:
- 安全放心
你的数据就像锁在自家保险箱里,谁也拿不走。
- 快速响应
不用联网,直接就能用,速度快得像闪电。
- 量身定制
可以根据你的需求进行训练,成为你的专属助手。
- 省钱省力
不用花大价钱买云服务,自己就能搞定。
特别是一些特殊行业,比如金融、医疗、科研等行业的敏感文档,不方便直接使用在线的 AI 服务,避免隐私泄露。
二、使用介绍
WiseMindAI 中,需要配置下面两个基础大模型:
- 通用模型
:将会用于做文档总结、对话、生成知识卡片等功能。 2. Embedding 模型
:将会用来做文档数据分析,之后会用在文档对话中。
只要配置这两个大模型后,就能在 WiseMindAI 中离线使用文档总结、AI 对话、知识卡片等功能。
如果需要离线的话,就需要在本地部署这两种模型,目前 WiseMindAI 接入的是 Ollama,本地环境可以通过 Ollama 部署所需要的大模型。
Ollama 地址:
1.下载 Ollama
首先打开
按照当前系统下载对于 Ollama,然后一键安装即可。
安装完成后,打开终端命令行工具,输入 ollama 然后回车,如果正常显示帮助信息,则表示安装成功,可以继续下一步。
2.下载模型
前面提到的 WiseMindAI 需要配置通用模型和 Embedding 模型,接下来可以在 Ollama 模型页面
找到合适的模型下载即可。
比如 Chris 找到最近比较火的 deepseek-r1 模型:
点击,打开详情,然后选择模型大小,点击复制安装命令即可。
将命令复制到前面的终端命令行工具,回车即可开始安装:
等到下载完成之后,就能开始使用了。大家可以使用相同方式下载 Embedding 模型,只要先在顶部菜单,切换到 Embedding 分类即可。
3.配置模型
当模型都下载完成后,就可以回到 WiseMindAI 的设置弹框,在对应位置数据前面下载好的模型名称即可:
4.使用 WiseMindAI
所有配置工作都完成后,接下来就可以正常使用 WiseMindAI 了:
总结
本文简单介绍了如何离线使用 WiseMindAI 的核心功能,保证所有数据的安全,当然,文章介绍的 Ollama 安装的模型,也可以使用在其他 AI 客户端软件,比如 ChatBox、Cherry Studio 等等。
最后,欢迎加入 WiseMindAI 用户交流群。
感谢支持“AI工具派”
欢迎点击右下角“
赞
”、“
在看
”并分享!