场景介绍
长期记忆能够激发大模型提供更具个性化的互动能力,解决当前大模型在陪伴社交、AI 教育、车机助手、智能硬件等场景下记忆缺失、对话断层、沟通失真的问题。长期记忆方案,基于 DeepSeek-R1 模型的强大思考能力将对话内容抽取成记忆,记录用户偏好、性格、生日等,并在对话到相关话题时帮助 Doubao 角色模型生成更贴合角色人设的回复。
当前应用基于开源 mem0 项目结合火山大模型服务搭建。
一 火山引擎关键KEY获取
请参考 MacBook 跑通 [1]: 火山文生视频+自动剪辑方案 中的 【一 开通服务】部分。
部署说明
环境准备
- 要求 3.9 ≤ Python 版本 < 3.12
- Node 18.0 或以上版本
- PNPM 8.10 或以上版本
- 已创建 Doubao-pro-32K-character-241215 的endpoint 参考文档
(注意,这个模型需要选择 Doubao-pro-32K 的一个分支 )
-
已创建 DeepSeek-R1 的endpoint 参考文档
-
已创建 Doubao-embedding 的endpoint 参考文档 (需要新开通,之前的系列没有开通)
-
开通 VikingDB 向量库(华北)参考文档 (需要新开通,之前的系列没有开通)
-
创建AK、SK,创建子账号及策略配置 参考文档
进入虚拟环境
-
进入虚拟环境(具体方法参考 MacBook 跑通 [1]: 火山文生视频+自动剪辑方案 中的 【配置虚拟环境】 )
二 MacBook 部署
下载代码库
git clone https://github.com/volcengine/ai-app-lab.git
cd demohouse/longterm_memory
修改配置
修改backend/code/config.py
中配置,填入刚刚获取的 endpoint id 、AK、SK
修改一下地址
demohouse/longterm_memory/frontend/src/demo/longTermMemory/stores/useConfigStore.ts
将上面的 8082 改成8080
安装后端依赖
(沿用之前的虚拟环境,直接安装即可)
cd demohouse/longterm_memory/backend
poetry install
启动后端
cd demohouse/longterm_memory/backend
bash run.sh
启动前端
cd demohouse/longterm_memory/frontend
pnpm install
pnpm run dev