MacBook 跑通 [6]:DeepSeek+Doubao长记忆方案

deepseek火山方舟
场景介绍

长期记忆能够激发大模型提供更具个性化的互动能力,解决当前大模型在陪伴社交、AI 教育、车机助手、智能硬件等场景下记忆缺失、对话断层、沟通失真的问题。长期记忆方案,基于 DeepSeek-R1 模型的强大思考能力将对话内容抽取成记忆,记录用户偏好、性格、生日等,并在对话到相关话题时帮助 Doubao 角色模型生成更贴合角色人设的回复。

当前应用基于开源 mem0 项目结合火山大模型服务搭建。

一 火山引擎关键KEY获取

请参考 MacBook 跑通 [1]: 火山文生视频+自动剪辑方案 中的 【一 开通服务】部分。

部署说明

环境准备

  • 要求 3.9 ≤ Python 版本 < 3.12
  • Node 18.0 或以上版本
  • PNPM 8.10 或以上版本
  • 已创建 Doubao-pro-32K-character-241215 的endpoint 参考文档

(注意,这个模型需要选择 Doubao-pro-32K 的一个分支 )

picture.image

  • 已创建 DeepSeek-R1 的endpoint 参考文档

  • 已创建 Doubao-embedding 的endpoint 参考文档 (需要新开通,之前的系列没有开通)

  • 开通 VikingDB 向量库(华北)参考文档 (需要新开通,之前的系列没有开通)

  • 创建AK、SK,创建子账号及策略配置 参考文档

进入虚拟环境

二 MacBook 部署

下载代码库


 git clone https://github.com/volcengine/ai-app-lab.git
 cd demohouse/longterm_memory

修改配置

修改backend/code/config.py 中配置,填入刚刚获取的 endpoint id 、AK、SK

picture.image

修改一下地址

demohouse/longterm_memory/frontend/src/demo/longTermMemory/stores/useConfigStore.ts

picture.image

将上面的 8082 改成8080

picture.image

安装后端依赖

(沿用之前的虚拟环境,直接安装即可)

cd demohouse/longterm_memory/backend

poetry install

启动后端

cd demohouse/longterm_memory/backend
bash run.sh

picture.image

启动前端

cd demohouse/longterm_memory/frontend
pnpm install
pnpm run dev

picture.image

完成

http://localhost:8080/

picture.image

0
0
0
0
关于作者
关于作者

文章

0

获赞

0

收藏

0

相关资源
DataSail CDC 数据整库实时入仓入湖实践
在线数据库数据导入到数仓分析的链路已经存在多年,随着近年来实时计算的发展,业务希望有延迟更低、运维更便捷、效率更高的CDC同步通道。本次分享主要介绍DataSail实现CDC整库实时同步的技术方案和业务实践。
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论