本地部署 DeepSeek:小白也能轻松搞定!

大模型机器学习算法

picture.image

向AI转型的程序员都关注公众号 机器学习AI算法工程


          
DeepSeek R1和V3 满血版671B最强性能!免部署,开箱即用!
          
DeepSeek服务器忙,一招解决!
          
使用链接
          
https://cloud.siliconflow.cn/i/OmyFKL4n
      
PyCharm接入DeepSeek实现辅助编程,吊打Cursor

DeepSeek-V3

DeepSeek-V3是一个拥有671B参数的MoE模型,吞吐量每秒达60 token,比上一代V2提升3倍;在数学代码性能上,堪比国外大模型Claude 3.5 Sonnet。

接下来,我们把DeepSeek接入到PyCharm中,并利用其能力辅助我们进行代码开发。

效果演示

首先来看一下效果。

我们可以直接选中代码,并对代码段进行解释。

picture.image

我们也可以通过选中代码,对代码进行修改。

picture.image

picture.image

创建API Key

首先进入DeepSeek官网,官网链接如下

https://www.deepseek.com/

点击API开放平台:

picture.image

picture.image

点击左侧“API Keys”,点击创建 API key,输出名称为“AI 代码提示”,也可以使用其它自定义的名称。

picture.image

点击“创建",一定要记录此处的 API key,可以先将 API key 复制在其它地方。

picture.image

在PyCharm中下载Continue插件

打开PyCharm,打开文件->设置->插件,搜索“Continue”,点击安装。

picture.image

等待插件安装完毕后,点击“应用”,插件安装成功。

配置Continue

插件安装成功后,在右侧的标签栏中,会显示一个Continue的标签,我们点击即可进入,随后点击设置按键,如下图。

picture.image

点击后,文本编辑区将会弹出配置文件。

picture.image

我们对配置文件进行修改,将内容替换为下面的内容:


            
{
            
  "completionOptions": {
            
    "BaseCompletionOptions": {
            
        "temperature": 0.0,
            
        "maxTokens": 256
            
    }
            
  },
            
  "models": [
            
    {
            
      "title": "DeepSeek",
            
      "model": "deepseek-chat",
            
      "contextLength": 128000,
            
      "apiKey": "REDACTED",
            
      "provider": "deepseek",
            
      "apiBase": "https://api.deepseek.com/beta"
            
    }
            
  ],
            
  "tabAutocompleteModel": {
            
    "title": "DeepSeek Coder",
            
    "model": "deepseek-coder",
            
    "apiKey": "REDACTED",
            
    "provider": "deepseek",
            
    "apiBase": "https://api.deepseek.com/beta"
            
  },
            
  "customCommands": [
            
    {
            
      "name": "test",
            
      "prompt": "{
            
  
            
  {
            
  
            
  { input }}}\n\nWrite a comprehensive set of unit tests for the selected code. It should setup, run tests that check for correctness including important edge cases, and teardown. Ensure that the tests are complete and sophisticated. Give the tests just as chat output, don't edit any file.",
            
      "description": "Write unit tests for highlighted code"
            
    }
            
  ],
            
  "contextProviders": [
            
    {
            
      "name": "diff",
            
      "params": {}
            
    },
            
    {
            
      "name": "folder",
            
      "params": {}
            
    },
            
    {
            
      "name": "codebase",
            
      "params": {}
            
    }
            
  ],
            
  "slashCommands": [
            
    {
            
      "name": "share",
            
      "description": "Export the current chat session to markdown"
            
    },
            
    {
            
      "name": "commit",
            
      "description": "Generate a git commit message"
            
    }
            
  ]
            
}
        

修改时将会弹出提示,点击确定。

picture.image

随后,我们将两处apiKey替换为先前保存的API key。

picture.image

picture.image

保存文件后,即可开始使用。

picture.image

本地部署 DeepSeek

本以为DeepSeek本地化部署有多难,实际上验证后很简单,操作起来就像给电脑装个新软件那么简单,大约十多分钟可完成本地部署。

今天咱们来聊聊如何在自己的电脑上本地部署 DeepSeek-R1-1.5B 模型。

一、为啥要部署 DeepSeek-R1-1.5B?

在做的小伙伴可能跟我一样在使用DeepSeek时,经常遇到“服务器繁忙,请稍后再试。”

picture.image

先说说为啥我推荐这个版本吧。DeepSeek-R1-1.5B 是一个轻量级的模型,参数量只有 15 亿,听起来是不是很“迷你”?但别小瞧了它,这可是个“小而精”的家伙。它只需要 3GB 的显存就能运行,这意味着即使你的电脑配置不高,也能轻松驾驭它。而且,它在数学推理方面表现相当出色,甚至在某些基准测试中超过了 GPT-4oClaude 3.5。当然了,如果你电脑配置更高,可以尝试其他版本。

二、DeepSeek 不同版本模型硬件要求

以下是 DeepSeek 不同版本模型的硬件要求,小伙伴们可以结合自己电脑配置选择版本

picture.image

三、晓凡硬件配置

  • CPU:AMD Ryzen 7 5800H with Radeon Graphics 3.20 GHz
  • 内存:16GB
  • 操作系统:Windows 11
  • 硬盘空间:500G,剩余335G

picture.image

四、部署步骤

4.1 下载并安装Ollama

访问官网:https://ollama.com/ 下载

picture.image

或者直接到GitHub下载

picture.image

安装文件OllamaSetup.exe大约745MB。

注:如果下载过于缓慢可以使用迅雷之类的加速下载;(晓凡将软件打包放网盘了,有需要的小伙伴可在文章末尾自取)

双击OllamaSetup.exe进行安装:

picture.image

4.2 检验Ollama是否安装成功

命令行输入 ollama -v 命令,出现如下版本号说明安装成功

picture.image

4.3 通过 Ollama 拉取 DeepSeek 模型

这里我选择是的1.5b,整个模型大小1.1 GB。

  • 1.5B:适用于轻量级任务,如边缘设备(如智能手表、物联网设备)上的简单交互、小型智能问答系统等。目前开源的最小版本。
  • 671B:主要用于大规模云端推理,适合科研分析、数据挖掘等需要处理海量数据的复杂任务。目前开源的最强版本

更多版本可以在这里查看:https://ollama.com/library/deepseek-r1

picture.image

命令行输入:ollama run deepseek-r1:1.5b 拉取DeepSeek模型

picture.image

整个拉取过程还是比较丝滑的,5到6分钟后看到【success】字样,代表成功安装DeepSeek R1,然后就可以与DeepSeek对话了

picture.image

4.4 与DeepSeek对话

通过上面步骤之后,我们就可以愉快的与Deep Seek对话了,如输入:程序员如何避免35岁焦虑?

picture.image

4.5 安装WebUI

使用命令提示符与DeepSeek对话并不友好,为了更好的体验,我们可以安装WebUI,这里使用的是浏览器插件:Page Assit

(如果小伙伴找不到在哪下载Page Assit插件,晓凡打包放网盘了,可在文章末尾自取)

启动ollama服务后,输入快捷键【ctrl + shift+L】快捷键即可打开WebUI页面

刚安装Page Assit 插件, 需要进行一下如下设置

picture.image

设置完成后,选择模型就可以与DeepSeek对话了

picture.image

五、实际应用场景:DeepSeek-R1-1.5B 能干啥?

别看 DeepSeek-R1-1.5B 体积小,它可一点都不“弱”。它非常适合用在一些轻量级的任务上,比如:

  • 智能客服:在小型企业或者个人项目中,它可以快速回答客户的一些常见问题,提高服务效率。
  • 语言学习:你可以用它来练习语言表达,比如输入一个中文句子,让它生成英文翻译。
  • 创意写作:如果你是个作家或者文案策划,它可以帮你快速生成一些创意片段或者文案初稿

六、小结

小伙伴们,是不是觉得本地部署 DeepSeek-R1-1.5B 模型超简单?只要按照上面的步骤操作,你就能让自己的电脑拥有一个“智能助手”。

而且,这个模型不仅运行速度快,还能在很多场景中发挥大作用。快去试试吧!

DeepSeek本地部署相关软件下载:

通过网盘分享的文件:DeepSeek本地部署软件.zip

链接:https://pan.quark.cn/s/1cacc03a2587

提取码:xWnP

机器学习算法AI大数据技术

搜索公众号添加: datanlp

picture.image

长按图片,识别二维码

阅读过本文的人还看了以下文章:

实时语义分割ENet算法,提取书本/票据边缘

整理开源的中文大语言模型,以规模较小、可私有化部署、训练成本较低的模型为主

《大语言模型》PDF下载

动手学深度学习-(李沐)PyTorch版本

YOLOv9电动车头盔佩戴检测,详细讲解模型训练

TensorFlow 2.0深度学习案例实战

基于40万表格数据集TableBank,用MaskRCNN做表格检测

《基于深度学习的自然语言处理》中/英PDF

Deep Learning 中文版初版-周志华团队

【全套视频课】最全的目标检测算法系列讲解,通俗易懂!

《美团机器学习实践》_美团算法团队.pdf

《深度学习入门:基于Python的理论与实现》高清中文PDF+源码

《深度学习:基于Keras的Python实践》PDF和代码

特征提取与图像处理(第二版).pdf

python就业班学习视频,从入门到实战项目

2019最新《PyTorch自然语言处理》英、中文版PDF+源码

《21个项目玩转深度学习:基于TensorFlow的实践详解》完整版PDF+附书代码

《深度学习之pytorch》pdf+附书源码

PyTorch深度学习快速实战入门《pytorch-handbook》

【下载】豆瓣评分8.1,《机器学习实战:基于Scikit-Learn和TensorFlow》

《Python数据分析与挖掘实战》PDF+完整源码

汽车行业完整知识图谱项目实战视频(全23课)

李沐大神开源《动手学深度学习》,加州伯克利深度学习(2019春)教材

笔记、代码清晰易懂!李航《统计学习方法》最新资源全套!

《神经网络与深度学习》最新2018版中英PDF+源码

将机器学习模型部署为REST API

FashionAI服装属性标签图像识别Top1-5方案分享

重要开源!CNN-RNN-CTC 实现手写汉字识别

yolo3 检测出图像中的不规则汉字

同样是机器学习算法工程师,你的面试为什么过不了?

前海征信大数据算法:风险概率预测

【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目,让你掌握深度学习图像分类

VGG16迁移学习,实现医学图像识别分类工程项目

特征工程(一)

特征工程(二) :文本数据的展开、过滤和分块

特征工程(三):特征缩放,从词袋到 TF-IDF

特征工程(四): 类别特征

特征工程(五): PCA 降维

特征工程(六): 非线性特征提取和模型堆叠

特征工程(七):图像特征提取和深度学习

如何利用全新的决策树集成级联结构gcForest做特征工程并打分?

Machine Learning Yearning 中文翻译稿

蚂蚁金服2018秋招-算法工程师(共四面)通过

全球AI挑战-场景分类的比赛源码(多模型融合)

斯坦福CS230官方指南:CNN、RNN及使用技巧速查(打印收藏)

python+flask搭建CNN在线识别手写中文网站

中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程

不断更新资源

深度学习、机器学习、数据分析、python

搜索公众号添加: datayx

picture.image

0
0
0
0
关于作者

文章

0

获赞

0

收藏

0

相关资源
大规模高性能计算集群优化实践
随着机器学习的发展,数据量和训练模型都有越来越大的趋势,这对基础设施有了更高的要求,包括硬件、网络架构等。本次分享主要介绍火山引擎支撑大规模高性能计算集群的架构和优化实践。
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论