DeepSeek本地部署,再也不怕服务器崩了!.pdf

DeepSeek本地部署,再也不怕服务器崩了!.pdf_第1页
DeepSeek本地部署,再也不怕服务器崩了!.pdf_第2页
DeepSeek本地部署,再也不怕服务器崩了!.pdf_第3页
DeepSeek本地部署,再也不怕服务器崩了!最近国产大模型DeepSeek非常火,但由于访问人数过多经常频繁出现反应迟缓甚至是宕机的情况。但万幸的是,DeepSeek是一个开源模型,我们可以通过本地部署在自己的终端上随时使用,而且部署到本地后无需联网即可直接使用。一:安装Ollama如果想要在本地运行DeepSeek需要用到Ollama这个工具,这是一个开源的本地大模型运行工具。我们可以访问https://ollama.com/进入Ollama官网下载Ollama,下载时有三个系统的安装包可选择,这里只需要选择下载我们电脑对应的操作系统版本即可,这里我选择的是Windows版本。Ollama安装包下载完成后直接双击安装即可,安装速度还是比较快的。Ollama安装完成后需要打开电脑的CMD,也就是命令提示符,只需要在电脑下方的搜索框中输入cmd即可打开。打开后在命令提示符窗口中输入ollamahelp并按回车键,这个操作是为了验证这个软件是否安装成功,如果没有报错的话则表示这个软件安装成功。二:下载部署Deepseek模型回到https://ollama.com/网址中,在网页上方搜索框中输入Deepseek-r1,这个Deepseek-r1就是我们需要本地部署的一个模型。点击Deepseek-r1后会进入详情界面,里面有多个参数规模可供选择,从1.5b到671b都有。需注意的是,这里我们需要根据自己电脑的硬件配置来选择模型大小,下面是一个模型大小配置参考表格,大家可根据自己的电脑配置来自行选择,当然了,部署的本地模型越大,使用的深度求索效果就越好。选择好模型规模后,复制右边的一个命令。命令复制完成后回到命令提示符窗口,将刚刚复制的命令粘贴到命令提示符窗口中并按回车键即可下载模型。模型下载完成后,我们就直接可以在命令提示符面板中使用它了。以后如果我们需要再次使用Deepseek这个模型的话,我们可以直接打开命令提示符窗口,只需要再次在命令符提示窗口中输入上面复制的指令即可。三:可视化图文交互界面Chatbox虽然我们可以在本地正常使用Deepseek这个模型了,但是这个AI工具的面板是非常简陋的,很多人使用不习惯,这时我们就可以通过Chatbox这个可视化图文交互界面来使用它。点击https://chatboxai.app/zh进入Chatbox官网,Chatbox虽然有本地客户端,但我们也可以直接使用网页版。进入Chatbox网页版本后点击使用自己的APIKey或本地模型。点击后会进入模型提供方选择界面,这里选择OllamaAPI。这里需要注意的是,为了能够Ollama能远程链接,这里我们最好看一下Chatbox提供的教程,根据这个教程操作一下。这个教程还是非常简单的,如果是Windows操作系统则只需要配置一下环境变量即可,配置完环境变量后需重启一下Ollama程序。重启Ollama程序后,我们需要将Chatbox设置界面关闭并重新打开,重新打开Chatbox设置界面后即可选择Deepseek模型了,选择后Deepseek模型后点击保存即可。接下来只需要在Chatbox中新建对话即可使用Deepseek模型了,以下图为例,上方是它的思考过程,下方是它给出的答案。Chatbox可视化图文交互界面还有一个特点就是可以创建专属智能体,只需点击我的搭档即可创建,此功能是Deepseek官方暂时还没有的功能。

1、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。
3、如文档内容存在违规,或者侵犯商业秘密、侵犯著作权等,请点击“违规举报”。

尊敬的博途智库用户:

欢迎您使用博途智库的服务。在您准备下载文档时,请您仔细阅读以下注意事项,以确保您的下载行为合法、合规,并避免可能产生的纠纷和损失。

一、版权信息确认

在下载文档前,请务必确认文档中的版权信息。博途智库尊重原作者的版权,所有文档均注明版权归属。如果您需要下载涉及版权的文档,请确保您已获得原作者的授权或许可,或者该文档属于可自由使用的范畴。

二、文档内容审查

在下载文档前,请您自行审查文档内容,确保其符合您的需求和使用场景。博途智库不对文档内容的准确性、完整性或适用性做任何形式的保证。因文档内容引发的任何问题或纠纷,博途智库不承担任何责任。

三、文档下载与使用

  1. 下载文档时,请确保您的设备安全、稳定,避免因网络问题或设备故障导致下载失败或文档损坏。
  2. 下载后的文档,请您妥善保管,不得擅自修改、复制、传播或用于商业用途。如需对文档进行分享或传播,请确保您已获得原作者的明确授权。
  3. 在使用文档时,请遵守国家法律法规和道德规范,不得利用文档从事违法、违规或侵犯他人权益的活动。

四、付费文档说明

对于博途智库中的付费文档,您需要按照页面提示完成支付流程后方可下载。请您确保在支付过程中选择正确的支付方式,并核对支付金额。对于因支付问题导致的下载失败或损失,博途智库将尽力协助您解决,但具体责任需根据支付平台的规则进行判定。

五、纠纷处理

如您在使用博途智库下载文档过程中遇到任何问题或纠纷,请及时与博途智库客服联系,我们将竭诚为您提供帮助和解决方案。同时,也请您保留好相关证据,以便在必要时进行维权。

最后,感谢您对博途智库的支持与信任。我们将继续努力为您提供优质、便捷的文档下载服务。祝您使用愉快!

博途智库团队

云在青山月在天+ 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

确认删除?
知识变现
客服电话
客服微信
  • 客服微信
客服QQ
  • 客服QQ点击这里给我发消息
发送邮件
回到顶部