如何在本地Mac上部署Deepseek?详细指南助你轻松应对服务器繁忙问题!

当Deepseek推出后,我们团队也在不断尝试这个工具,并与ChatGPT对相同问题的回答进行交叉对比,大家对Deepseek的回复给予了高度认可。然而,在正式复工后,Deepseek因使用者数量激增(以及一些外部攻击)而频繁出现“服务器繁忙”的提示。因此,决定在本地电脑上部署Deepseek。

用一句话总结这个教程,就是通过Ollama安装并运行Deepseek,并使用Chatbox配置本地Deepseek,提供一个聊天界面。

我的电脑是Mac,因此以下教程的截图也在苹果电脑环境下,Windows电脑操作方法类似,版本可以相应更换。

第一步:安装Ollama

首先访问Ollama官网,Ollama提供了Deepseek-r1模型接入,并有7种模型大小供选择:1.5b、7b、8b、14b、32b、70b、671b。选择模型大小通常取决于你自己电脑的配置,大多数个人电脑可能只能支持1.5B或7B大小。可以参考下面的图来确定可以使用哪个版本。

确认好模型大小后,进入下载页面,选择相应版本下载,我这里选择的是Mac版本。安装完毕后,按照指示调用本地终端。

点击完成,如果在电脑上点击Ollama图标看不到界面,不必惊讶。这时需要通过按下Command + 空格键打开本地终端,然后输入terminal。

在弹出的窗口中输入以下指令。这里我调用的是1.5B的模型,因为小电脑无法支持更大的。

ollama run deepseek-r1:1.5b

耐心等待,直到最后看到“success”字样,实际上这个时候已经可以在终端里与Deepseek对话了。

第二步:使用Chatbox配置为本地Deepseek

下载Chatbox并配置为本地Deepseek,实际上是为Deepseek提供一个可视化的聊天框,而不是在终端中交流。

访问网站,选择对应的操作系统版本,Mac电脑下载Apple Silicon版本。完成安装后,在界面上点击“使用自己的API key或本地模型”。

接下来必选Ollama API,因为我们是通过Ollama运行模型。在模型选项中选择1.5B的那个,就是我刚在终端中使用的。点击保存后,就可以在聊天框中顺利开始了。不过需要留意的是,1.5B版本本身不支持互联网回答。因此,本地部署的知识库都是2023年之前的内容,但对于日常文案修改、撰写和分析等工作来说已经足够使用。

发布于:2025-02-10 13:15:19

声明:文章素材来源于网络并由AI编辑加工,若有侵权问题,请联系平台客服。

相关推荐