只需4步完成DeepSeek本地化部署.docx

只需4步完成DeepSeek本地化部署现在社会已经进入全民AI的时代，每个人每个企业都应该掌握AI工具才不会被时代淘汰。互联网上模型很多，但是价格也都很贵，平民和一般的中小企业是一种负担。Deepseek的出现，轰动了全世界，而且开源，每个个人和中小企业都有实力打造自己的AI智能体。本地搭建训练自己的模型，不需要联网，保护隐私。做企业的很多敏感问题在线上无法解决需要本地化部署第一步:打开ollama官网什么是ollama?olama是一个开源工具，专门用于本地计算机的运行大语言模型(LLM)，它能够让客户轻松下载和管理，运用各行各业的AI模型，而无需复杂的配置依赖于云服务官网:https://ollama.com/关注公众号回复deepseek获取所有程序包第二步:安装ollamawin+r累输入cmd(win)打开终端(mac苹果电脑)运行输入:ollamarundeepseek-r1删除:ollamarmdeepseek-r1uetaDicosdse4的Getupandrunningwithlarglanguagemodelspanbmo33pernscck-bl,hi4,yitnaomma2.andotefm0复制想要运用的模型代码参数量(参数越大，阅读能力越强)1.5B4GB7B8GB8B12GB32B24GB70BH100的高级显卡修改ollama安装地址，1.打开系统属性:右键点击Windows桌面上的“此电脑“或"计算机“图标，选择”属性”以打开系统属性窗口,2.进入环境变量设置:在系统属性窗口中，点击左侧的"高级系统设置“按钮。在弹出的"系统属性"窗口中，切换到“高级”选项卡，然后点击“环境变量”按钮。新建或修改环境变量:在“环境变量"窗口中，可以在“系统变量“或”用户变量”部分找到或新建一个名为3.OLLAMA_MODELS的环境变量。如果已存在该变量，则直接选中并点击“编辑”按钮;如果不存在，则点击“新建”按钮来创建一个新的环境变量。4.设置新的存储路径:在“编辑环境变量”或“新建环境变量”窗口中，输入变量名OLLAMAMODELS，并在“变量值”文本框中输入希望保存模型文件的新目录路径。例如，如果希望将模型文件保存在D盘的OllamaModels目录下，则输入D:\ollamamodels5.重启Ollama:设置完环境变量后，需要重启Ollama以应用更改。可以通过任务管理器结束Ollama的进程，然后重新运行0llama来实现重第三步:本地运行窗口输入想要运用的模型代码例如：ollamarundeepseek-r1:7bollamarundeepseek-r1:14b开始聊天第四步:安装图形化界面chatboxchatbox是一个开源的桌面应用程序，专门用于大圆模型openAI和GT等进行交互，他提供了一个简洁易用的图形界面，能够让用户轻松的和AI模型对话，无需编写代码和复杂的命令工具1.登录官方页面:https://chatboxai.app/zh2.点击运行网页版(使用桌面版也一样)3.原击左下角setting。4.如图所示:ModelProvider:OPENAIAPIAPIkey:填写复制的API秘钥APIHost:填写网址:https://api.siliconflow.cn/v1点开Model&Token--model选择CustomModel.再CustomModelname输入:deepseekai/DeepSeek-R1Settings90454