DeepSeek本地部署超級(jí)詳細(xì)教程 - 人工智能 AI
最近,想必大家都被DeepSeek刷屏了,作為一款現(xiàn)象級(jí)的AI產(chǎn)品,以其先進(jìn)的算法、卓越的能力、親民的價(jià)格和開源性,憑一己之力推動(dòng)了國(guó)內(nèi)AI大模型的跨越式發(fā)展。DeepSeek在今年1月28日的日活躍數(shù)首次超越豆包,眾多云服務(wù)提供商(阿里云、騰訊云、百度智能云等)紛紛宣布支持DeepSeek模型的一鍵部署,芯片制造商業(yè)完成了于DeepSeek的適配。在這種情況下又遭受了來(lái)自國(guó)外的網(wǎng)絡(luò)攻擊,導(dǎo)致用戶使用時(shí)經(jīng)常出現(xiàn)服務(wù)器繁忙現(xiàn)象,將DeepSeek部署在本地電腦上就方便很多了,還能降低對(duì)網(wǎng)絡(luò)的依賴。
將DeepSeek部署在本地,只需三步即可完成,超級(jí)簡(jiǎn)單。
第一步、安裝運(yùn)行框架 - Ollama
Ollama是一個(gè)開源的大型語(yǔ)言模型服務(wù)工具,用于簡(jiǎn)化在本地運(yùn)行大語(yǔ)言模型的過(guò)程,幫助用戶快速在本地運(yùn)行、管理和部署大型語(yǔ)言模型。
1、官網(wǎng)下載Ollama
下載地址:https://ollama.com/,打開連接如下圖所示
點(diǎn)擊Download按鈕,進(jìn)入下載頁(yè)面,如圖所示,三個(gè)系統(tǒng)都可以選擇,小編用的是Windows。點(diǎn)擊下載按鈕,下載速度較慢,預(yù)計(jì)需要30分鐘。
2、睿鑫氣模服務(wù)器下載Ollama
如果官網(wǎng)下載速度實(shí)在太慢,也可以選擇從睿鑫氣模服務(wù)器上下載:下載Ollama安裝包,這是小編在2025年2月12日從Ollama官網(wǎng)下載保存的。
第二步:下載DeepSeek-R1
還是Ollama官網(wǎng),頂部導(dǎo)航點(diǎn)擊Models進(jìn)入模型列表頁(yè)面,如下圖
進(jìn)入就可以看到deepSeek-r1模型信息,如果找不到也可以在搜索框搜索,如下圖
點(diǎn)擊進(jìn)入,選擇自己需要的模型來(lái)下載,如下圖
DeepSeek-R1模型版本越高,對(duì)電腦配置要求越高,主要體現(xiàn)在CPU、內(nèi)存、顯卡這三方面。小編將每一個(gè)版本對(duì)應(yīng)的電腦配置要求列成了一個(gè)表,希望能幫到你,如下表
模型版本 | CPU要求 | 內(nèi)存要求 | 顯卡要求 | 硬盤大小 | 下載代碼 |
---|---|---|---|---|---|
1.5b-1.1GB | 4核以上 | 8GB RAM | NVIDIA GTX 1650或同級(jí)別 | 50GB空閑空間 | ollama run deepseek-r1:1.5b |
7b-4.7GB | 6核以上 | 16GB RAM | 4GB顯存 | 100GB空閑空間 | ollama run deepseek-r1:7b |
8b-4.9GB | 8核以上 | 16GB RAM | 6GB顯存 | 120GB空閑空間 | ollama run deepseek-r1:8b |
14b-9GB | 12核多線程 | 32GB | 16GB顯存 | 200GB空閑空間 | ollama run deepseek-r1:14b |
32b-20GB | 高性能處理器 | 64GB | 32GB顯存 | 500GB空閑空間 | ollama run deepseek-r1:32b |
70b-43GB | ... | ... | ... | ... | ollama run deepseek-r1:70b |
671b-404GB | ... | ... | ... | ... | ollama run deepseek-r1:671b |
70b和671b是非常專業(yè)的高性能版本,這里不做解釋
復(fù)制自己需要版本的下載代碼,如下圖
在本地電腦左下角的Windows【開始菜單】上單擊鼠標(biāo)右鍵,然后左鍵單擊【W(wǎng)indows powerShell (管理員)(A)】或【終端管理員】。
將復(fù)制好的下載代碼粘貼到Windows powerShell (管理員)運(yùn)行框,敲回車開始自動(dòng)下載安裝,如下圖
等待下載完成,并自動(dòng)安裝,出現(xiàn)success即代表下載并安裝完成,如下圖
此時(shí)即可在Windows powerShell (管理員)運(yùn)行框中進(jìn)行對(duì)話,不過(guò),這樣的對(duì)話框?qū)嵲诓蝗讨币暋?/p>
第三部、前端對(duì)話框搭建
前端對(duì)話框的搭建,我們可以借助Chatbox客戶端實(shí)現(xiàn),最終的界面友好、美觀,操作簡(jiǎn)單。
Chatbox官網(wǎng)地址:https://chatboxai.app/zh,直接點(diǎn)擊下載,完成安裝。
安裝完成后需要進(jìn)行簡(jiǎn)單的配置,單擊設(shè)置
依次選擇【Ollama API】;API域名自動(dòng)不用管;模型選擇你剛剛安裝的【deepSeek-r1: **】;下面的消息數(shù)量和想象自動(dòng)即可,最后點(diǎn)擊保存。
到這里就部署完成了,可以開始你的AI對(duì)話之旅了。
通過(guò)以上三步,DeepSeek就部署在本地電腦上了,有些不方便公開的數(shù)據(jù),比如實(shí)驗(yàn)數(shù)據(jù),可以通過(guò)部署大模型到本地的方式進(jìn)行處理,不用擔(dān)心數(shù)據(jù)泄露。
以上是睿鑫氣模整理的關(guān)于DeepSeek AI模型部署在本地電腦上的操作方法,希望能夠幫到你。