堅(jiān)持以“幫助中小企業(yè)實(shí)現(xiàn)網(wǎng)絡(luò)營(yíng)銷化”為宗旨
最近,DeepSeek爆火,先進(jìn)的算法、***的能力,表現(xiàn)出眾,其憑一己之力推動(dòng)國(guó)內(nèi)Ai大模型跨越式發(fā)展。作為一款現(xiàn)象級(jí)的Ai產(chǎn)品,用戶量暴增,最近服務(wù)器又被攻擊,使用DeepSeek,經(jīng)常出現(xiàn)服務(wù)器繁忙,將DeepSeek部署在本地電腦就方便很多。
將DeepSeek部署在本地電腦,只需三步即可完成。
一、下載安裝 Ollama
部署DeepSeek要用到 Ollama,它支持多種大模型。
Ollama官網(wǎng):ollama.com
下載安裝Ollama,macOS、Linux 和 Windows都可以下載安裝,老宅這里選用Windows系統(tǒng)。
二、下載 DeepSeek-R1
1、進(jìn)入Ollama官網(wǎng),找到Models。
2、進(jìn)入就可以看到deepseek-r1模型,如果沒有,在搜索欄搜索即可。
3、選擇對(duì)應(yīng)的模型來下載,1.5b、7b、8b、14b、32b、70b或671b,這里有很多版本可選,模型越大,要求電腦內(nèi)存、顯卡等的配置越高。老宅這臺(tái)機(jī)子是4060的顯卡,選擇8b的模型。
4、找到Windows【開始菜單】,鼠標(biāo)右鍵點(diǎn)擊【終端管理員】。
5、復(fù)制下邊8b的代碼。
6、粘貼到PowerShell(管理員)運(yùn)行框,然后回車。(這里會(huì)默認(rèn)安裝在C盤,注意C盤空間)
出現(xiàn)下載等待窗口,等待下載完成。
7、下載完成后稍微等待,看到success,即部署完成。
三、Chatbox前端搭建
通過第二步的操作,已經(jīng)部署好DeepSeek,但每次使用都要在終端管理員里操作,相當(dāng)繁瑣。這里可以借助Chatbox,實(shí)現(xiàn)網(wǎng)頁或客戶端操作。
1、下載安裝Chatbox
Chatbox官網(wǎng):chatboxai.app/zh
進(jìn)入官網(wǎng)下載安裝Chatbox客戶端。
2、點(diǎn)擊設(shè)置,選擇Ollama API
3、選擇安裝好的deepseek r1模型,保存即可
4、部署完成,就可以正常使用了。
通過以上三步,DeepSeek就部署在本地電腦上了,有些不方便公開的數(shù)據(jù),比如實(shí)驗(yàn)數(shù)據(jù),可以通過部署大模型到本地的方式進(jìn)行處理,不用擔(dān)心數(shù)據(jù)泄露。
DeepSeek 登頂蘋果中國(guó)地區(qū)和美國(guó)地區(qū)應(yīng)用商店下載排行榜,在美區(qū)下載榜上超越了 ChatGPT。其推理能力的強(qiáng)大就不多說了,留給大家自行探索。
管理員
該內(nèi)容暫無評(píng)論