如何在5分鐘內在本地運行DeepSeek模型?
DeepSeek席捲了AI社區,到目前為止,有68個模型可在擁抱的臉上使用。可以通過擁抱的面孔或Ollama訪問這個開源模型家族,而
deepSeek-r1>和 deepSeek-v3可以通過> deepseek chat 直接用於推理。在此博客中,我們將探索DeepSeek的模型陣容,並指導您使用Google Colab和Ollama運行這些模型。 >目錄
> deepSeek模型的概述- >在Ollama
- 上運行DeepSeek R1步驟1:安裝Ollama
- 步驟2:deepseek r1 r1
- DeepSeek-janus-pro-1b在Google Colab
- >步驟1上:克隆DeepSeek-Janus儲存庫
- 步驟2:安裝依賴項
步驟3:加載模型並將其移動並將其移動到GPU
步驟4:將圖像用於處理圖像,以使
- 概述 DeepSeek提供各種模型,每個模型都針對不同的任務進行了優化。以下是哪種模型最適合您的需求的細分:> 對於開發人員和程序員而言,>
- > DeepSeek-Coder和DeepSeek-coder-V2模型是為編碼任務(例如寫作和調試代碼)而設計的。 > 對於一般用戶而言,>:>
- DeepSeek-v3模型是一種多功能選項,能夠處理各種查詢,從休閒對話到復雜的內容生成。 > 對於研究人員和高級用戶而言,
DeepSeek-r1 模型專門從事高級推理和邏輯分析,使其非常適合解決問題和研究應用程序。
>>>>> 視覺任務的>
:DeepSeek-Janus家族和DeepSeek-VL模型是針對多模式任務(包括圖像生成和處理)量身定制的。
也請閱讀:使用DeepSeek-V3- 構建AI應用程序 >在Ollama上運行DeepSeek R1 步驟1:安裝Ollama >要在本地計算機上運行DeepSeek模型,您需要安裝Ollama:
- >>下載ollama:
curl -fsSL https://ollama.com/install.sh | sh
> Linux用戶
:
>在您的終端中運行以下命令:bashcopyeditollama pull deepseek-r1:1.5b
步驟2:拉動deepseek r1型
安裝了Ollama後,打開命令行界面(CLI)並拉動模型:
ollama pull deepseek-r1:1.5b pulling manifest pulling aabd4debf0c8... 100% ▕████████████████▏ 1.1 GB pulling 369ca498f347... 100% ▕████████████████▏ 387 B pulling 6e4c38e1172f... 100% ▕████████████████▏ 1.1 KB pulling f4d24e9138dd... 100% ▕████████████████▏ 148 B pulling a85fe2a2e58e... 100% ▕████████████████▏ 487 B verifying sha256 digest writing manifest success
此步驟可能需要一些時間,因此請等待下載完成。
步驟3:在本地運行模型 >下載模型後,您可以使用命令:curl -fsSL https://ollama.com/install.sh | sh
該模型現在可以在本地機器上使用,並且正在不用任何打ic來回答我的問題。
>在Google Colab上運行DeepSeek-Janus-Pro-1b
在本節中,我們將使用Google Colab嘗試DeepSeek-Janus-Pro-1b。啟動之前,請確保將運行時設置為T4 GPU以獲得最佳性能。 >
步驟1:克隆DeepSeek-Janus存儲庫在COLAB筆記本中運行以下命令:
?在GitHub上探索更多的DeepSeek模型:DeepSeek AI GitHub存儲庫
ollama pull deepseek-r1:1.5b
> 步驟2:安裝依賴項>
>導航到克隆目錄並安裝所需的軟件包:>
步驟3:加載模型並將其移至GPU
ollama pull deepseek-r1:1.5b pulling manifest pulling aabd4debf0c8... 100% ▕████████████████▏ 1.1 GB pulling 369ca498f347... 100% ▕████████████████▏ 387 B pulling 6e4c38e1172f... 100% ▕████████████████▏ 1.1 KB pulling f4d24e9138dd... 100% ▕████████████████▏ 148 B pulling a85fe2a2e58e... 100% ▕████████████████▏ 487 B verifying sha256 digest writing manifest success
現在,我們將導入必要的庫,然後將模型加載到> cuda(gpu)>:
>步驟4:通過處理圖像
現在,讓我們將ollama run deepseek-r1:1.5b
傳遞給模型並生成一個響應。
?輸入圖像
初始化提示和系統角色
處理輸入
!git clone https://github.com/deepseek-ai/Janus.git
輸出:
%cd Janus !pip install -e . !pip install flash-attn
< | user |>:圖像中有什麼? >
< |助手|>:該圖像以“最新文章”為特色,重點是博客文章。博客文章討論了“如何訪問DeepSeek Janus Pro 7b?”並強調了其在推理,文本對圖像和指導跟踪中的多模式AI功能。該圖像還包括後台的DeepSeek徽標(海豚)和六角形圖案。
>
>也請閱讀:如何訪問DeepSeek Janus Pro 7b? 結論
DeepSeek迅速成為AI中的強大力量,為開發人員,研究人員和普通用戶提供了廣泛的模型。隨著它與OpenAI和Gemini等行業巨頭競爭,其成本效益和高性能模型可能會廣泛採用。 DeepSeek模型的應用是無限的,從編碼幫助到高級推理和多模式功能。通過Ollama和基於雲的推理選項的無縫本地執行,DeepSeek有望成為AI研發中的遊戲規則改變者。> 如果您有任何疑問或面對問題,請隨時在評論部分中詢問!
以上是如何在5分鐘內在本地運行DeepSeek模型?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

Meta的Llama 3.2:多模式和移動AI的飛躍 Meta最近公佈了Llama 3.2,這是AI的重大進步,具有強大的視覺功能和針對移動設備優化的輕量級文本模型。 以成功為基礎

嘿,編碼忍者!您當天計劃哪些與編碼有關的任務?在您進一步研究此博客之前,我希望您考慮所有與編碼相關的困境,這是將其列出的。 完畢? - 讓&#8217

本週的AI景觀:進步,道德考慮和監管辯論的旋風。 OpenAI,Google,Meta和Microsoft等主要參與者已經釋放了一系列更新,從開創性的新車型到LE的關鍵轉變

介紹 Openai已根據備受期待的“草莓”建築發布了其新模型。這種稱為O1的創新模型增強了推理能力,使其可以通過問題進行思考

介紹 想像一下,穿過美術館,周圍是生動的繪畫和雕塑。現在,如果您可以向每一部分提出一個問題並獲得有意義的答案,該怎麼辦?您可能會問:“您在講什麼故事?

Meta's Llama 3.2:多式聯運AI強力 Meta的最新多模式模型Llama 3.2代表了AI的重大進步,具有增強的語言理解力,提高的準確性和出色的文本生成能力。 它的能力t

SQL的Alter表語句:動態地將列添加到數據庫 在數據管理中,SQL的適應性至關重要。 需要即時調整數據庫結構嗎? Alter表語句是您的解決方案。本指南的詳細信息添加了Colu

介紹 Mistral發布了其第一個多模式模型,即Pixtral-12b-2409。該模型建立在Mistral的120億參數Nemo 12B之上。是什麼設置了該模型?現在可以拍攝圖像和Tex
