目錄
步驟3:加載模型並將其移動並將其移動到GPU
>
現在,我們將導入必要的庫,然後將模型加載到> cuda(gpu)>:
傳遞給模型並生成一個響應。
首頁 科技週邊 人工智慧 如何在5分鐘內在本地運行DeepSeek模型?

如何在5分鐘內在本地運行DeepSeek模型?

Mar 07, 2025 am 09:59 AM

DeepSeek席捲了AI社區,到目前為止,有68個模型可在擁抱的臉上使用。可以通過擁抱的面孔或Ollama訪問這個開源模型家族,而

deepSeek-r1>和 deepSeek-v3可以通過> deepseek chat 直接用於推理。在此博客中,我們將探索DeepSeek的模型陣容,並指導您使用Google Colab和Ollama運行這些模型。 >目錄

> deepSeek模型的概述
  • >在Ollama
  • 上運行DeepSeek R1步驟1:安裝Ollama
    • 步驟2:deepseek r1 r1
    • DeepSeek-janus-pro-1b在Google Colab
    • >步驟1上:克隆DeepSeek-Janus儲存庫
    • 步驟2:安裝依賴項

步驟3:加載模型並將其移動並將其移動到GPU

步驟4:將圖像用於處理圖像,以使

  • 概述 DeepSeek提供各種模型,每個模型都針對不同的任務進行了優化。以下是哪種模型最適合您的需求的細分:> 對於開發人員和程序員而言,>
  • > DeepSeek-Coder和DeepSeek-coder-V2模型是為編碼任務(例如寫作和調試代碼)而設計的。 > 對於一般用戶而言,>>
  • DeepSeek-v3模型是一種多功能選項,能夠處理各種查詢,從休閒對話到復雜的內容生成。 > 對於研究人員和高級用戶而言,

DeepSeek-r1 模型專門從事高級推理和邏輯分析,使其非常適合解決問題和研究應用程序。

>>>>> 視覺任務的

>

DeepSeek-Janus家族和DeepSeek-VL模型是針對多模式任務(包括圖像生成和處理)量身定制的。

也請閱讀:使用DeepSeek-V3
  • 構建AI應用程序 >在Ollama上運行DeepSeek R1 步驟1:安裝Ollama
  • >要在本地計算機上運行DeepSeek模型,您需要安裝Ollama:
  • >>下載ollama:
>單擊此處下載
curl -fsSL https://ollama.com/install.sh | sh
登入後複製
登入後複製

> Linux用戶

>在您的終端中運行以下命令:bashcopyedit
ollama pull deepseek-r1:1.5b
登入後複製
登入後複製

步驟2:拉動deepseek r1型

安裝了Ollama後,打開命令行界面(CLI)並拉動模型:

ollama pull deepseek-r1:1.5b

pulling manifest 
pulling aabd4debf0c8... 100% ▕████████████████▏ 1.1 GB                         
pulling 369ca498f347... 100% ▕████████████████▏  387 B                         
pulling 6e4c38e1172f... 100% ▕████████████████▏ 1.1 KB                         
pulling f4d24e9138dd... 100% ▕████████████████▏  148 B                         
pulling a85fe2a2e58e... 100% ▕████████████████▏  487 B                         
verifying sha256 digest 
writing manifest 
success 
登入後複製
登入後複製

>您可以在Ollama上探索其他可用的DeepSeek模型:Ollama模型搜索。

此步驟可能需要一些時間,因此請等待下載完成。

步驟3:在本地運行模型 >下載模型後,您可以使用命令:運行它。
curl -fsSL https://ollama.com/install.sh | sh
登入後複製
登入後複製

如何在5分鐘內在本地運行DeepSeek模型?

該模型現在可以在本地機器上使用,並且正在不用任何打ic來回答我的問題。

>在Google Colab上運行DeepSeek-Janus-Pro-1b 在本節中,我們將使用Google Colab嘗試DeepSeek-Janus-Pro-1b。啟動之前,請確保將運行時設置為T4 GPU以獲得最佳性能。 >

步驟1:克隆DeepSeek-Janus存儲庫

在COLAB筆記本中運行以下命令:

?在GitHub上探索更多的DeepSeek模型:DeepSeek AI GitHub存儲庫
ollama pull deepseek-r1:1.5b
登入後複製
登入後複製

> 步驟2:安裝依賴項>

>導航到克隆目錄並安裝所需的軟件包:>

>

步驟3:加載模型並將其移至GPU

ollama pull deepseek-r1:1.5b

pulling manifest 
pulling aabd4debf0c8... 100% ▕████████████████▏ 1.1 GB                         
pulling 369ca498f347... 100% ▕████████████████▏  387 B                         
pulling 6e4c38e1172f... 100% ▕████████████████▏ 1.1 KB                         
pulling f4d24e9138dd... 100% ▕████████████████▏  148 B                         
pulling a85fe2a2e58e... 100% ▕████████████████▏  487 B                         
verifying sha256 digest 
writing manifest 
success 
登入後複製
登入後複製
>

現在,我們將導入必要的庫,然後將模型加載到> cuda(gpu)>:

>

步驟4:通過處理圖像

現在,讓我們將
ollama run deepseek-r1:1.5b
登入後複製
圖像

傳遞給模型並生成一個響應。

?輸入圖像

初始化提示和系統角色如何在5分鐘內在本地運行DeepSeek模型?

>

處理輸入

!git clone https://github.com/deepseek-ai/Janus.git
登入後複製

輸出:

%cd Janus
!pip install -e .
!pip install flash-attn
登入後複製

< | user |>:圖像中有什麼? >

< |助手|>:該圖像以“最新文章”為特色,重點是博客文章。博客文章討論了“如何訪問DeepSeek Janus Pro 7b?”並強調了其在推理,文本對圖像和指導跟踪中的多模式AI功能。該圖像還包括後台的DeepSeek徽標(海豚)和六角形圖案。


>

我們可以看到該模型能夠讀取圖像中的文本,並在圖像中發現DeepSeek的徽標。最初的印象,表現良好。

>也請閱讀:如何訪問DeepSeek Janus Pro 7b? 結論

DeepSeek迅速成為AI中的強大力量,為開發人員,研究人員和普通用戶提供了廣泛的模型。隨著它與OpenAI和Gemini等行業巨頭競爭,其成本效益和高性能模型可能會廣泛採用。 DeepSeek模型的應用是無限的,從編碼幫助到高級推理和多模式功能。通過Ollama和基於雲的推理選項的無縫本地執行,DeepSeek有望成為AI研發中的遊戲規則改變者。

> 如果您有任何疑問或面對問題,請隨時在評論部分中詢問!

以上是如何在5分鐘內在本地運行DeepSeek模型?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

<🎜>:泡泡膠模擬器無窮大 - 如何獲取和使用皇家鑰匙
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
北端:融合系統,解釋
3 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

熱門話題

Java教學
1664
14
CakePHP 教程
1423
52
Laravel 教程
1319
25
PHP教程
1269
29
C# 教程
1248
24
開始使用Meta Llama 3.2 -Analytics Vidhya 開始使用Meta Llama 3.2 -Analytics Vidhya Apr 11, 2025 pm 12:04 PM

Meta的Llama 3.2:多模式和移動AI的飛躍 Meta最近公佈了Llama 3.2,這是AI的重大進步,具有強大的視覺功能和針對移動設備優化的輕量級文本模型。 以成功為基礎

10個生成AI編碼擴展,在VS代碼中,您必須探索 10個生成AI編碼擴展,在VS代碼中,您必須探索 Apr 13, 2025 am 01:14 AM

嘿,編碼忍者!您當天計劃哪些與編碼有關的任務?在您進一步研究此博客之前,我希望您考慮所有與編碼相關的困境,這是將其列出的。 完畢? - 讓&#8217

AV字節:Meta&#039; llama 3.2,Google的雙子座1.5等 AV字節:Meta&#039; llama 3.2,Google的雙子座1.5等 Apr 11, 2025 pm 12:01 PM

本週的AI景觀:進步,道德考慮和監管辯論的旋風。 OpenAI,Google,Meta和Microsoft等主要參與者已經釋放了一系列更新,從開創性的新車型到LE的關鍵轉變

GPT-4O vs OpenAI O1:新的Openai模型值得炒作嗎? GPT-4O vs OpenAI O1:新的Openai模型值得炒作嗎? Apr 13, 2025 am 10:18 AM

介紹 Openai已根據備受期待的“草莓”建築發布了其新模型。這種稱為O1的創新模型增強了推理能力,使其可以通過問題進行思考

視覺語言模型(VLMS)的綜合指南 視覺語言模型(VLMS)的綜合指南 Apr 12, 2025 am 11:58 AM

介紹 想像一下,穿過​​美術館,周圍是生動的繪畫和雕塑。現在,如果您可以向每一部分提出一個問題並獲得有意義的答案,該怎麼辦?您可能會問:“您在講什麼故事?

3種運行Llama 3.2的方法-Analytics Vidhya 3種運行Llama 3.2的方法-Analytics Vidhya Apr 11, 2025 am 11:56 AM

Meta's Llama 3.2:多式聯運AI強力 Meta的最新多模式模型Llama 3.2代表了AI的重大進步,具有增強的語言理解力,提高的準確性和出色的文本生成能力。 它的能力t

如何在SQL中添加列? - 分析Vidhya 如何在SQL中添加列? - 分析Vidhya Apr 17, 2025 am 11:43 AM

SQL的Alter表語句:動態地將列添加到數據庫 在數據管理中,SQL的適應性至關重要。 需要即時調整數據庫結構嗎? Alter表語句是您的解決方案。本指南的詳細信息添加了Colu

pixtral -12b:Mistral AI&#039;第一個多模型模型 - 分析Vidhya pixtral -12b:Mistral AI&#039;第一個多模型模型 - 分析Vidhya Apr 13, 2025 am 11:20 AM

介紹 Mistral發布了其第一個多模式模型,即Pixtral-12b-2409。該模型建立在Mistral的120億參數Nemo 12B之上。是什麼設置了該模型?現在可以拍攝圖像和Tex

See all articles