Bitget App
交易「智」變
快速買幣市場交易合約BOT理財跟單
輝達最新:GeForce RTX 50 搭載 DeepSeek 加速推理模型在 PC 電腦本地運行

輝達最新:GeForce RTX 50 搭載 DeepSeek 加速推理模型在 PC 電腦本地運行

AbmediaAbmedia2025/02/01 02:27
作者:DW
輝達最新:GeForce RTX 50 搭載 DeepSeek 加速推理模型在 PC 電腦本地運行 image 0

美中 AI 大戰持續燃燒,當川普選擇了 OpenAI 做為戰略夥伴時, DeepSeek 忽然異軍突起空降全球,其中的核心競爭力「推理模型」依然是靠著輝達的 GPU 馬力加速完成,迅速全面打臉所有認為輝達 GPU 已要被取代的新聞。

輝達官方部落格揭露 DeepSeek-R1 模型可讓開發團隊在保有客戶隱私的前提上運行複雜難解的數學和程式碼,輝達GeForce RTX 50 系列的 GPU 以每秒 3,352 兆次運算的馬力加速運行 DeepSeek 推理模型 。

輝達最新:GeForce RTX 50 搭載 DeepSeek 加速推理模型在 PC 電腦本地運行 image 1

新型態的推理模型讓 AI 思考與反饋

Reasoning Models (推理模型) 是種新型態的大型語言模型,AI 會像人類一樣花費時間「思考」並對錯誤做出「反饋」,所以被命名為「推理」。就像人類解決問題一樣, AI 透過更多思考、理解與反饋解決問題。推理模型可了解使用者的深度需求,並允許 AI 對模型的思考過程提供回饋,進一步增強使用者體驗,並可解鎖 AI 代理工作流程,進而解決複雜的多步驟任務,例如市場分析研究、複雜的數學問題或程式碼等等。

DeepSeek 推理模型可在輝達的 RTX AI PC 本地快速運行

DeepSeek-R1 系列精簡模型為基於擁有 6,710 億個參數的大型專家混合 (MoE) 模型。 MoE 模型由多個較小的 Expert Models 專家模型組成,用於解決複雜問題。 DeepSeek 模型進一步分配工作並將子任務分配給較小的專家群組。

DeepSeek 採用一種名為 Distillation (蒸餾)的技術,就像是製造威士忌一樣,可將大部分的酒精經過蒸餾技術蒸發掉留下精萃,大型 DeepSeek 6,710 億個參數模型中可蒸餾出六個較小的學生模型,參數範圍從 15 億到 700 億個不等,由大的 DeepSeek-R1 6710 億參數模型將推理能力「傳授」給較小的 Llama 和 Qwen 學生模型,從而產生了功能強大但較小的推理模型,並在輝達 RTX AI PC 本地快速運行。

RTX 搭載 DeepSeek-R1 推理模型

輝達 GeForce RTX 50 GPU 採用第五代 Tensor Core 構建,基於相同的 Blackwell GPU 架構。 加速 DeepSeek 推理模型,可在 AI PC 電腦 上提供最高的推理效率。

NVIDIA 的 RTX AI 平台提供了廣泛的 AI 工具、軟體開發套件和模型選擇。目前全球超過 1 億台 NVIDIA RTX AI PC(包括搭載 GeForce RTX 50 系列 GPU 的 PC)能夠使用 DeepSeek-R1 的功能。

殺手 GPU 沒有網路連線也可使用

RTX GPU 即使沒有網路連線,也可以在低遲緩的環境下運行,並可保護客戶隱私,因為用戶不用上傳敏感的個資和搜尋紀錄到 AI 服務系統。

 

 

這篇文章 輝達最新:GeForce RTX 50 搭載 DeepSeek 加速推理模型在 PC 電腦本地運行 最早出現於 鏈新聞 ABMedia

0

免責聲明:文章中的所有內容僅代表作者的觀點,與本平台無關。用戶不應以本文作為投資決策的參考。

PoolX: 鎖倉獲得新代幣空投
不要錯過熱門新幣,且APR 高達 10%+
立即參與

您也可能喜歡

加密領袖呼籲特朗普結束“無律行動”將軟體開發者刑事化,包括Roman Storm

快速摘要 去中心化金融教育基金(DeFi Education Fund)在給白宮AI和加密貨幣專員David Sacks的信中,領導者們敦促特朗普政府改變方向,結束司法部對軟體開發者的“過度擴張”起訴。2023年,Storm被美國紐約南區檢察官辦公室指控在運營加密混幣服務Tornado Cash時共謀進行洗錢和違反制裁。

The Block2025/04/28 17:56
加密領袖呼籲特朗普結束“無律行動”將軟體開發者刑事化,包括Roman Storm

Lombard 與 Eigen Foundation 合作將比特幣重新質押帶入 EigenLayer 生態系統

速覽 此舉允許 BTC 持有者通過比特幣質押協議 Babylon 獲得基礎收益以及通過 EigenLayer 的再質押獲得獎勵。

The Block2025/04/28 17:56
Lombard 與 Eigen Foundation 合作將比特幣重新質押帶入 EigenLayer 生態系統

Solstice Labs 將於2025年夏天在 Solana 上推出產生收益的穩定幣 USX

快速摘要 受 Deus X Capital 支持的協議將推出一個 Solana 原生合成穩定幣。Solstice Labs 表示 USX 將授予訪問其擁有 1 億美元承諾總鎖定價值(TVL)的 YieldVault 平台的權限。

The Block2025/04/28 17:56
Solstice Labs 將於2025年夏天在 Solana 上推出產生收益的穩定幣 USX

Vitalik和以太坊基金會的新共同執行董事概述更新後的董事會結構和使命

快速摘要 以太坊基金會正式任命了兩位新的共同執行董事,Hsiao-Wei Wang和Tomasz K. Stańczak,以及前任領導Aya Miyaguchi的新總裁角色。在新結構下,該組織希望加倍推進以太坊的規模擴展並獲取用戶,同時不犧牲其核心密碼朋克價值觀。

The Block2025/04/28 17:56
Vitalik和以太坊基金會的新共同執行董事概述更新後的董事會結構和使命