疑難雜症萬事通
在網路上遇到任何問題都可以在這邊找找看唷

Search

關於 深度學習gpu推薦 ，我們在網路上蒐集到這些相關的討論、資訊與評價

相關標籤 相關照片 相關影片
在深度學習gpu推薦這個產品中，有8篇Facebook貼文，粉絲數超過5,859的網紅零壹科技，也在其Facebook貼文中提到， #精選好文 【1.2 毫秒！#NVIDIA TensorRT 8 運行 BERT-Large 推理創紀錄】 支援NVIDIA GPU平台的深度學習推理框架「TensorRT」，是可以滿足電腦視覺、自動駕駛、工業自動化、資料中心等AI運算需求的框架。 自今年 5 月 TensorRT 8-嘗鮮版發...

「深度學習gpu推薦」的推薦目錄：


深度學習gpu推薦 在 零壹科技 Facebook 的最讚貼文

零壹科技 By 零壹科技

2021-08-04 14:00:01 有 6 人按讚
  • Share this:

#精選好文
【1.2 毫秒！#NVIDIA TensorRT 8 運行 BERT-Large 推理創紀錄】

支援NVIDIA GPU平台的深度學習推理框架「TensorRT」，是可以滿足電腦視覺、自動駕駛、工業自動化、資料中心等AI運算需求的框架。

自今年 5 月 TensorRT 8-嘗鮮版發表後，NVIDIA 終於在 20 日發表 TensorRT 8 正式版。TensorRT 8正式版與以往版本相比，能在1.2毫秒內運行全球廣為採用的基於transforemer模型之一BERT-Large，即將語言查詢推理時間縮短至上一版一半，創下最新紀錄，為搜尋引擎、廣告推薦和聊天機器人的AI模型提供支援。

更多精彩內容→ https://reurl.cc/GmOL5A
#關於AI的那些事

Tags:
零壹科技

About author
零壹科技成立於1980年，全心投入資訊設備市場銷售通路建立，提供網路伺服器設備、儲存設備、網路管理、資訊安全、雲端服務及視訊監控等軟、硬體解決方案。2000年於OTC掛牌上櫃，2002年轉上市(股票代號:3029)，名列天下雜誌台灣500大服務業之一，並獲評選為前50家最佳資訊設備銷售與服務企業。零壹以「專業服務、邁向卓越」為指標，致力成為IT Solution Provider；結合專業與服務，並力行實踐，與合作夥伴達到雙贏的目標。更多訊息請參觀零壹科技官網：http://www.zerone.com.tw/。
擁抱數位轉型，零壹是企業IT的最佳合作夥伴，助您掌握最新 IT產業趨勢、產品與解決方案；提供專業原廠認證課程與技術、銷售培訓。即刻關注，勝券在握!
5859 followers 5736 likes "http://www.zerone.com.tw/"
View all posts

深度學習gpu推薦 在 台灣物聯網實驗室 IOT Labs Facebook 的最佳貼文

台灣物聯網實驗室 IOT Labs By 台灣物聯網實驗室 IOT Labs

2021-07-14 13:08:14 有 0 人按讚
  • Share this:

從新創企業現狀觀察AI發展熱度

作者 : 黃燁鋒，EE Times China
2021-07-12

從人工智慧(AI)新創企業市場，以及類似Nvidia新創加速計畫(NVIDIA Inception)的專案，都可觀察AI技術或產業如今的發展熱度...

現在的很多生態締造者對於潛在生態的開發都十分在意：比如說及早深入教育市場，生態建設「從娃娃抓起」(編按：指從小開始)；再或者對新創企業的扶持或孵化計畫。這裡所謂的「生態締造者」的範圍可以很廣，比如雲端供應商、作業系統供應商、針對應用開發解決方案的供應商，以及各種硬體廠商等。

這些其實是吸引更多開發者，潛移默化中造成開發習慣、黏性的關鍵。《電子工程專輯》中國版(EE Times China)先前拜訪過微軟(Microsoft) Azure一批又一批的孵化企業；還有華為HarmonyOS當下對眾多新創企業的扶持……這類新創企業扶持項目都有著相當易於理解的商業邏輯，亦屬常規操作手段。

而在AI生態建構上頗具代表性的應該就是Nvidia，畢竟筆者之前也一直在提Nvidia在AI生態打造上的完備程度多高，這種生態對新創企業的扶持當然也是必不可少的。Nvidia新創加速計畫(NVIDIA Inception)進入中國是在2016年，這個計畫本身就在加速AI創業公司發展。從AI新創企業市場，以及類似Nvidia新創加速計畫這樣的專案，都可觀察AI技術或產業如今的發展熱度。

AI市場這兩年的新機遇

截至去年底，這項計畫在全球範圍內覆蓋了超過7,000家AI新創公司，去年一年加入Nvidia新創加速計畫的公司數量較上一年多出了25%。從Nvidia的總結來看，新冠肺炎疫情可能很大程度推動了該計畫。之前Nvidia業務開發VP Jeff Herbst曾提過：「2020年一場全球性質的瘟疫攪動了經濟發展。但新創生態系統卻在此期間一度繁榮，這很可能不是巧合。」

這些AI新創企業，依照類別來看主要包括了IT服務、醫療健康、媒體與娛樂。看起來是完全符合預期，就如同疫情期間全球的PC和資料中心市場發展受到刺激一樣，這恰好也是Nvidia業務發展的重點。可以說，疫情雖然短時間內造成了停工停產，但Nvidia可能是這波行情下獲得最大發展機會的企業之一。

數位生活方式的轉變促成了很多領域的快速發展，包括在家辦公、遠端醫療、家庭娛樂等。隨Nvidia大趨勢本身的利多，以及大環境的影響，去年加入Nvidia新創加速計畫的新創企業的一大部分都在這些類別中。

在中國市場上，該計畫去年扶持的企業超過800家。這個數字也極大程度說明了AI在中國發展的繁榮。換句話說，全球25%的成長量也可間接表現出，新冠疫情的蔓延客觀上也推動了AI的發展，而且不止於醫療健康。

AI新創投資市場現狀

Nvidia新創加速計畫可認為是觀察AI新創企業，乃至整個AI產業發展的冰山一角。CB Insights先前公佈了一份AI 100榜單，列出100家AI新創企業——而且據說是從超過6,000家企業中選出來的。這份榜單涵蓋了跨18個核心產業的各種解決方案，這個數字其實已蠻驚人。這份榜單總結了這些年來AI新創公司獲得的融資金額、最具代表性的產業類別，以及有不少企業處在A輪融資階段。其中12家是獨角獸，而在地理位置分佈中，64%位於美國，8家位於英國，6家在中國和以色列等。

針對這個市場有一些更細緻的資料可以列舉。以前不久微軟豪擲197億美元收購Nuance為代表，目前美國最大的5家科技公司中，有4家大量收購了AI新創企業。其中蘋果(Apple)最多，收購次數達到了29次——這也是CB Insights前不久才更新的資料。僅今年一季，全球與AI新創企業相關的交易(如收購、兼併等)次數就達到了626次，交易金額大約是177億美元。與去年相比，2020年整年的資料是354億，這其中的增量還是相當可觀的。有投資機構認為，預期今年針對AI相關的企業交易量會是去年的2~3倍，這種持續活躍和加速的趨勢仍相當明確。

很多機構針對企業所作的統計也顯示，企業對於AI產品的採用計畫正在增加，或者說更多的企業在數位化轉型過程中準備應用AI。Signal AI針對1,000位C級高層的統計顯示，92%認為自家企業需要依靠AI技術來提升決策制定流程。GTC 2021上，Nvidia共同創辦人暨執行長黃仁勳針對Nvidia發佈的AI for Enterprise特別提到：「我們將AI擴展到企業的邊緣。我們相信企業產業邊緣將會是AI產生巨大影響的地方，包括醫療健康、倉儲物流、生產製造、零售、農業、交通。AI還沒有觸達這些產業，但現在不同了。」

所以從投資方和需求方兩個方面來看，AI新創企業相關的投資都在持續擴大。不過這一現象可能與其他熱門領域的發展具有極高的相關性。比如推行SaaS的企業如今受到格外的關注——而這些企業普遍將AI作為企業產品的一部分。所以AI成為某些正在快速成長中的市場的組成部分受到追捧，本身也是AI成長的原因。達成全球AI交易金額的新記錄，可能會在今年持續發生；今年截至目前交易輪次也仍然表現出了熱度。

這其中有一點轉變，是近一年才發生。亦即去年很多企業對於AI的接受度仍然不高——AI之前的存在更像是一種行銷手法：即告訴客戶和投資人，產品中有AI技術才能獲得青睞；而現階段逐漸在轉變至用AI來更實際地解決現實問題的階段發展，或者不需要再去反覆解釋究竟為什麼要接受AI。AI也變得越來越平常，這也是大部分技術走向成熟的必由之路。雖然從投資風向來看，這個市場遠未及成熟，Nvidia在此時持續做針對AI新創企業的新創加速計畫投入，還是相當好的時機。

兩個新創加速計畫示例

與此同時，Nvidia新創加速計畫在客觀上也是降低產業進入門檻的一種方式，所以該計畫本身又在推動AI產業發展。從這個層面來看，這一市場行為與Nvidia本身在技術上進行生態建構還是一脈相承。

對於加入計畫的AI新創企業而言，該計畫提供的支援主要包括幾點：Nvidia的部分產品折扣、AI技術支援(包括Nvidia深度學習學院DLI線上自主培訓課程免費兌換200次)、Nvidia管道的市場推廣(如在GTC大會上給予展示、演講等的機會)、融資服務、業務推薦等，也就是從技術和市場兩方面提供一些基礎支援。除了免費加入的新創企業，計畫中另設有高階會員(設定要求包括至少完成A輪融資或已產生業務收入等)有更多的支援，比如開發者關係支持、更多市場推廣等。

這些服務和支援，基本也顯示了當代新創企業扶持計畫的常規，大方向上也符合AI新創風向的趨勢。這裡列舉兩個加入Nvidia新創加速計畫的新創企業的例子，大致可從中體會此類新創扶持計畫的價值。

中國有家名為心咚科技的企業，主要業務方向是將AI技術融入到時尚、服飾產業。這家公司產品的核心，包括了物理引擎和數位面料中心：設計師藉由心咚科技的產品，可以將現實中的實物面料和服飾，虛擬地呈現出來。這其實很類似於「原型產品」、「設計驗證」，虛擬產品因此能做到「零廢棄物製造」。市面上大多數現有的3D服裝設計軟體都只是視覺模擬，而沒有工業級高精準度物理模擬所需的運算結果。

所以心咚科技採用Nvidia的GPU及互連等方案，實現了高效能運算(HPC)應用，完成對複雜光線追蹤、視覺化運算工作負載的處理，以虛擬的方式完成從選擇面料、成衣設計、審稿、打版到生產過程。心咚科技本身是Nvidia新創加速計畫會員，這個例子也顯示AI相關技術新創企業借助Nvidia的資源、支援和平台，能夠加速應用實踐和延展。

再舉個例子，美國有家新創企業Zippin，他們的產品針對零售店購物可實現自動結帳，這個過程主要是對消費者購買的零食、飲料等進行影像辨識。顧客在支援Zippin系統的店內買東西之後就可以離開，app會保留收據，追蹤消費記錄後收費(app或信用卡支付)。這個專案的市場契機，主要來自國外很多體育館、娛樂場所重開，Zippin自動結帳無人商店不需要排隊就能買東西。

Zippin如今的業務擴展似乎還頗順利，其商店數量在穩步增加，包括一些大型體育場館和零售連鎖店；而且擴展到了美國以外，包括巴西、俄羅斯、日本。這套「自動結帳」系統相關AI的核心部分，應該是商品的影像辨識，並且結合更多感測器實現位置、重量辨識等。不僅是顧客買了什麼，也在於商店本身的庫存管理自動化，Zippin用的是Nvidia Jetson在終端進行模型推理。

Zippin聯合創始人兼首席科學家Motilal Agrawal在談加入新創加速計畫時提到，「Nvidia新創加速計畫團隊與我們見面、借給Zippin第一個NVIDIA GPU並針對我們的應用提供關於Nvidia SDK的指導。」
這兩個例子都是在Nvidia新創加速計畫扶持下，業務得以擴大影響力或開展落地的典型。Nvidia在其官網列舉的實例還有不少，本身也算是對這些企業的市場宣傳途徑之一，可能不同參與者受惠於新創加速計畫的體驗是不同的：Nvidia自己列舉的案例中，有家AI醫療影像手術導航機器人相關新創企業，相當推崇Nvidia深度學習學院DLI 的培訓課程，包括部分課程後Nvidia頒發的一些認證證書。如前面所述，Nvidia深度學習學院DLI線上自主培訓課程也是Nvidia新創加速計畫的重要組成部分，這類課程對於AI新創企業的養成具備相當的價值。

無論是免費的自主培訓課程，還是Nvidia GPU產品折扣、AI技術支援、市場推廣、融資服務、業務推薦，這些Nvidia新創加速計畫的組成部分。對AI新創企業快速入門和進階AI開發、加速產品上市，以及對於Nvidia本身培養AI生態有其價值。

正如本文一開頭所述，這種潛在開發生態與習慣的培養，是大部分生態締造者佈局生態時的必要行為。AI新創企業市場如此火熱，是Nvidia開展新創加速計畫的契機。與此同時，這類計畫本身又在促進AI整個產業往前發展，也是推動AI產業現階段百花齊放、迸發AI創意的起點。

資料來源：https://www.eettaiwan.com/20210712nt61-ai-development-from-the-dynamics-of-new-venture/?fbclid=IwAR1AVhpCZaFFqeTnmgvW7ZoTBBv48gtKEMsxZa4u4i_BDryyVfKnQcYLQ40

Tags:
台灣物聯網實驗室 IOT Labs

About author
本專頁將不定時網羅搜集國內外與物聯網相關新聞及技術，並無條件與 IOT 從業人員或對物聯網有興趣的大眾分享，若有任何不足或建議之處，歡迎隨時留言，一起研究研究。^.^
3992 followers 3725 likes "http://www.facebook.com/iotlab"
View all posts

深度學習gpu推薦 在 零壹科技 Facebook 的最佳貼文

零壹科技 By 零壹科技

2020-12-09 12:00:26 有 9 人按讚
  • Share this:

加速AI導入，讓您每一分每一秒都榨滿GPU算力！
AI研發要進行機器學習/深度學習開發，需要IT人員協助建構環境、管理資源，卻不知道怎麼開始？
無論是要自己買GPU，還是要上雲端，AI-Stack都能協助你規劃需求，輕鬆管理IT與使用者流程，馬上行動與我們聯繫吧！

#數位無限軟體
#最佳代理商零壹科技
#NVIDIA推薦搭配軟體

Tags:
零壹科技

About author
零壹科技成立於1980年，全心投入資訊設備市場銷售通路建立，提供網路伺服器設備、儲存設備、網路管理、資訊安全、雲端服務及視訊監控等軟、硬體解決方案。2000年於OTC掛牌上櫃，2002年轉上市(股票代號:3029)，名列天下雜誌台灣500大服務業之一，並獲評選為前50家最佳資訊設備銷售與服務企業。零壹以「專業服務、邁向卓越」為指標，致力成為IT Solution Provider；結合專業與服務，並力行實踐，與合作夥伴達到雙贏的目標。更多訊息請參觀零壹科技官網：http://www.zerone.com.tw/。
擁抱數位轉型，零壹是企業IT的最佳合作夥伴，助您掌握最新 IT產業趨勢、產品與解決方案；提供專業原廠認證課程與技術、銷售培訓。即刻關注，勝券在握!
5859 followers 5736 likes "http://www.zerone.com.tw/"
View all posts
社群媒體上有些相關的討論：

深度學習gpu推薦 在 Re: [菜單] 200K深度學習機- 看板PC_Shopping - 批踢踢實業坊 的推薦與評價


作者fo40225 ()
看板PC_Shopping
標題Re: [菜單] 200K深度學習機
時間Thu May 30 00:43:57 2019

: 更新 ：謝謝各位大大的建議，跟老闆討論過後預計朝請廠商報小型工作站
: 的單子，預算雖然說是沒有問題但也可能沒辦法買DGX@@，讓電蝦的
: 各位失望了
: 非常謝謝各位的建議，還請有點火氣上來的前輩們消消氣

原PO後來請廠商報小型工作站是聰明的決定

十萬的單子還上來求建議 表示對硬體的了解度沒有信心

雖然廠商也不一定懂

但讓廠商全權開規格 之後有問題廠商可以協助處理

廠商能除錯的資源還是比個人多些

上頭的人追究下來也有個廠商負責

100萬內的科研採購 雖然不用招標 但也總要有個廠商陪著跑文件

廠商多賺的錢就當服務費 省心

====

所以深度學習的機器到底要怎麼買？

剛好最近有些採購 也略有研究

以下是個人心得 不一定正確 在此做個筆記記錄

====

買電腦 第一先問預算 再問需求

但這次先問需求

真的需要一台GPU Server嗎?

在PC上開發模型，真正的大量資料上AWS、Azure、GCP、國網中心的雲端GPU做訓練

如果這樣的工作流不符合需求 (反正會有各種理由不行)

那也只好買台ML主機放地上了

如果預算沒有上限 (好幾個億花不完)
直接請廠商送NVDIA DGX Pod來就可以了

https://tinyurl.com/y3k63fo2
Easy Deployment of DGX Servers for Deep Learning
超Easy

預算不到億但超過千萬
DGX-2就在預算內
https://www.nvidia.com/zh-tw/data-center/dgx-2/
但NVIDIA要求購買DGX-2的單位最好要先有DGX-1的經驗

預算超過500萬就能買一台DGX-1
https://www.nvidia.com/zh-tw/data-center/dgx-1/

預算200萬上下你可以考慮買DGX Station
https://www.nvidia.com/zh-tw/data-center/dgx-station/
以上的價格都是我夢到的 詳細數字請打電話問業務

如果對於NV原廠機的配置不夠滿意
想要更換CPU RAM想加大點 儲存空間想調整
或是想把錢都砸在GPU 其他部分精簡
DELL HPE都有多GPU系列機器可客製化
嫌國外一線廠牌太貴 國內的華碩、麗台也都有GPU Server可以挑
怕被廠商坑可以先上DELL或HPE的美國官網點點配置
大概有個行情概念

錢能解決的問題都不是問題 最大的問題是沒有錢

沒錢的實驗室想買GPU Server來做深度學習
這時就要問情境了

是否願意犧牲機器穩定性、資料正確性來換取效能??
實驗室有多少人要用?
同時用還是排隊用?
有沒有專人管理維護伺服器?

如果真的要自己進這個坑就繼續吧

經驗告訴我 多人同時使用一台GPU server體驗很糟的
不只GPU是資源
CPU核心、CPU快取、PCIe頻寬、記憶體頻寬、記憶體容量、storage IOPS
全部都是瓶頸
8個人同時用一台8 GPU的server
就算一個人限制一顆GPU 8個人全部卡死

所以GPU server的使用情境是

- 訓練資料量太大了 需要多張卡做多倍的加速
(舉例：只能接受8張卡train 3小時 無法接受1張卡跑24小時)
- PC、HEDT的記憶體不夠
- 需要超多核心的CPU算力來做計算前處理

這時候又有人能管理伺服器(實驗室成員排隊不會吵架)
那可以買大台的server
一個人一個人輪流用 其他人只能等

推文裡有人買2xTITAN RTX主機45萬
若用不到512GB RAM或24GB VRAM或超多核心的算力
可以買5台9萬的PC 能用同時用的人更多 算力也更高 (2 GPU vs 5 GPU)

====

最後才是考慮組裝個人電腦來用

那組裝深度學習的主機 零件怎麼挑呢？

我不知道版上有多少人真的在深度學習
說不定我也沒有玩過 上來唬爛一通
下面的解釋都是心得 也不一定對 就當參考

CPU
有人說深度學習主機的CPU不重要
我不認為不重要
或者說 不重要不代表可以忽視
不然隨便拿個i3或Xeon Bronze亮機就好
CPU快的主機還能拿來做其他運算
非深度學習無GPU加速的機器學習算法也可以跑

GPU運算是需要CPU送資料進去的
若CPU需要做些前處理 算力不夠會導致資料產出速度不足導致GPU閒置
另一個就是PCIe頻寬 多卡時有機會塞車
(推文有人問ML主機跟礦機差在哪
礦機基本上不需要PCIe頻寬 一小段資料送進GPU爆hash出來
ML主機是大量的資料通過GPU 還有神經網路的權重更新問題
頻寬需求不同)

CPU的算力若要在高頻少核與低頻多核間選一個
我會選高頻少核 泛用性比較高
畢竟如果不是跑固定的商用軟體或開源軟體
很難確定平行化的效果如何
最後至少還有個單核硬上的選項

另外就是
我懷疑nvidia的驅動只有單核在跑 要是單核不夠力 GPU會比較慢
以上是推測 沒有直接證據

至於AMD CPU (先說明這是現在的狀況 2019/7/7後會不會改變我不知道)
Zen架構與Skylake架構相比
浮點運算AMD就是弱勢 (4個128bit 兩個加法兩個乘法 vs 2個256bit加乘皆可)
AVX 256bit AMD直接是Intel半速
更不用說要是程式用了Intel的編譯器或數學庫(MKL, MATLAB或numpy都會用到)
偵測到不是intel的CPU 直接執行相容性最高(最慢)的機器碼
AMD的CPU遇到奧步很難跑得比INTEL的快

至於HEDT平台
9980XE與2990WX我手上都有
版上隨便推人買2950X或2990WX是很不負責任的
我的建議是 除非你的程式在X399平台上測過真的比較快(或是一樣快但比較便宜)
不然買intel真的比較不會有性能問題
商人不是笨蛋 18核的9980XE與32核的2990WX才會沒什麼價差
實際測試這兩顆互有輸贏
如果你的程式是
- 多核平行化得很好 單核慢沒關係
- 有NUMA支援 不會卡RAM頻寬或CPU之間
- 浮點不重要 AVX 512沒差 且不會被intel軟體奧步
那2990WX有機會贏 但還是建議要測過再購買
(不到6萬就能體驗4路不對稱NUMA所帶來的各種奇葩效能問題 超值)

RAM
通道插滿 越大越好
做正事的機器不建議用超頻記憶體 標準條很棒
2019年 記憶體需求超過64GB 只能選HEDT
超過128GB 只能選工作站
超過512GB 只能選Server
嚴格要求資料正確性請買ECC

MB
主流平台挑選跟一般開菜單一樣
VRM散熱與設計挑一下
要是VRM供電不足 可能連維持全核Turbo都有問題
其他沒什麼重點
HEDT平台要看一下PCIe通道設計
針對ML需求會不會塞車
每張卡至少要x8 塞在CPU端或GPU端都會有影響

CPU散熱
i7-8700的原廠散熱沒有辦法在燒機下維持全核Turbo 4.3GHz
真的垃圾
比原廠散熱器好的都可以

GPU
重點來了

針對深度學習 第一要考慮的就是VRAM大小
VRAM決定了能放多複雜的模型下來算
(有人會說Unified Memory啊或是什麼NVLink合併記憶體的
會自己寫底層用這兩個功能的人就不會上來問問題了
Tensorflow可以開Unified Memory拿主記憶體硬跑
代價是效能剩10分之一 [PCIe x16頻寬約GDDR6 1/10]
NVLink自動合併記憶體 我還沒看到Tensorflow或Pytorch有支援
至少我在V100上是開不出自動合併 會的人麻煩教學一下
手動將模型拆放在兩張又不會卡頻寬也是需要花時間調整的)

還有batch size能開多少(這個可以透過多卡增加)

如果只是玩票性質的深度學習
6GB VRAM應該都能試跑常見的模型

如果是拿來做事的
11GB VRAM的是首選

因此消費級能挑的卡有

11GB
1080ti
2080ti

12GB
GTX TITAN X
TITAN X
TITAN Xp
TITAN V

24GB
TITAN RTX

Quadro卡很貴 也沒有特別快
除非你想買Quadro RTX 8000有48GB VRAM
不然光看規格 我找不到買Quadro RTX 6000而不買TITAN RTX的理由
(其實有 Quadro RTX 6000是鼓風扇 多卡散熱比TITAN RTX好)

Tesla卡是被動散熱沒有風扇
都是跟著設計過的機架出貨
就算搞到手裝在一般機殼也是直接燒掉

如果要使用多卡 一定要用渦輪扇版本的強制排氣
不然連跑幾個小時 直接熱死

再來要考慮的就是算力
如果會用半精度fp16訓練(AMP之類的)
有Tensor Core的TITAN RTX、2080ti、TITAN V有絕對優勢
(雖然2080ti的Tensor Core在fp16/fp32混和精度被老黃閹成半速 但還是很快)

只用fp32的話請直接看wiki Single precision欄位
https://en.wikipedia.org/wiki/List_of_Nvidia_graphics_processing_units

TITAN V與TITAN RTX比較
TITAN V是HBM 某些吃VRAM頻寬的模型計算速度上會快些
TITAN RTX的VRAM比較大且有NVLink
NVLink的效果 有幫助但沒有很顯著

Puget Systems上關於GPU跑深度學習的測試文都可以看看
https://www.pugetsystems.com/search.php?query=+Machine+Learning

TITAN V與TITAN RTX個人會選RTX
慢一點等就好 (沒用Tensor core速度根本沒差)
放不進VRAM連算都不用算
PCHome定價還比較便宜

Storage
都2019了 SSD必備吧
額外的硬碟、RAID或是NAS就看預算
另外NVMe組RAID 0不會增加隨機讀取IOPS 不要為了這個浪費錢

Power
如果放機器的地方沒有220V
組4卡機器可能要考慮一下
1500W推4張TU102+CPU其實很拚

====

最後是菜單 線上隨便點的 別真的拿去組

80K 深度學習文書PC
CPU (中央處理器)：
Intel i9-9900K【8核/16緒】3.6GHz(↑5.0GHz)/16M/95W
15800

Cooler (散熱器)：
利民 Silver Arrow T8 8根導管(6mm)/TY-143B*1/雙塔/高度15.8cm/TDP:320W
2400

MB (主機板)：
技嘉 Z390 AORUS ELITE 翼力特(ATX/1H/Ｉ網/一體式檔板/註五年)
4890

RAM (記憶體)：
KLEVV(科賦) 16GB DDR4-2666/CL16
4x1888 7552

VGA (顯示卡)：
技嘉 RTX2080Ti TURBO 11G(1545MHz/27.2cm/註四年)
36890

SSD (固態硬碟)：
威剛 XPG SX8200Pro 1TB/M.2 PCIe 2280/讀:3500M/寫:3000M/TLC【五年保】附散熱片
4380

HDD (硬碟)：
Toshiba 6TB【企業級】128MB/7200轉/五年保(MG05ACA600E)
5390

PSU (電源供應器)：
全漢 聖武士 650W/銅牌/全日系/DC-DC/5年免費/CPU主線:18AWG
1990

CHASSIS (機殼)：
全漢 CMT240B 炫鬥士 黑 顯卡長37.3/CPU高17.9/壓克力透側/上開孔/ATX
1090

====
300K 深度學習入門PC
處理器 CPU:
Intel i9-9980XE【18核/36緒】3.0G(↑4.4GHz)/24.75M/165W/無內顯【代理盒裝】
61000

主機板 MB:
華碩 WS X299 SAGE/10G(CEB/8*D4/雙Ｉ網-10G/2*M.2/1*U.2/三年)
21900

記憶體 RAM:
美光 Micron Crucial 16G DDR4-2666
8x2099 16792

固態硬碟 M.2｜SSD:
三星Samsung 970 PRO NVMe 1TB/M.2 PCIe 讀:3500/寫:2700/MLC/五年保
13500

傳統內接硬碟HDD:
Toshiba 10TB【企業級】256MB/7200轉/五年保(MG06ACA10TE)
9990

散熱器:
利民 Silver Arrow IB-E Extreme 8根導管(6mm)/雙塔/高度16cm/TDP:320W【VWX】
2890

顯示卡:
華碩 TURBO-RTX2080Ti-11G(1545MHz/26.9cm/註四年)
4x38990 155960

機殼:
海盜船 Carbide Air 540 黑 顯卡長31/CPU高17/SSD*6(2共用)/E-ATX
4490

電源供應器:
全漢 CANNON 2000W 雙8/全模/全日系/1年保固/六項保護/支援18組PCI-E 6+2PIN
12900
====

300K那組可再往上調整一階成自組工作站
CPU可換Xeon W-2195
MB可換ASUS WS C422 SAGE/10G
RAM加到512GB
VGA換成2x Titan RTX

====

再往上就不要自組或白牌server了啦

驗證也是要錢的 廠商的人力服務支援都是錢

更高階的機器不是所有零件裝上去就會動的

散熱、供電、各零件相容性都是眉角

花了幾百萬經費買了不會動的機器 一定被教授砍死

這邊都還只有講到硬體

要是管理伺服器的人

軟體部分OS、CUDA driver等等設定無法自己來

還是要有個廠商在後面支援才好

啥都不懂買品牌機就對了

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.112.16.145
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1559148243.A.200.html
推 a3831038 : 趕快推，免得被人說看不懂 05/30 00:52
推 windrain0317: 推，尤其300k後直接call廠商是良心建議 05/30 00:53
推 rtwodtwo : NVMe要拉高隨機存取IOPS => 900P/905P 05/30 00:55
拉高IOPS的另一種說法是降低latency

唯一做法就是換Optane

8xSAMSUNG 970 PRO 1TB 贏不了900p 我測過了

過一個RAID還會增加延遲 IOPS反而下降

但容量 隨機寫 連續讀寫 還是有幫助 就看目的
推 hprince : 推 05/30 01:04
※ 編輯: fo40225 (140.112.16.145), 05/30/2019 01:08:08
推 xiemark : 純c的caffe train快多了。 05/30 01:10
推 WARgame723 : 簡單來說.買intel 05/30 01:12
推 onepunchgg : 同一樓wwwww 05/30 01:16
推 hizuki : 深度解析 05/30 01:20
推 m54ak : 這篇可以m起來 05/30 01:24
推 MrDisgrace : Intel MKL奧步這個問題真的很大XD 05/30 01:44
推 gaade : 不同的機器作不同的事，別再看跑分評論不同設計的系 05/30 01:44
→ gaade : 統囉～ 05/30 01:44
推 NX9999 : 推!!@@ 05/30 01:57
推 SahoYaho : 大佬來了 看得好爽 05/30 02:02
推 Zinsei : 推用心 05/30 02:10
推 WFSGT : 推 05/30 02:12
推 piyopiyolee : a跑比i快就說真香，比較慢就喊奧步，跟政治人物一樣 05/30 02:22
推 tom282f3 : 太專業 05/30 02:26
推 ctweng13 : 請問，i9 9900k與2697 V3，那顆CPU比較適合跑M.L? 05/30 02:39

要看情境

9900k就是小台的機器
64G RAM + 1~2GPU

2697v3應該是雙路大台的機器
爆幹大的RAM + 4~8GPU

大台的機器拆成小台給多人用 會比買一堆小台的給多人用起來慘

一堆小台的機器很難在需要大量算力時湊成一台大台的
(可以挑戰從eBay上買拆機100Gbps網卡組叢集 成功了功力++)

所以取決於你的需求

推 stephen2232 : 某樓不然你來換個說法阿 05/30 02:53
推 is2586537 : 推經驗分享跟認真分析 05/30 03:06
推 Etern : 推 05/30 03:08
推 ping860622 : 這篇真的要推 05/30 03:09
推 BaWanYi : 簡介也能這麼精闢，推 05/30 03:15
推 william25520: 同一樓 05/30 03:21
推 BambooGrove : 強 05/30 03:23
推 MrDisgrace : 商用沒美國時間給你整個重寫 開源授權不給包 無解XD 05/30 03:24
推 h311013 : 錢 05/30 03:34
推 cory8249 : 推 05/30 03:39
推 Higana : 優文 不推對不起自己 05/30 03:39
推 a007son : 中文真的難，都說程式碼有針對i皇最佳化了還要護航 05/30 03:43
推 firex10 : 推112大佬 05/30 03:44
推 jeff40108 : 免費經驗分享真佛 05/30 03:51
推 remia81 : 推 05/30 03:57
推 a2470abc : mkl真的很機掰 05/30 03:58
推 KuChanTung : 解釋一下，最近剛買的450K的Server，只有個人使用， 05/30 04:26
→ KuChanTung : 主要也是因為其他GPU Server多人同時上線掛機運算 05/30 04:26
→ KuChanTung : 模型，資源不夠使用，再弄Server，本文其他部分， 05/30 04:26
→ KuChanTung : 完全說明DL研究者心聲，推。 05/30 04:26
推 KuChanTung : 另外因為散熱因素，我個人不建議在單一4 GPU Server 05/30 04:38
→ KuChanTung : 配RTX *4，完全無法跑出應有效能。 05/30 04:38
→ bubunana : 推...我記得NV跟i 都有直接在112資院直接建DL lab 05/30 04:48
→ bubunana : 要什資源直接申請就好 內部還會直接美國派一個 DL P 05/30 04:48
→ bubunana : HD 當窗口 所以好奇怎麼還需要額外掏錢買設備？ 05/30 04:48
→ jeff40108 : 樓上484搞錯因果關係了？ 05/30 05:00
→ jeff40108 : 就是因為有花錢買設備才派人來支援 05/30 05:01
→ jeff40108 : 就算有合作案也不是合作了全院都免費用到爽 05/30 05:02
推 sma1033 : 如果有用到MKL確實「某些運算」會快一些，但是能否 05/30 05:03
→ sma1033 : 用MKL用到造成速度有顯著加速就是Case by case 05/30 05:04
推 sma1033 : 用AMD的CPU每顆核心比較弱一點，就是要把工作負載 05/30 05:11
→ sma1033 : 拆開分散，來最佳化多核心的優勢 05/30 05:12
→ bubunana : 不是喔 是直接進學校 建lab 算是產學合作喔 另外樓 05/30 05:16
→ bubunana : 主講了Optane應用不然在PTT應該被噴了跟垃圾沒兩樣 05/30 05:16
推 BlackCoal : 趕快推，雖然我文組完全看不懂 05/30 05:19
→ bubunana : 當然不是全院用到爽 我只是針對樓主經驗 應該是合作 05/30 05:20
→ bubunana : 範圍內 而且實驗室畢業PhD 有蠻大機會直接進Intel l 05/30 05:20
→ bubunana : ab 不過要稱幾年intern 05/30 05:20
推 sdriver : 現在不都直接租雲端嗎 05/30 05:54
推 simon78410 : 看吧 用AMD當工作站根本自找麻煩 05/30 06:11
推 bunjie : 這篇可以M了 05/30 07:01
噓 peter0517 : 推 05/30 07:04
推 peter0517 : 靠邀 按錯 05/30 07:08
推 hdotistyle : 推一樓 05/30 07:30
推 k073322524 : 推 05/30 07:57
推 deathagel16 : 非常感謝這位前輩!!後續會再與老闆溝通，這篇文也會 05/30 08:02
→ deathagel16 : 給老闆參考 05/30 08:02
推 comipa : 好文推 05/30 08:06
→ Angesi : 你對半精度的概念有誤 05/30 08:26
→ Angesi : 只是一昧的要求vram大 完全不考慮精度的選擇 05/30 08:27
→ Angesi : 真的蠻慘的喔~ 05/30 08:28

半精度/混合精度的訓練當然是非常tricky

速度雖然快 vram用量有機會減半 但不一定train得起來

沒解決也只能用fp32跑

單精度fp32的狀況下

V100 GV100 TITAN V TITAN RTX 2080ti 1080ti

(其實沒有差很多)

雙精度fp64在深度學習比較少見

跑模擬或工程CAD才會用到 (這時才買Quadro)


VRAM大能放複雜的模型或是batch size更大

更大的batch size比較能提升GPU利用率
(調高batch size後 計算速度變快是因為GPU與VRAM頻寬使用率上升

這兩種滿載後 batch size調更大也不會加速

滿載下才是比晶片算力還有記憶體頻寬 HBMvsGDDR)

雖然batch size大不一定收斂得比較快(時間上)

但大VRAM至少能讓你有選擇的空間

推 amin0811 : 這篇文真的算是範本了...真心建議收進精華區... 05/30 08:44
→ amin0811 : 裡面的概念想法幾年後應該也適用(硬體舊了汰換而已) 05/30 08:45
推 jason4571 : 優文 05/30 08:53
推 silk10268 : 推 05/30 08:59
推 x941u4vu86 : 還是推RYZEN 2990WX，買INTEL的都盤子 05/30 09:04
推 john60111 : 字太多了，先推再說 05/30 09:04
推 tgenie : 好像有點專業，推個 05/30 09:13
推 YandereLove : 優質 05/30 09:17
※ 編輯: fo40225 (140.112.16.145), 05/30/2019 09:56:43
推 AnnaAJ : 不明覺厲 05/30 09:40
推 windrain0317: 真的要工作AMD要就直上EPYC 05/30 09:43
→ windrain0317: 2990WX很多奇葩狀況會讓人傻眼 05/30 09:44
推 vykhodila : 推分享 非常實用 05/30 09:45
推 jason2325 : 優文推 05/30 09:47
推 JKGOOD : 待過公家單位真的覺得就算有能力還是全部找廠商就好 05/30 09:53
→ JKGOOD : ，出事有人擔下班不用被call 05/30 09:53
推 menshuei : 盼AMD能夠加速人工智慧運算功能的建立，不僅要算的 05/30 09:58
→ menshuei : 快，算的好，更重要的是能夠有智慧的算；未來的世 05/30 09:58
→ menshuei : 界是人工智慧的時代，AMD造CPU可要跟上趨勢才是。 05/30 09:58
推 xiemark : 改買Xilinx alveo FPGA卡做INT8 training 05/30 10:15
推 gaade : 不知道有使用epyc的機子的經驗分享嗎？ 05/30 10:30
→ friedpig : 不過說真的 牙膏王自己花錢請RD寫的complier 人家沒 05/30 10:51
→ friedpig : 事幫忙弄別家的相容性幹嘛 不跑相容性最高的作法 到 05/30 10:52
→ friedpig : 時候編出來的東西再其他機器不能跑又是另一套說詞 05/30 10:52
推 AbeNana : 真優文 05/30 11:09
推 wobooyaw : 長姿勢文 05/30 11:10
推 GodBlessPP : 推 05/30 11:10
→ bubunana : i請了快1.5-1.8萬人 SW RD在搞這塊幾乎是fabless 全 05/30 11:13
→ bubunana : 公司員工總數 這還只 反算正職 不算約聘 既然是做資 05/30 11:13
→ bubunana : 科 就不該覺得 軟體是免費 不幫對手最佳化就是XX 05/30 11:13
→ bubunana : 另外做軟體或驅動的 在硬體設計公司已經夠可憐被消 05/30 11:19
→ bubunana : 費 流動率高 正如在MS Google做硬體的 不用太過苛責 05/30 11:19
推 david54001 : 長知識 05/30 12:08
推 clap : 超專業！ 05/30 12:09
推 jasn4560 : M文不待處理的意思嗎? 為啥要M這篇文 我以為是要= 05/30 12:15
推 perfects1988: 推 05/30 12:18
推 twistedvate : 一分錢一分貨 05/30 12:25
推 anderleth : 推，專業文 05/30 12:32
推 maplefoxs : 高端操作 05/30 12:41
推 arrenwu : MKL也不能說是奧步啦XD 這也是為啥MATLAB上面Intel 05/30 13:01
→ arrenwu : CPU會快一點。可是我覺的深度學習應用上，瓶頸不是 05/30 13:01
→ arrenwu : CPU算的東西，所以MKL的優勢是還好 05/30 13:02
推 MrDisgrace : 要看只是沒最佳化 還是故意劣化XD 05/30 13:55
→ AmibaGelos : mkl就matlab/MMA app超爛的元兇啊 matlab怎麼處理 05/30 14:02
→ AmibaGelos : 不清楚 聽說MMA打算拋棄mkl lock-in真的會破壞生態 05/30 14:02
推 Jmoe : 良心建議 05/30 14:20
→ badyy : 硬體公司都是用SW當marketing/綁使用者,對使用者算 05/30 14:46
→ badyy : 免費啊 SIMD讚XD 05/30 14:46
→ badyy : 反正錢是花在買硬體上不是嗎?XD 05/30 14:47
→ badyy : 不然急著讓大家有平價的AVX512是好玩嗎? 05/30 14:48
→ skycat2216 : 其實我之前在ebay還是有看到有鼓風扇的Tesla，不過 05/30 15:35
→ skycat2216 : 是老的型號了 05/30 15:35
推 LOUlSVUITTON: 完全看不懂 但是推個 05/30 18:35
推 Ham10159 : 推專業大佬 05/30 18:45
推 user1120 : 推 05/30 19:08
推 goldie : 推 05/30 19:18
噓 nickball007 : 8700是文書機嗎???? 05/30 19:18
→ gaade : 差不多吧... 05/30 19:29
推 dogluckyno1 : 推 05/30 19:51
推 tofukingkion: 推 05/30 20:53
→ ashburr : AMD：我只設計CPU 沒錢優化 請自己來 05/30 21:03
推 i1k1y : 乾貨 讚 05/30 22:03
→ anedo : 8700十年之後也是文書機了.. 05/30 23:55
推 ticy : 推 05/31 09:44
推 zephyr105 : 推 05/31 10:18
推 nucleargod : 你說的是用 nv 寫好的軟體在跑ML吧 05/31 22:15
→ nucleargod : 真正自己在寫的人，根本不需要 nv 卡 05/31 22:15
→ nucleargod : 我之前就直接 A 卡寫 opencl 05/31 22:16
→ nucleargod : CPU 也絕對是同時全部吃滿 05/31 22:17
→ nucleargod : 那時候就會知道，單核效能完全無意義，看核心數就好 05/31 22:18

會用OpenCL全部自己來的大神
一定相當了解自己的程式需要什麼硬體資源 就不會上來問菜單了

但對於不懂的人寫出來的code 87%是需要單核效能

更不要說什麼花時間調整後
gcc + OpenBLAS + OpenCL @A+A
就能對抗
icc + MKL + CUDA @I+N
對於一般人來說還是太遙遠
※ 編輯: fo40225 (140.112.16.145), 06/01/2019 00:58:38
推 GoGoJoe : 可以中斷服務的應用，可以不用考慮Server。 06/01 20:47
※ 編輯: fo40225 (140.112.16.145 臺灣), 05/08/2020 18:46:01






... <看更多>

深度學習gpu推薦 在 如何為深度學習挑選合適的GPU？我的經驗與建議#3 - GitHub 的推薦與評價

如果你只是買不起GTX 1060，我推薦4GB RAM 的GTX 1050 Ti。4GB 會有限，但是你可以玩轉深度學習了，如果你調一下模型，就能獲得良好的性能。GTX1050 Ti ... ... <看更多>

深度學習gpu推薦 在 【GPU编程系列之一】从深度学习选择什么样的gpu来谈谈gpu ... 的推薦與評價

本文首先根据显卡一些参数来推荐何种情况下选择何种gpu显卡，然后谈谈跟cuda编程比较相关的硬件架构。 从深度学习在2012年大放异彩，gpu计算也走入了 ... ... <看更多>

你可能也想看看
深度學習gpu推薦2022
深度學習gpu推薦2021
深度學習顯卡ptt
深度學習顯卡比較
深度學習顯卡天梯
rtx 3060深度學習
Tensorflow GPU 推薦
深度學習cpu gpu
搜尋相關連結

#1. Deep Learning中如何选择GPU？（一） - 知乎专栏

文中图片均来自于NVIDIA官方文档或NVIDIA社区博客深度学习通常需要大规模的计算需求 ... 计算机视觉（CV）、预训练或机器翻译研究人员：4路RTX 3090（推荐涡轮显卡）。

#2. 2020 年深度学习最佳GPU 一览，这篇GPU 最全攻略请查收！

如果你准备进入深度学习领域，什么样的GPU才是最合适的呢？下面列出了一些适合进行深度学习模型训练的GPU，并将它们进行了横向性能比较，一起来看看吧！

#3. 深度學習與人工智慧解決方案 - Nvidia

深度學習 在訓練與推論的階段皆需仰賴GPU 加速，你可直接在資料中心、桌上型電腦、筆記型電腦、雲端，甚至是全球最迅速的超級電腦上使用NVIDIA GPU 滿足你的需求。 強大的 ...

#4. 2020年深度学习如何挑选GPU？这篇GPU 最全攻略请查收

NVIDIA 的标准库使在CUDA中建立第一个深度学习库变得非常容易。早期的优势加上NVIDIA强大的社区支持意味着如果使用NVIDIA GPU，则在出现问题时可以轻松得到 ...

#5. 时代变了，大人：RTX 3090时代，哪款显卡配得上我的炼丹炉？

下图展示了当前热门的Nvidia 显卡在深度学习方面的性能表现（以RTX 2080 Ti ... 作者表示，他会向所有买得起RTX 3090 的人推荐这款GPU，因为在未来3-7 ...

#6. 最全深度学习显卡推荐分析 - 享淘乐

最全深度学习显卡分析，集显可纯CPU或google colab，AMD显卡可通过ROCm学习Tensorflow及PyTorch，RX 580性价比超群，NVIDIA首选2070， ...

#7. 如何為深度學習挑選合適的GPU？我的經驗與建議#3 - GitHub

如果你只是買不起GTX 1060，我推薦4GB RAM 的GTX 1050 Ti。4GB 會有限，但是你可以玩轉深度學習了，如果你調一下模型，就能獲得良好的性能。GTX1050 Ti ...

#8. 深度学习GPU显卡选型攻略 - CSDN博客

一、选择算力在5.0以上的根据官方说明，在GPU算力高于5.0时，可以用来跑神经网络。算力越高，计算能力越强，建议小伙伴们在资金充足的情况下， ...

#9. 玩深度学习选哪块英伟达GPU？有性价比排名还不够！

我通常不推荐新推出的Titan Xp，相比其性能，它定价过高，不如选GTX 1080 Ti。但对于摆弄大型数据集或视频数据的计算机视觉研究人员，Titan Xp 仍然有市场 ...

#10. 深度学习GPU最全对比，到底谁才是性价比之王？ - 51CTO

总的来说，本地运算首选英伟达GPU，它在深度学习上的支持度比AMD好很多；云计算首选谷歌TPU，它的性价比超过亚马逊AWS和微软Azure。

#11. Deep Learning中如何选择GPU？（二） - 技术圈

深度学习 通常需要大规模的计算需求，作为主要运算硬件的GPU的选择决定了深度学习的体验。 ... 总的来说，RTX 30 系列非常强大，我强烈推荐这些GPU。

#12. 深度学习GPU显卡选择- 掘金

以下截图一些常见显卡，貌似算力大于5.0的就比较推荐用来跑神经网络了。 服务器端常用显卡：. image.png. 消费级显卡：. image.png. 分类：.

#13. NVIDIA DLI 認證課程 - Leadtek

NVIDIA DLI 認證課程. NVIDIA 認證課程. FDL深度學習基礎理論 NLP自然語言處理 Recommender推薦系統 多GPU加速CUDA C++ ...

#14. 推荐的GPU 实例- 深度学习AMI - Amazon

大多数深度学习目的，我们推荐使用GPU 实例。在GPU 实例上训练新模型比CPU 实例更快。您可以在有多个GPU 实例的情况下以线性方式进行缩放，也可以在具有GPU 的多个实例 ...

#15. [Day 01] 深度學習環境安裝筆記— 目錄 - iT 邦幫忙

目錄 · 系統安裝與設定 · 安裝Nvidia 驅動 · 安裝CUDA 、 CUDNN · 安裝OpenCV · 安裝Caffe · 安裝Tensorflow · 安裝Digits · 安裝Kersa ...

#16. GPU 选购指南：训练ML 模型，我必须买RTX3080 吗？ - InfoQ

深度学习 是一个计算要求非常高的领域，你对GPU的选择将从根本上决定你的深度学习体验。但是，如果你想购. ... 这就是为什么我只推荐具有张量核的GPU。

#17. Deep Learning | 深度學習- GIGABYTE 技嘉科技

產出的模型即使接收新資訊，也能精準「推論」出正確的回覆。 隨著業界發表專為高效能運算(HPC)設計的GPU產品，加上機器學習生態系趨近成熟，深度 ...

#18. AI 運算，企業伺服器一定要用上超高階顯卡嗎？ - 公民報橘

然而，並非做電腦繪圖3D 渲染或是深度學習與AI 運算，都需要靠高階圖形處理器（GPU）及強大運算力才跑得動，要擁有高性價比基礎架構，須深入應用情境 ...

#19. GPU 運算卡的價格推薦- 2022年9月| 比價比個夠BigGo

包含1222筆拍賣.「GPU 運算卡」哪裡買、現貨推薦與歷史價格一站比價，最低價格都在BigGo！ ... 顯卡原裝英偉達NVIDIA TESLA K80顯卡24GB GPU加速運算卡AI深度學習卡.

#20. AI 基礎架構的機器學習與深度學習模型訓練 - Google Cloud

透過各種NVIDIA GPU 進行符合成本效益的推論作業，或是向上擴充或向外擴充的訓練作業。您可以搭配GPU 利用RAPID 和Spark 來執行深度學習，您可以在Google Cloud 上 ...

#21. 送你一份配置清單:機器學習、深度學習電腦顯卡配置方案

做深度學習最終要的就是顯卡，顯卡的選擇可謂老生常談，Nvidia公司在深度學習這塊幾乎進行了統治。顯卡分為專門的計算卡和遊戲卡（也可以叫為服務器 ...

#22. [AI開發]深度學習如何選擇GPU？ - 程式人生

我個人不太推薦使用非主流的產品、技術，因為他們大多數不太成熟，使用過程中困難重重，甚至最終官方夭折。本篇文章所有內容全部基於Nvidia顯示卡。

#23. 深度学习GPU工作站配置参考 - 腾讯云

显卡：基于CUDA计算（CUDA 是NVIDIA开发的GPU并行计算环境），所以一般只推荐NVIDIA 系列的。在英伟达产品系列中，有消费领域的GeForce系列，有专业绘图 ...

#24. 深度學習gpu推薦2021 - 軟體兄弟

深度學習gpu推薦 2021,2021年6月3日— 在處理模型時，硬碟會影響資料讀取的速度，CPU 會 ... 其中有两款在之前的文章里有搭配Quadro RTX GPU的深度学习性能测试报告，供 ...

#25. 深度学习集群gpu推荐-华为云

P1/Pi1实例，满足科学计算、深度学习训练、推理等计算场景生态优秀完善的生态环境，全面支持多种GPU应用程序、深度学习框架。G系列支持OpenGL、DirectX；P系列 ...

#26. 深度學習gpu

除此之外，NVIDIA A10和T4、NVIDIA RTX部分中高端桌面级GPU也可以处理深度学习相关负载GPU運算與深度學習. 深度學習屬於機器學習類別中的一環，是一個擴展人工神經 ...

#27. 做深度學習這麼多年還不會挑GPU？這兒有份選購全攻略

GPU 的選擇將從根本上決定你的深度學習體驗。一個好的GPU可以讓 ... 總的來說，我認為對於那些只希望GPU能夠順利運行的普通用戶，我不太推薦AMD GPU。

#28. 如何配置一台深度学习工作站?

如果希望一台机器同时具备8~10 个GPU 需要联系专门的供应商进行配置，并且需要专业的机房存放这些服务器，放在家里噪声很大并且容易跳闸。 CPU. 由于最近AMD 和Intel 频繁 ...

#29. 深度学习的显卡对比评测：2080ti vs 3090 vs A100 - deephub

但是在本文之前一定要说下的是：本文并不推荐现. ... 然后还会比较2022 年最流行的深度学习GPU 的性能：除NVIDIA 的RTX 3090以外还包括 ...

#30. nvidia a100 - 人氣推薦- 2022年9月 - 露天拍賣

nvidia a100 網路推薦好評商品就在露天，超多商品可享折扣優惠和運費補助。nvidia tesla a100 80g深度學習gpu計算圖形卡oem版nvidia a100 pci-e 4.0 安培張量核gpu ...

#31. 在Google Cloud Platform 上使用GPU 和安裝深度學習相關套件

最近GCP 動作頻頻，也因此想嘗試在GCP 上開GPU 機器進行深度學習(deep learning)，雖然網路上文件已經不少，不過在Create Instance 途中遇到一些小插曲，所以該篇文章 ...

#32. [译] 深度学习中如何选择一款合适的GPU 卡的一些经验和建议分享

在这些领域中，按照每GB的内存数量计算，NVIDIA Titan Xp只比GTX 1080 Ti多1GB，但在这种情况下也具有一定的优势。不推荐NVIDIA Titan X（Pascal），因为NVIDIA Titan Xp ...

#33. 深度学习工作站配置推荐 - 简书

在具体的论述之前，先说几个结论：1.目前只有Nvida GPU能完整的支持深度学习，所以请购买较新的nvidia显卡（pascal、turing架构以上）2.GPU上的投资回 ...

#34. 深度學習的完整硬體指南 - sa123

GPU 是深度學習應用的心臟——訓練過程速度的提升是非常的大的，不容忽視。 我在GPU推薦部落格中對如何選擇GPU講的非常詳細，如何選擇GPU在深度學習系統中相當關鍵。

#35. 【GPU编程系列之一】从深度学习选择什么样的gpu来谈谈gpu ...

本文首先根据显卡一些参数来推荐何种情况下选择何种gpu显卡，然后谈谈跟cuda编程比较相关的硬件架构。 从深度学习在2012年大放异彩，gpu计算也走入了 ...

#36. 深度学习台式、便携式、机架式、集群硬件配置选型2022v2(2)

No 产品型号 显存 CUDA处理器FP32性能指标 理想算法 1.1 UltraLAB GA300i 14932‑SAX 12GB 34T CNN 1.2 UltraLAB GA300i 14932‑SA2X 20GB 60T CNN高性价比 1.3 UltraLAB GA300i 14964‑SAT 24GB 36T CNN+ RNN 多用途

#37. MATLAB與深度學習 - 計中首頁

前言“深度學習”(Deep Learning)是機器學習範疇中的分支，其根源為類神經網絡(Artificial Neural Network)，利用疊加多層的網絡架構來處理複雜的非線性問題 ...

#38. 【GPU选择指南】绝佳性价比的深度学习解决方案要这么选！

对于那些只希望GPU能够顺利运行的普通用户，并不推荐AMD。但是支持AMD GPU和ROCm开发人员，会有助于稳定GPU市场价格均势，将使每个人长期受益。

#39. 2020年深度學習最佳GPU一覽,看看哪一款最適合你! - 人人焦點

大數據文摘出品. 來源：lambdalabs. 編譯：張秋玥. 深度學習模型越來越強大的同時，也占用了更多的內存空間，但是許多GPU卻並沒有足夠的VRAM來訓練 ...

#40. 深度学习的显卡对比评测：2080ti vs 3090 vs A100

但是在本文之前一定要说下的是：本文并不推荐现在就买显卡，除非必须， ... 然后还会比较2022 年最流行的深度学习GPU 的性能：除NVIDIA 的RTX 3090 ...

#41. 深度學習選GPU，RTX 20系列值不值得？(內容更新版)_新智元- 微文庫

【新智元導讀】對於深度學習任務而言，NVIDIA GeForce RTX 20系列顯示卡值不值得買？ ... （2）為了提高效能，我建議現在推薦使用（a）RTX 2080 Ti或（b）RTX2070，並 ...

#42. 4路gpu工作站-新人首單立減十元-2022年7月|淘寶海外

深度學習 工作站主機水冷雙路4顯卡多硬碟GPU伺服器靜音全塔式主機殼. Huntkey/航嘉 ... AMD執行緒撕裂者5995WX/5975WX/5965WX圖形工作站4路GPU伺服器主機. 掌櫃推薦.

#43. 做深度学习这么多年还不会挑GPU？这儿有份选购全攻略

然后我会讨论哪些GPU规格指标是深度学习性能的良好指标。 ... 总的来说，我认为对于那些只希望GPU能够顺利运行的普通用户，我不太推荐AMD GPU。

#44. Nvidia Gpu的價格推薦- 飛比價格Feebee

nvidia gpu 價格推薦共897筆。 ... nvidia Tesla P4 8G顯存深度學習卡GPU視頻編解碼編碼顯卡 ... 全新Nvidia Tesla P40 24G顯卡深度學習GPU專業V100 A100 p100.

#45. 雷蛇推Lambda Labs合作筆電，主打深度學習配有RTX 3080 ...

根據官方網站所公開的規格來看，採用Intel Core i7-11800H 處理器、NVIDIA RTX 3080 Max-Q 顯示卡、64 GB 3200MHz DDR4 記憶體、2TB PCIe 4.0 硬碟，以及 ...

#46. 請教執行AI撰寫程式碼的筆電(硬體)需求清單 - Cupoy

印象中跑深度學習需要有所謂的GPU，主要是差在顯卡的部分嗎? 而且跑機器學習的時間用CPU或GPU跑的時間似乎也有差，.

#47. 【AI60問】Q40AI深度學習開發工具有哪些？ - 緯育TibaMe Blog

它讓使用者可以混合使用符號程式設計模式和指令式程式設計模式來做最大化效率和靈活性，目前是AWS官方推薦的深度學習框架。 它是各個框架中率先支援多GPU ...

#48. 2020年人工智慧深度學習GPU 解決方案推薦 - 每日要聞

在techtestreport 的一篇顯卡橫向測評文章《Best GPU for Deep Learning & AI 》中，研究者們對比了現階段4款頂尖GPU顯卡，並測試了它們對於深度 ...

#49. 思考：2021年還可以入門深度學習嗎？ - IT人

... 研究生導師集體推薦學生轉深度學習方向、畢業論文不帶“深度學習”四個. ... 如果電腦上已經有Nvidia的顯示卡也是可以的，但要看計算能力是否足夠（ ...

#50. 深度學習的訓練資料準備與平台之演進發展- 技術探索

深度學習 演算法、大數據的值與量及GPU運算技術，是未來AI發展的關鍵 ... 大多數現今的AI系統，包含電影推薦、影像識別、語言翻譯，於線上訓練並於線上預測。亦即學習 ...

#51. 【2020】從0開始一次搞定深度學習環境

深度學習 的環境裡應該會有哪些東西? Miniconda、Jupyter Notebook、CUDA、cuDNN、TensorFlow 2.0 gpu、PyTorch …。 什麼?你說上面這些很多你完全都沒有看過，完全不 ...

#52. 2012年令深度學習和NVIDIA股價火爆起來的真正關鍵 GPU

2006年Hinton的研究只是讓深度學習有了意思曙光；直到加上GPU強大的運算 ... 和GPU 平行運算的效能差異（還被NVIDIA官方頻道貼出來lol），推薦讀者 ...

#53. 深度学习常用显卡比较_studyeboy的博客-程序员宅基地

Titan RTX深度学习评测结果NVIDIA TITAN RTX 专为数据科学、AI 研究、内容创作和通用GPU 开发而构建。 ... 技术标签： 深度学习 GPU ... 推荐开发者使用的GPU

#54. 使用Anaconda 建置RTX 3000 系列的Tensorflow 深度學習環境

日前Nvidia 新一代Rtx 3000 系列顯示卡造成搶購熱潮，但許多人購入Rtx 3090 後，卻發現目前Tensorflow 正式版本尚不支援Rtx 3000 系列，因此環境建置 ...

#55. 高效能GPU 加快執行AI、機器學習、遊戲在雲伺服器的運算速度

有效將機器學習時間從幾天減至幾分鐘，從而令研究人員和開發人員能夠從深度學習中獲取更快，更準確的信息。 平行計算. 通過利用GPU 數目眾多的CUDA 核心，需要高度資源的 ...

#56. 深度學習：硬體設計 - 博客來

深度學習 成功解決許多電腦上的難題，並廣泛應用於日常生活中，例如：金融、零售和醫療保健等。本書從中央處理器(CPU)、圖形處理器(GPU)和神經網路處理器(NPU)，到各種 ...

#57. 基于CPU的深度学习推理部署优化实践 - 爱奇艺

随着人工智能技术在爱奇艺视频业务线的广泛应用，深度学习算法在云端的部署对计算资源，尤其是GPU 资源的需求也在飞速增长。如何提高深度学习应用部署 ...

#58. AMD 顯卡/GPU 深度學習折騰指南 - 台部落

瞭解了以上內容，下面開始安裝ROCm。 系統準備. 推薦Ubuntu 16.04 或18.04， 筆者是18.04. 確保系統在最新狀態，安裝libnuma，再重啓：

#59. GPU在外卖场景精排模型预估中的应用实践

本文分享了美团外卖搜索/推荐业务中模型预估的GPU架构设计及落地的过程 ... 团外卖搜推场景的深度学习体系开始逐步从纯CPU架构走向CPU+GPU的异构硬件 ...

#60. 11 | 深度学习与硬件：GPU-极客时间

本视频为极客时间出品的课程——NLP实战高手课其中一讲内容，主要内容是11 | 深度学习与硬件：GPU.

#61. 个人学深度学习买哪一款GPU 性价比最高？ - V2EX

除了Nvidia 外，那些杂牌显卡（七彩虹、微星之类）能用来做深度学习吗？ ... 个人学深度学习买哪一款GPU 性价比最高？ ... cuda 上有推荐的…

#62. 深度学习平台- 超益集伦

概述; 产品构架; 核心功能; 推荐机型; 成功案例. 深度学习平台介绍 ... AI Max是一款基于Kubernetes+Docker+GPU架构，定位于机器学习的上层应用，免去客户编写代码的 ...

#63. 2022適合人工智慧和機器學習的電腦硬體配置，速來看 - 頭條匯

GPU 一直是大多數AI 工作負載的主力，英偉達通過Tensor Cores、多實例GPU（並行運行多個進程和NVLink GPU 互連）等功能顯著提高了它們的深度學習性能。然而，對速度和效率 ...

#64. 深度學習GPU最全對比，到底誰才是性價比之王？ - 壹讀

對於那些只希望GPU能夠順利運行的普通用戶，Tim並不推薦AMD。但是支持AMD GPU和ROCm開發人員，會有助於打擊英偉達的壟斷地位，將使每個人長期受益。

#65. 請推薦寫深度學習相關程式的筆電 - Mobile01

大家好近期需購買一台需寫深度學習相關的程式的筆電(Python 3.6+ tensorflow-gpu Kerala-gpu等等）作業系統win10即可尺寸不限，不過會長期頻繁攜帶， ...

#66. 深度学习显卡选型指南:关于GPU选择的一般建议 - 勇哥

总的来说，对于只是希望模型能在GPU上稳稳当当跑完的普通用户，目前我还找不到推荐AMD的理由，选N卡是最合适的。但如果你是GPU开发者或是希望对GPU计算做 ...

#67. 為什麼僅GeForce RTX40顯示卡支援DLSS 3深度學習 ... - 聯合報

正式揭曉GeForce RTX40顯示卡之後，NVIDIA進一步解釋其DLSS 3實際運作原理，同時也說明為什麼GeForce RTX30以前的顯示卡無法相容此項技術。

#68. NVIDIA推GPU電腦DGX-1 加速企業運用深度學習 - 網管人

NVIDIA 推GPU電腦DGX-1 加速企業運用深度學習. 今年3月，Google人工智慧圍棋程式AlphaGo挑戰南韓圍棋九段棋手李世，這場人機之間的對弈受到眾多矚目，最終AlphaGo在五局 ...

#69. 深度学习GPU最全对比，到底谁才是性价比之王？ | 选购指南

对于那些只希望GPU能够顺利运行的普通用户，Tim并不推荐AMD。但是支持AMD GPU和ROCm开发人员，会有助于打击英伟达的垄断地位，将使每个人长期受益。

#70. nvidia 全攻略(994) - Cool3c

為您獻上所有nvidia的相關文章，Cool3c資訊最齊全，從新到舊通通一把罩！ (994) ... 黃仁勳解釋當前CPU、GPU 產品命名原則強調與諸多市場供應鏈維持深度合作.

#71. 如何选择GPU 搭建深度学习机器 - Clay 的技术博客

本文主要介绍如何选择GPU搭建深度学习机器。 ... 深度学习（DL）是机器学习（ML）的一个分支，深度学习使用神经网络来解决问题。 ... 一句话推荐总结.

#72. 入门必读！一堂来自NVIDIA的深度学习公开课 - 智东西

3月20日，智东西与NVIDIA共同策划的「NVIDIA公开课」在深度学习社群开讲，主讲嘉宾为NVIDIA（英伟达）大中华区高性能计算及Applied Deep Learning部门 ...

#73. Re: [菜單] 200K深度學習機- 看板PC_Shopping - 批踢踢實業坊

我不知道版上有多少人真的在深度學習說不定我也沒有玩過上來唬爛一通下面 ... 做其他運算非深度學習無GPU加速的機器學習算法也可以跑GPU運算是需要CPU ...

#74. 11.5. GPU购买指南 - 动手学深度学习

因此，GPU数量可以看作是衡量一台服务器的深度学习计算能力的一个指标。 ... 但如果GPU要同时显示图形界面，那么推荐的显存大小至少为6 GB。显存带宽通常相对固定， ...

#75. 飞桨AI Studio - 人工智能学习实训社区

系统学习路径, 从小白成长为大牛 ... 从入门到工业实践, 快速提升深度学习技术能力 ... 精品课程, 助力AI学习. 联手知名院校, 携同优秀讲师, 一站式实训教学. 课程推荐.

#76. 深度學習裝機指南：從GPU到顯示器，全套硬體最新推薦

深度學習 裝機指南：從GPU到顯示器，全套硬體最新推薦. 公開日: 2018-12-17. 曉查安妮郭一璞發自凹非寺. 量子位報導| 公眾號QbitAI. 硬體設備，是任何一名深度學習er ...

#77. Dell Precision 工作站所提供的人工智慧(AI) 技術

我們的Dell Precision 工作站提供部署及管理認知技術平台的強大功能，包括機器學習 (ML)、人工智慧(AI) 和深度學習(DL)。我們與NVIDIA 等特定業界合作夥伴協力合作， ...

#78. Intel Arc顯卡、AI訓練模型與晶片製造合作模式 - Yahoo奇摩新聞

此外，intel還公開首款針對遊戲用途的Intel Arc GPU與新的Intel Geti 平台讓 ... D處理器、Habana Gaudi 2深度學習加速器，Intel Data Center GPU（ ...

#79. NVIDIA旗艦卡王RTX 4090售價破五萬效能翻4倍十月開賣

DLSS 3 採用全新第四代Tensor 核心及GeForce RTX 40 系列GPU 的全新光流加速器，是NVIDIA 廣受好評的深度學習超高取樣技術的最新版本，亦加入名為光學多畫 ...

#80. NVIDIA推DLSS3 效能達前一代技術四倍 - 工商時報

DLSS3採用全新第四代Tensor核心及GeForce RTX40系列GPU的全新光流加速器（Optical Flow Accelerator），是NVIDIA廣受好評的深度學習超高取樣技術的 ...

#81. NVIDIA 發表RTX 4090 新旗艦顯卡10 月中旬上市、售價超過5 ...

GeForce RTX 4090 GPU 是全新GeForce RTX 40 系列的旗艦級產品， ... 3 ── NVIDIA 針對遊戲和創意應用程式推出的深度學習超高取樣神經繪圖技術。

#82. TensorFlow

An end-to-end open source machine learning platform for everyone. Discover TensorFlow's flexible ecosystem of tools, libraries and community resources.

#83. 【艾讯发表双GPU扩充工业级AI边缘运算平台IPC972加速人工 ...

支持2组NVIDIA® GeForce RTX 3090 GPU卡，能够同时间进行绘图处理、实时控制、数据分析、深度学习、自动光学检测、数据撷取以及更多自动化关键任务。

#84. 英特尔On技术创新峰会：助力开发者解决当前和未来的挑战

英特尔披露了数据中心GPU产品线的重要里程碑，并介绍了面向游戏玩家的第 ... Gaudi® 2深度学习加速器、英特尔®数据中心GPU（代号为Ponte Vecchio）和 ...

#85. NVIDIA GeForce RTX 40系发布最快10月12日上市12999元

黄仁勋还宣布NVIDIA DLSS 3--用于游戏和创作应用的Deep Learning Super Sampling深度学习超级采样是神经网络图形技术的下一次革命。

#86. 深度学习- 程序员秘密

深度学习 工作站配置推荐. 标签： 深度学习需要计算机配置. 目前只有Nvida GPU能完整的支持深度学习，所以请购买较新的nvidia显卡(pascal、turing架构以上)2.

#87. 英伟达向台积电下超级急单官宣了，H100 GPU全面投产

深度 神经网络、数据分析、可视化、互联网推荐算法、数字孪生等均离不开GPU。 ... 最新的 H100 GPU，帮助他们加速最为复杂的机器学习和 HPC 工作负载。

#88. 做创意不加班！有GeForce RTX 3060硬件加速的ROG创作本 ...

NVIDIA DLSS（深度学习超级采样）是一项突破性的AI渲染技术，它利用GeForce RTX™ GPU 上的专用AI 处理单元- Tensor Core 将视觉保真度提升至全新高度 ...

#89. 英特尔CEO基辛格：五大“超级技术力量”释放全新可能性 - 砍柴网

... 强®处理器、英特尔®至强®D处理器、Habana® Gaudi® 2深度学习加速器、英特尔®数据中心GPU（代号为Ponte Vecchio）和英特尔®数据中心GPU Flex系列。

#90. 一块GPU，每秒20个模型！英伟达新玩具用GET3D造元宇宙

他的研究主要集中在深度学习（DL），目标直指结构化几何表示学习。同时，他的研究还从人类对2D和3D图像、视频的感知中获得见解。

#91. NVIDIA Hopper 全面投产 - 电子工程世界

NVIDIA 创始人兼首席执行官黄仁勋表示： “Hopper 是AI 工厂的全新引擎。 ... 为解决这一问题，一些全球领先的大型语言模型和深度学习框架正在H100 上 ...

#92. Netron下载

今天推荐一款用于模型识别的工具Netron下载地址Netron_github安装选择自己对应的 ... 开源| 深度学习网络模型(model)可视化开源软件Netron，前言前两天，Amusi分享了 ...

#93. CPU vs. GPU：差異是什麼？ - Intel

瞭解CPU 與GPU 之間的差異、探索用途與架構優勢，以及兩者在加速深度學習與AI 方面扮演的角色。

#94. [情報] 從EVGA 分手NVIDIA 看板卡廠困境PTT推薦PC_Shopping

從EVGA 分手NVIDIA 看板卡廠困境作者朱熹| 發布日期2022 年09 月27 日7:45 | 分類GPU , PCB , 零組件日前 ... overno09/28 18:05就N家才有深度學習啊.

#95. 加碼創新英特爾展現“芯”實力 - 日日新聞

8月發佈的英特爾數據中心GPU Flex系列，為客戶提供了基於單一GPU來滿足廣泛智能視覺雲工作負載需求的解決方案。它還將支持時下熱門的行業AI和深度學習 ...