2025年1月28日 星期二

Data Center is the new unit of computing

 「NVIDIA的佈局」

早在2021年前後,NVIDIA發布GPU、CPU、DPU的Roadmap圖時,其實已經揭示了未來的整體佈局。
不過,有趣的是,當時大部分人都還在討論摩爾定律的下一步,電晶體的微縮還能持續多久,其實還沒有意識到這整體晶片架構的創新將會翻轉接下來的半導體產業。
▌Jensen Huang: Data Center is the new unit of computing
而Jensen Huang在2020年的GTC就已經描述:”Data Center is the new unit of computing”
這不只是一個技術上的描述,這句話其實隱含了技術可能的演進,還有下一波半導體需求的重要方向。
有趣的是,當時大部分人其實都還沒能完全理解NVIDIA的Vision,而是單純的猜測NVIDIA做Grace CPU的目的可能是為了做CPU市場。
但其實,NVIDIA對未來的趨勢,早就有了巧妙的佈局。
如果我們仔細觀察NVIDIA GTC大會的每一個片段,我們就會發現NVIDIA其實將其策略切分在每個building block (積木) 裡。
而將他們的每個積木組合在一起,我們會發現,”Data Center as a Service”才是NVIDIA的目標。
▌BLUEFIELD DPU (Data Processing Units) 的出現實現了Programmable Data Center
而當時我們認為很新的DPU (Data Processing Units) 的概念出現,就變得一點也不奇怪。
因為,如果要將運算的單位,從晶片變成Data Center的話,就會需要有一個Data Center和人對接的晶片介面,而這個晶片需要比CPU更優化在Data Center的管理上,才能讓Data Center的性能和管理,提升到另一個檔次。
所以,NVIDIA當時會推出名叫BLUEFIELD的DPU晶片,就非常合理了。DPU的出現讓Programmable Data Center變得更容易實現。
而一旦Data Center能變成Programmable,能用software define的話,整體的管理成本就能夠大幅下降。
▌NVIDIA的商業佈局
如果將GPU、CPU、DPU、軟體架構、Omniverse…..等Building block合起來看,我們就會發現NVIDIA的這個商業佈局是非常巧妙的。
因為這些元素不僅僅能夠獨立運作和銷售,也能夠全部整合在一起變成一個雲端的AI服務。
而到現在,因為ChatGPT市場大爆發的關係,NVIDIA才因為過去的佈局,一次被推上風口浪尖。
從最近產業結構的大轉變我們可以知道,如果你想要了解未來AI晶片的發展,其實重要的不只是要了解晶片本身,更是要了解整個Data Center的設計。因為,Data Center才是高速運算的新單位。
而NVIDIA佈局的厲害之處其實在於,在好幾年前他們就已經發展了整體一致性的架構,來貫串整個Data Center中的所有元素。
可以說,NVIDIA的創新不只是在晶片層次上,而是在架構上面,而這種佈局,是很讓人敬佩的。
接下來的十年,AI相關晶片的發展將會是半導體產業最大的驅動力,而如果你想了解AI晶片相關的發展的話,從Data Center的視角切入,來了解中間的重要組成元素,會是一個較好的方向。
而為了讓大家能夠快速抓到未來的重點,經過半年的準備,我們特別將我們對AI晶片相關技術及產業的觀察,整理成這次「AI晶片的未來發展」的Talk。
我們會從AI晶片設計的邏輯變化談起,再討論與其相關的半導體產業前沿可能的發展,對這個題目有興趣的版友,歡迎參加。
我們的討論,會包含以下幾個和AI晶片相關的重要題目:
▌Topic 1: From AI Chips to AI Systems (從AI晶片到AI系統)
▌Topic 2: Custom Chip Design (客製化晶片)
▌Topic 3: Scale up & Scale out (AI系統的縱向擴展和水平擴展)
▌Topic 4: Memory Trend (記憶體趨勢)
▌Future Development of AI chips (AI晶片的未來發展)
最後,我們會總結我們在AI晶片相關領域看到的一些未來發展趨勢,並結合前面的內容,讓大家更理解未來AI晶片相關的前沿領域會如何發展。
有參加過我們Talk的朋友應該都知道,我們不會單純講一些表面的東西,而是會深入的講解產業的邏輯和深入淺出的拆解相關技術,不會讓大家失望。
▌「AI晶片的未來發展」Talk資訊:
- 講者:Redefine Innovation 顧問服務負責人 Vince Liu(前ASML荷蘭總部產品經理)
- 形式:線上課程,隨選即放(本活動已經上架線上課程平台,報名後1週內會收到線上課程平台權限,兩週內不限次數觀看)
- 內容:含永久講義權限&兩週影片回放權限

沒有留言: