產業脈動｜NVIDIA機器人技術與臺灣的機會

強化AI算力的超級晶片系統

黃仁勳在NVIDIA的GTC大會上說到「我們需要更強大的繪圖處理器(GPU)，我想向大家介紹一款非常強大的GPU」。這款新的人工智慧晶片名為「Blackwell B200」。根據NVIDIA的說法，Blackwell B200的算力為20 PetaFLOPS(每秒可執行 20×1015 次浮點運算)，比起上一代Hopper H100晶片，Blackwell晶片在運行基於OpenAI的GPT-4等大型語言模型的生成式AI服務時，性能提高30倍，同時能耗降低25倍。黃仁勳說這款造價不斐的晶片將會是推動新工業革命的引擎。他強調隨著Transformer模型(大型語言模型例如BERT、GPT，都是基於Transformer架構)被發明，為了訓練這些愈來愈大的模型，需要更強的算力。

NVIDIA過往使用8,000張Hopper GPU，訓練一個1.8兆參數量的GPT模型，需要消耗15兆瓦的電力，連續跑上90天；但若使用Blackwell GPU，只需要2,000張，同樣跑90天只要消耗四分之一的電力，不只是訓練，生成Token(代碼)的成本也會隨之降低。不過Blackwell B200並非是Hopper H100的升級，因為人工智慧大模型不僅要求晶片有計算能力，更要求晶片具有並行能力：實現多層的平行計算、層之間的通訊。Blackwell B200能優化張量並行、專家並行、管道並行和資料並行等方案，在可程式設計的基礎上令計算更快，性能更佳。NVIDIA上一代價格4萬美元的Hopper H100晶片，曾被Tesla執行長馬斯克稱為「比毒品還難買的產品」，它可說是世上第一塊為生成式AI設計的晶片。

GB200 Grace Blackwell Superchip超級晶片系統包含2 顆 NVIDIA B200 Tensor Core GPU 以及NVIDIA Grace CPU，整個系統有2,080億個晶體管，為了處理大規模資料中心的GPU互連，NVIDIA還推出了第五代的NVLink，其可以為每個GPU提供1.8 Tb/s的輸送量，以確保複雜的大型語言模型能在眾多GPU間高速通訊。黃仁勳揭露微軟Azure、AWS、Google、OpenAI、ORACLE、Tesla、Dell等眾科技巨頭，都是超級晶片系統的使用者。

NVIDIA的數據中心和機器人技術

Blackwell是NVIDIA新一代晶片的名稱，它是上一代Hopper晶片的後繼產品，自2022年底AI需求爆發以來，Hopper H100晶片一直供不應求。NVIDIA表示從現在開始將為人工智慧發展所需要的數據中心提供更多的設備和軟體，且要以可負擔的價格吸引大家使用(目前推估Blackwell晶片價格至少5萬美元)。黃仁勳提到「全球已安裝的數據中心約有1兆美元。2023年全球數據中心的市場規模約為2,500億美元，看好未來每年以20%的幅度成長」；高速運算的需求和生成式AI的火熱致使他認為目前為數據中心提供GPU和軟體的NVIDIA公司將可以在此市場中佔有更大的比重，GPU圖形處理單元晶片已成為生成式AI計算主力，可為ChatGPT等工具提供複雜數學運算。

NVIDIA把數據中心(系統和軟體)視為自己的核心賣點，黃仁勳也表示「NVIDIA不賣晶片，NVIDIA賣的是數據中心」。以此解讀5萬美元將不只是Blackwell晶片產品的價格，而是數據中心服務的價格：網路、儲存、控制、安全和管理模組，都會整合到客戶的系統之中。受益於AI發展的熱潮，NVIDIA在AI晶片佔有全球8成的市場，當然它也面臨著日益激烈的競爭，像是Intel與AMD這些知名的競爭對手，以及包括Cerebras、Groq和SambaNova Systems這些晶片公司。黃仁勳還談到了他對一些更遙遠技術的願景，包括藥物發現、基因組學和人型機器人，在他的GTC發表會上有多個人型機器人圍繞在這位執行長身旁。

GTC大會上的一個軟硬體整合產品「Project GR00T」，黃仁勳說這個產品是「創建人形機器人所需的技術」。在他身後的一排人形機器人更是GTC大會的焦點，他說「在我們的世界裡，人型機器人很有可能會發揮更大的作用，包括設置工作站、製造和物流的方式，都將帶來革命性改變，NVIDIA推出的人型機器人通用基礎模型 Project GR00T，可進一步帶給機器人技術和具身智慧(Embodied AI)的突破」。GR00T包括機器人所需的電腦和AI系統、生成式AI軟體，讓機器人學習各種狀態的應對，遇到事先無程式設定好的狀況，機器人也能自己立刻學習達到目的，變成智慧機器人。也就是由 GR00T驅動的機器人能理解自然語言、影像，透過觀察人類行為來模仿動作強化能力。