微軟 Bing 搜尋引擎整合 ChatGPT,加上其他生成式 AI 工具的需求攀升,都相當依賴人工智慧處理能力,正是 NVIDIA GPU 優勢所在。當科技公司利用 NVIDIA GPU 滿足增長的 AI 需求,市場恐怕又要面臨 GPU 供貨短缺問題,尤其又會先擠壓遊戲玩家需求。
NVIDIA GPU 能高效運算,支援 AI 模型用 GPU 運算的 CUDA(Compute Unified Device Architecture,統一計算架構),因此廣泛應用於深度學習領域。FierceElectronics 網站報導,ChatGPT 初期在 1 萬個 NVIDIA GPU 訓練,自從獲得大眾關注後,系統不堪負荷,無法滿足龐大用戶需求。故 OpenAI 推出全新 ChatGPT Plus 訂閱服務,不僅能讓付費用戶尖峰時段優先造訪 ChatGPT,且回應時間更短,並能先使用最新功能。
產業分析師估計,目前 ChatGPT 模型在約 25,000 個 NVIDIA GPU 訓練,比初期測試 1 萬個 NVIDIA GPU 高許多。
微軟和 Google 雙雙宣布將類似 ChatGPT 的 LLM(對話式大型語言模型)整合至自家搜尋引擎。如 Google 要將 AI 模型整合至搜尋結果,估計需要 512,820 台 A100 HGX 伺服器及 4,102,568 個 A100 GPU。光伺服器和網路成本,資本支出就高達 1,000 億美元(約台幣 3 兆元)左右。
生成式 AI 大爆發對 NVIDIA 來說是利多消息,但對消費市場尤其遊戲玩家,恐怕不算好消息。NVIDIA 有可能優先供貨給生成式 AI 的科技公司,排擠遊戲玩家需求。今年第一季因農曆新年使遊戲顯卡供應受限,儘管庫存問題仍在,但可能為已短缺的高階 GPU 增加供貨問題。
高階 GPU 提供 AI 功能,使 NVIDIA 有利可圖,可能為了滿足不斷增長的生成式 AI 而有供貨短缺問題。NVIDIA 如何因應 AI 領域龐大需求有待觀察,而 2 月 22 日其將公布 2023 財年第四季財報,屆時有望透露更多未來營運展望。