輝達(Nvidia)的A100、H100等兩款高階圖形處理器(GPU)有領先業界的強大效能,H100更獲得AI晶片全球最大市佔,輝達在13日趁勝追擊,推出升級版的新晶片H200。綜合媒體報導,多家美國科技大廠都有計畫,明年開始使用該款新晶。
綜合媒體報導,與H100相較,H200有更高頻寬的內存,且運算是H100近兩倍速,另外與H100相容,也就是說已使用H100的的AI公司無須改變伺服器系統或軟體,可更容易接軌H200。
報導說,以H100晶片而言,全球OpenAI公司都借其效能訓練其最先進的大型語言模型(LLM),且市場供不應求,大公司、新創公司與政府單位,甚至是中國黑市都在搶奪有限的H100晶片。
報導說,升級版的H200可讓創造的AI模型,以及服務的資料集的規模跟上速度,且其訓練AI執行識別圖像,以及語音等任務過程的速度也會變得更快。
已有多家企業計畫使用H200,報導說,亞馬遜的AWS、Alphabet的Google Cloud,以及甲骨文的雲端基礎礎設施(Cloud Infrastructure)等美國科技大廠都承諾,明年將開始使用該款新晶片。H200預計於明年第2季出貨。