英偉達最大的對手出現了

2023-07-20 21:11:29 字數 3178 閱讀 8255

作者 | 周智宇。

編輯 | 張曉玲。

一周漲價30%,單片售價超十萬。人工智慧的火熱,晶元的短缺,讓英偉達a800成了市場上炙手可熱的硬通貨。

趁此東風,英偉達ceo黃仁勳一舉成為和馬斯克並肩,最受矚目的企業家之一。英偉達的市值也飆公升至1.17萬億美元,成了市場上最熱門的科技公司。

然而一面是高階ai晶元的稀缺,一面則是「百模大戰」,下游對算力需求高漲。面對才不過剛剛起勢的市場,大大小小的競爭對手們,都在奮力追趕。它們希望打破眼下「ai晶元=英偉達」的格局,從這個萬億級的市場裡分得一杯羹。

就在7月11日,英特爾在北京發布了專供中國市場的ai處理器gaudi 2,它對標英偉達100系列,專為訓練大語言模型而構建。

gaudi 2的推出,意味著ai晶元市場裡又有一位巨頭下場。在英特爾之前,amd也推出了自家的ai產品。英偉達、英特爾、amd這三家從pc時代就鏖戰不止的晶元三巨頭,又在ai時代裡正面交鋒。

ai晶元市場裡不會一家獨大,隨著一位位巨頭入場,一場全新的競逐,開始了。

藉著推出gaudi 2,英特爾向英偉達發起了正面進攻。

pc市場萎縮以及資料中心業務走軟,讓英特爾業績承壓。原本是伺服器晶元市場「一哥」的英特爾的市場份額,被amd等競爭對手蠶食。人工智慧浪潮帶來對算力的需求,則讓英特爾看到了新的發力點。

gaudi2由英特爾2023年斥資20億美元收購的ai初創公司habana labs 設計,從推出的一開始,gaudi平台就是為雲端和資料中心提高深度學習訓練效率而構建。

發布會現場,英特爾公司執行副總裁、資料中心與人工智慧事業部總經理sandra rivera花了大量時間介紹gaudi 2的效能,對比的物件,就是英偉達高階gpu a100和h100。

從演示的資料看,比如說bert模型預訓練,gaudi 2 的效能是英偉達a100的1.7倍。至於更先進的英偉達h100,habana labs的首席運營官eitan medina表示,gaudi 2 是目前為能夠替代英偉達h100進行llm訓練的「唯一替代品」。在mlperf 3.0 基準測試中,僅有gaudi 2 與h100能夠進行gpt-3訓練。

從目前的資料來說,基於 gpt-3模型訓練,gaudi 2與h100尚有一定差距,單個h100的效能是gaudi 2的3.6倍。不過eitan medina表示,隨著9月英特爾發布對fp8的軟體支援與新功能,gaudi2的價效比預計將超越h100。

價效比,是gaudi 2對抗英偉達100系列的乙個核心優勢。eitan medina告訴華爾街見聞,gaudi2在執行resnet-50時,每瓦效能約是英偉達a100的2倍,執行 1760 億引數 bloomz 模型的每瓦效能,則大概是a100 的1.6倍。

也就是說,在提供不錯的效能的同時,gaudi 2在能耗上明顯優於英偉達a100,並且gaudi 2也能從價效比層面挑戰h100。英特爾也藉此成為目前一眾英偉達的挑戰者中,最具競爭力的對手。

儘管同a100類似,gaudi 2為了符合美國工業與安全域性相關規定,與國際版存在差別。不過eitan medina表示,中國版gaudi 2在整體效能上與國際版差別不大。明年計畫推出的5nm gaudi 3,也會在合規的情況下,提供給中國客戶。

目前,英特爾已經與浪潮資訊、新華三和超聚變等國內伺服器廠商,以及智慧型雲等公司展開合作。浪潮資訊副總裁、浪潮ai&hpc產品線總經理劉軍也表示,聯合英特爾發布新一代ai伺服器nf5698g7,支援8顆gaudi2。

此外,sandra rivera透露,到2023年的時候,英特爾會把gaudi的ai晶元和gpu兩條產品線進行整合,屆時會推出乙個更完整的下一代gpu產品。通過廣泛的產品線,滿足各種不同的需求。

英特爾不是首家向英偉達發起衝鋒的晶元巨頭。

去年6月,amd也推出cpu+gpu架構的instinct mi300,進軍ai訓練市場。隨後在今年6月,amd又通過祭出高達192 gb hbm記憶體的mi300x,進一步為滿足大模型訓練進行優化。

amd的資料中心硬體主管forrest norrod稱,chatgpt引領的ai熱潮讓amd也感到意外。業內還是迫切希望英偉達有乙個競爭對手,能夠在英偉達的晶元之外,還有乙個替代的選項。

事實也是如此。日益增長的大模型訓練需求,與產能受限,讓英偉達充滿了「幸福的煩惱」。英偉達方面透露,其訂單已經排至2023年,像h100在明年一季度之前都處於售罄狀態。

前不久的世界人工智慧大會(waic)上,清華大學電子工程系主任汪玉也強調了目前算力資源的緊張。他表示,部署成本高、模型算力缺口大以及國產晶元生態需要擴張和構建,是目前大模型落地的三大挑戰。

算力需求持續增長,以及大模型玩家渴望通過使用更優秀產品,以減少與openai等廠商算力支援差距,都讓市場裡對算力的需求高企。半導體市場裡的玩家也隨之迎來全新的機遇。

sandra rivera表示,在一季度,人工智慧帶來的晶元需求,讓英特爾包括gaudi在內的產品需求翻了至少兩倍。此外,在ai用例及市場需求爆發式增長的時候,**至強處理器也有很好的市場迴響。

按照摩根史坦利的預計,包括英偉達和amd的gpu、ai計算專用晶元以及這些晶元的外包生產在內,今年全球ai計算半導體市場年銷售規模大概會在430億美元。四年內,全球ai計算半導體市場銷售額會達到1250億美元。這在全球半導體受消費電子銷售放緩,收入下降預期中,是乙個增長的亮點。

這個萬億人民幣的市場,也自然吸引了大小玩家,前赴後繼地蜂擁而入。他們相信,市場裡不止有乙個英偉達。

英偉達確實有自己的壁壘。gpu相比cpu在平行計算能力、記憶體頻寬等效能和浮點運算速度上具備明顯優勢,英偉達也藉此在模型訓練和推理上先行一步,領先了amd和英特爾等玩家。英偉達統一計算設計架構cuda也靠著封閉的生態,形成了自己的軟體生態,繫結了百萬計的開發者。

sandra rivera也承認,在目前進行人工智慧、ai運算的時候,很多人都在用cuda。然而在她的觀察中,很多大模型的開發者不會做這麼底層的開發,會在pytorch、tensorflow上做創新。

這也是英特爾等玩家的機遇。sandra rivera認為,軟體開發或者開發者生態一直是英特爾的強項,在資料中心領域,除了cuda,就是英特爾的x86軟體生態。英特爾則希望為擺脫封閉生態系統,尋求效率與規模的的客戶提供更具競爭力的選擇。

除了英偉達、amd和英特爾三個晶元巨頭,市場上仍有大玩家摩拳擦掌,準備下場。馬克·扎克伯格旗下的meta platforms在7月18日宣布,將攜手高通,採用高通晶元,以在手機和個人電腦上執行meta新大型語言模型llama 2;馬斯克也在xai會議上表示,準備自研ai晶元。

在火熱的「百模大戰」之外,硬體端的戰役也已打響。傳統晶元巨頭和不斷湧現的新玩家們在ai上戰得火熱,如今浪潮初起,一場全新領域裡的王者之爭,方拉開序幕。

圍剿英偉達,華為 微軟 AMD都出牌了

chatgpt的爆紅讓英偉達賺的盆滿缽滿,據 透露,英偉達用於ai和高效能運算應用的h100 gpu早已銷售一空,即便現在交錢訂貨,也要等到明年中旬才有貨。英偉達的gpu不僅不愁賣,實際售價也水漲船高。市面上,h100 gpu已是原價2萬美元的兩倍,約為 29 萬元人民幣。據 金融時報 報道,今年8...

英偉達的AI狂飆才剛開頭

世界上的很多人或許認為,英偉達借力ai熱潮過得風生水起是個新現象。但實際上這醞釀已久,並且很可能還會持續一段時日。樂享週末分享吧 英偉達在人工智慧領域已經摸爬滾打了十多年。據標普全球市場財智 s p global market intelligence 彙編的記錄,英偉達早在2006年就開始向投資者...

英偉達GH2000晶元發布 超越極限的新一代

英偉達推出ai超級晶元gh200 最近,英偉達創始人兼ceo黃仁勳發布了乙個令科技界炸開了鍋的訊息 gh2000 grace hopper超級晶元即將面世!這一訊息對於全球科技行業無疑是乙個重大利好,也是英偉達繼turing ampere後的一次又一次突破。gh2000晶元代表了技術發展的最高水平,...