南方財(cái)經(jīng)全媒體記者江月 上海報(bào)道5月29日在臺北國際電腦展上,英偉達(dá)創(chuàng)始人兼CEO黃仁勛宣布:“CPU擴(kuò)張的時(shí)代已結(jié)束?!闭麍龀掷m(xù)了2小時(shí)的演講中,他圍繞著生成式AI帶來的“觸發(fā)點(diǎn)”,將英偉達(dá)近期的硬件、軟件、系統(tǒng)新品進(jìn)行了一番兜底式介紹。
黃仁勛稱,GPU塑造的“新計(jì)算機(jī)”到來了。由英偉達(dá)打造的新型“計(jì)算機(jī)”,形態(tài)已經(jīng)不同以往,它的單臺售價(jià)高達(dá)20萬美元。在“昂貴”的爭議之中,黃仁勛又稱,GPU是每個(gè)電力預(yù)算有限的公司之不二選擇,也是最“省錢”的基建選擇。
(資料圖)
黃仁勛近期在公開演講中稱,面對AI時(shí)代,人們需要“奔跑、而不是慢慢地走”。在生成式AI的花園里,英偉達(dá)顯然正在奮力挖掘中。
解碼GPU數(shù)據(jù)中心成本
“大家總是說GPU數(shù)據(jù)中心很貴,讓我來算給你看?!?月29日,英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛在臺北國際電腦展上,向公眾具體地介紹了GPU數(shù)據(jù)中心的成本。
在此次與供應(yīng)商、客戶的見面中,英偉達(dá)帶來了全新的AI“計(jì)算機(jī)”DGX GH200。這是一款集成了256個(gè)英偉達(dá)最高性能CPU和GPU的超級計(jì)算機(jī),能滿足“超大大模型”的訓(xùn)練需求。
DGX GH200使用英偉達(dá)NVLink-C2C互連技術(shù),將基于Arm的Grace架構(gòu)CPU和Hopper架構(gòu)GPU進(jìn)行架構(gòu)互聯(lián),實(shí)現(xiàn)了高達(dá)900GB/s的總帶寬,比傳統(tǒng)加速系統(tǒng)中的標(biāo)準(zhǔn)PCIe Gen5通道高出7倍,這種算力能夠滿足眼下要求最苛刻的生成式AI和HPC應(yīng)用。
(圖為英偉達(dá)于5月29日公布的GH200 Grace Hopper超級芯片,由英偉達(dá)公司供圖)
隨著市場對數(shù)據(jù)中心基建需求的增長,英偉達(dá)眼下也需要向市場施展一些“銷售手段”。最迫切的需求,就是化解人們對其設(shè)備“昂貴”的恐懼。
簡單來說,“使用GPU數(shù)據(jù)中心,你可以獲得150倍的性能,并省下2/3的成本。”黃仁勛稱。
黃仁勛介紹,以同樣的1000萬美元預(yù)算為例,AIGC開發(fā)商可以搭建一個(gè)由960個(gè)CPU服務(wù)器組成的數(shù)據(jù)中心,這足以訓(xùn)練1個(gè)大語言模型,最終的運(yùn)營消耗是11千兆瓦時(shí)電力(GWh,相當(dāng)于1100萬度電)。
但若換做GPU,則可搭建一個(gè)由48個(gè)GPU服務(wù)器組成的數(shù)據(jù)中心,不過這個(gè)數(shù)據(jù)中心可以訓(xùn)練44個(gè)大語言模型,總共消耗3.2千兆瓦時(shí)(相當(dāng)于320萬度電)。
按照上面的計(jì)算方法,按照單片價(jià)格計(jì)算,一片GPU芯片的價(jià)格是一片CPU的20倍,似乎“更貴”。不過,如果按照數(shù)據(jù)中心TCO成本計(jì)算法,則GPU數(shù)據(jù)中心更“省錢”。
黃仁勛甚至直接在演示PPT中列出了一個(gè)公式:數(shù)據(jù)中心持有成本=f{硬件成本(芯片、系統(tǒng)、硬件生態(tài)系統(tǒng)),吞吐量(GPU、AIgo軟件、網(wǎng)絡(luò)、系統(tǒng)軟件、軟件生態(tài)系統(tǒng)),使用率(AIgo Lib、軟件生態(tài)系統(tǒng)),采購運(yùn)營,生命周期最佳化,算力},從而解釋了數(shù)據(jù)中心的TCO成本問題。
“為什么這非常重要?因?yàn)楝F(xiàn)實(shí)生活中大多數(shù)企業(yè)都有電力限制?!秉S仁勛再次強(qiáng)調(diào)。如果加上這一客觀因素,企業(yè)在投身AIGC時(shí),就必須選擇更高效、更低功耗的數(shù)據(jù)中心產(chǎn)品。
為何GPU在數(shù)據(jù)中心中的性能如此強(qiáng)大?黃仁勛介紹,這主要?dú)w功于三大功能:光線追蹤(模擬光的特性)、以張量計(jì)算為核心的人工智能和全新的算法。
英偉達(dá)于2017年開始實(shí)踐在GPU上同時(shí)實(shí)現(xiàn)上面三個(gè)功能,當(dāng)時(shí)用GPU生成圖片的效果首次驚艷了市場。當(dāng)時(shí),使用CPU服務(wù)器“無中生有”一張圖片需要花費(fèi)數(shù)個(gè)小時(shí)(這個(gè)過程用專業(yè)說法叫做“渲染”),但英偉達(dá)使用GPU只花了15秒。
不過,新型GPU計(jì)算機(jī)的所謂“便宜”,并不是針對消費(fèi)級市場的。值得注意的是,由于它的高昂價(jià)格,目前無法在個(gè)人電腦市場上替代CPU為核心的PC、筆記本等。
在演講現(xiàn)場,黃仁勛揭開了一臺由8個(gè)H100芯片組成的“新型GPU計(jì)算機(jī)”?!八侨蜃畎嘿F的計(jì)算機(jī)?!秉S仁勛稱。
這個(gè)新型電腦重達(dá)65磅(大約29.5公斤),必須要借助機(jī)器人才能實(shí)現(xiàn)平穩(wěn)、精確的安裝?!斑@臺電腦售價(jià)20萬美元?!秉S仁勛稱。
啟動AIGC行業(yè)變革
用硬件來淘汰“CPU時(shí)代”,還只是英偉達(dá)攻占AIGC龍頭地位的第一步。眼下,英偉達(dá)已經(jīng)在軟件生態(tài)圈中進(jìn)行精心布局,除了將CUDA計(jì)算模型推廣給400萬名軟件開發(fā)者以外,還推出了游戲AI模型代工服務(wù),并深入到制造業(yè)中支持虛擬工廠、機(jī)器人仿真技術(shù)和自動化檢測。
“為什么這么多年來,人們無法創(chuàng)造一種新的計(jì)算方法?”黃仁勛談及CPU時(shí)代時(shí)稱。他指出,這是因?yàn)橛布c軟件、消費(fèi)市場與開發(fā)商供應(yīng)者之間存在一種“雞生蛋、蛋生雞”的關(guān)系,導(dǎo)致互相牽制,令基于CPU的計(jì)算方法得以持續(xù)甚久。
因此,為了打破“CPU時(shí)代”的桎梏,英偉達(dá)除了大力設(shè)計(jì)芯片硬件,也十分關(guān)注搭建軟件生態(tài)環(huán)境。CUDA計(jì)算模型就是英偉達(dá)為這個(gè)長遠(yuǎn)布局落下的一枚關(guān)鍵棋子。
“英偉達(dá)Cuda計(jì)算模型現(xiàn)在服務(wù)于400萬開發(fā)者和超過3000個(gè)應(yīng)用程序。Cuda的下載量達(dá)到了4000萬次,其中僅去年一年就達(dá)到了2500萬次。”黃仁勛稱。他指出,在擁有了如此龐大規(guī)模的軟件基礎(chǔ)上,GPU取代CPU才實(shí)現(xiàn)可能。
總結(jié)黃仁勛兩個(gè)小時(shí)的演講內(nèi)容,可以看到英偉達(dá)對AIGC領(lǐng)域的挖掘,涵蓋了核心的超級芯片、到互連技術(shù)再到算法引擎的優(yōu)化、以及配套軟件的升級。
事實(shí)上,AIGC所涉及到的文生文、文生圖、2D圖生3D圖等,正在經(jīng)過多種大模型或應(yīng)用進(jìn)行實(shí)現(xiàn),包括英偉達(dá)旗下的對話式 AI 模型開源框架NeMo、Meta旗下的大模型LLaMa、使用GPT模型的應(yīng)用ChatGPT、以及文生圖應(yīng)用Stable Diffusion等。目前,全球最有影響力的AIGC科技龍頭都在深度使用英偉達(dá)所提供的工具,也推動英偉達(dá)在美股市場上攀爬“1萬億美元”市值的高峰,很快就要和蘋果、微軟、谷歌、亞馬遜一起處于“萬億俱樂部”中。
英偉達(dá)此次帶給AIGC行業(yè)的工具之多,令市場感到十分吃驚。除了以上的產(chǎn)品,英偉達(dá)在大型游戲創(chuàng)作和數(shù)字化工廠方面的介入,也十分引人注目。
在游戲創(chuàng)作方面,黃仁勛展示了一段游戲片段。這個(gè)片段中,除了現(xiàn)實(shí)感逼真的畫面制作外,游戲玩家和NPC之間的對話也是完全由AIGC生成的。換句話說,以后的游戲可以“千人千面”,玩家面對的不再是只會吐露模式化回復(fù)的NPC。這個(gè)功能依賴英偉達(dá)的AI模型代工服務(wù)ACE游戲開發(fā)版,有利于游戲開發(fā)商簡易上手上面的功能。
英偉達(dá)又介紹,現(xiàn)在一些領(lǐng)先的電子制造商已經(jīng)使用英偉達(dá)的AIGC和元宇宙平臺omniverse實(shí)現(xiàn)工廠的“數(shù)字化”。
在制造業(yè),全球大約有1000萬家工廠,它們是工業(yè)數(shù)字化的重點(diǎn)領(lǐng)域。
黃仁勛表示:“工業(yè)制造的都是實(shí)物,如果能先以數(shù)字的方式制造產(chǎn)品,可以節(jié)省數(shù)十億美元?!?/p>
眼下,在工業(yè)領(lǐng)域,英偉達(dá)主要打造了Omniverse和生成式AI來幫助工廠進(jìn)行虛擬工廠的設(shè)計(jì),還推出了Isaac Sim模擬和測試機(jī)器人、Metropolis光學(xué)檢測自動化工具。
據(jù)了解,富士康、和碩、廣達(dá)等電子設(shè)備制造商已經(jīng)在利用英偉達(dá)上述工具加快筆記本電腦、智能手機(jī)的生產(chǎn)和裝配。
關(guān)鍵詞:
凡注有"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶"或電頭為"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶"的稿件,均為環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶獨(dú)家版權(quán)所有,未經(jīng)許可不得轉(zhuǎn)載或鏡像;授權(quán)轉(zhuǎn)載必須注明來源為"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶",并保留"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶"的電頭。
- 逐浪AIGC?|生成式AI的花園里 英偉達(dá)如何2023-05-30
- 英國法官戴假發(fā)開始時(shí)間介紹?英國法官戴假2023-05-30
- 中信建投證券(06066):李岷和閆小雷獲選舉2023-05-30
- BMO Capital:宏觀環(huán)境改善 上調(diào)博通(AVG2023-05-30
- 上港集團(tuán)哪個(gè)子公司好?上港集團(tuán)容易進(jìn)嗎?2023-05-30
- 主力是怎么拉升的?主力吸籌怎樣才能看出?2023-05-30
- 金爆行動電影電視機(jī)放的音樂是啥?金爆行動2023-05-30
- 為什么主力能買進(jìn)一字板?股票一字線會持續(xù)2023-05-30
- 慢牛股票是什么?慢牛股一般持續(xù)多久?2023-05-30
- 什么叫均線金叉?均線很亂是什么原因?2023-05-30
- 網(wǎng)課考試怎么考的(網(wǎng)課考試怎么作弊)2023-05-30
- 全球動態(tài):油價(jià)小幅上漲 加一箱油多花約4元2023-05-30
- 勁仔食品今日大宗交易折價(jià)成交414.22萬股 2023-05-30
- 焦點(diǎn)信息:AI+ 采礦擦出新火花!全球最大礦2023-05-30
- 股東變更需要哪些手續(xù)?公司轉(zhuǎn)讓一般賣多少2023-05-30
- 基金贖回按哪一天凈值?基金贖回第二天跌了2023-05-30
- 股息紅利稅補(bǔ)繳什么意思?分紅后每一次做T2023-05-30
- 新華全媒+丨持續(xù)發(fā)展生態(tài)旅游——“西藏江2023-05-30
- 公司轉(zhuǎn)讓和注銷哪個(gè)好?轉(zhuǎn)讓營業(yè)執(zhí)照合法嗎2023-05-30
- 劉佳的丈夫比他大幾歲 劉佳的丈夫|環(huán)球聚2023-05-30
- 環(huán)球微速訊:上海電力(600021.SH):多品種2023-05-30
- 擔(dān)保貸款逾期不還擔(dān)保人會怎么樣?老賴不還2023-05-30
- 抵押和質(zhì)押的區(qū)別是什么?抵押和質(zhì)押的所有2023-05-30
- 天津西站客運(yùn)站電話(天津西站客運(yùn)站)2023-05-30
- 環(huán)球今頭條!折心沐火的意思是什么_520人民2023-05-30
- 浪潮信息入圍Gartner全球服務(wù)器標(biāo)桿廠商 2023-05-30
- 全球熱議:今日手工編織毛線帽女圖片_手工編2023-05-30
- 紅棗泡酒的正確方法?|實(shí)時(shí)焦點(diǎn)2023-05-30
- 嗶哩嗶哩直播如何獲得電池 嗶哩嗶哩獲得電2023-05-30
- 定期存款未到期不能取出?定期存款是存折還2023-05-30
- 退契稅需要什么條件2023?退契稅的流程?
- 中華人民共和國人口與計(jì)劃生育法第三十七條是什么內(nèi)容?計(jì)劃生育的優(yōu)勢是什么?
- 網(wǎng)易云游戲光遇實(shí)名認(rèn)證怎么解除? 光遇如何修改實(shí)名認(rèn)證?
- 股票跌停怎么辦?一字跌停是什么意思?
- 假釋官的含義是什么? 假釋出獄是什么意思?
- 新硬盤如何分區(qū)?電腦新裝硬盤怎樣激活使用?
- 湖南都市頻道都市調(diào)解室是什么?民生欄目的發(fā)展歷程是?
- 被公司辭退要開什么證明?員工能力不足被開除有賠償嗎?
- 筆的發(fā)明介紹 毛筆是誰發(fā)明的?
- 信用卡逾期后怎么協(xié)商只還本金?銀行卡掛賬停息是什么意思?
資訊
- 勁仔食品今日大宗交易折價(jià)成交414.22萬股 成交額4945.78萬元-世界熱推薦
- 市場指導(dǎo)價(jià)52.18萬元 奧迪S4 Avant正式上市|焦點(diǎn)快報(bào)
- E選車丨奔馳EQE SUV:頂配比GLE入門還便宜 想買選低配就夠了
- 中國工程物理研究院職工工學(xué)院怎么樣 中國工程物理研究院職工工學(xué)院全國排名
- 最資訊丨蔚來車主慘遭背刺,李斌的“不降價(jià)”還能扛多久?
- 天天亮點(diǎn)!溜溜布親子游戲玩法(溜溜布游戲的玩法)
- 世界觀速訊丨日常保養(yǎng)!本澤馬社媒曬圖,給背部和腳部拔罐
- 妖尾露西和納茲接吻(妖尾露西)
- 做一個(gè)動平衡大概多少錢(方向盤抖動做動平衡還是四輪定位)
- 放棄華為百萬年薪也不虧?天才少年稚暉君創(chuàng)業(yè)獲百度投資,估值或超10億美元_天天微動態(tài)
焦點(diǎn)
- 股票分紅需要持股多久?股票分紅多久一次?
- ?信陽市平橋區(qū)召開統(tǒng)一戰(zhàn)線年中重點(diǎn)工作推進(jìn)會
- 2411是哪里的區(qū)號?區(qū)號是怎么劃分的?
- 中國銀行大額存單有風(fēng)險(xiǎn)嗎 大額存單有什么坑?
- 怎么寫簡歷才能讓HR一眼看中?HR看簡歷究竟看了些什么?
- 鶴壁市市長趙宏宇到河南能源化工集團(tuán)鶴煤公司調(diào)研_熱資訊
- 藥物分析是什么學(xué)科?藥品檢驗(yàn)工作的基本程序是什么?
- 山西2023年第四批50家售電公司重大信息變更
- 兩陰夾一陽是什么?兩陰夾一陽的相關(guān)解析
- WINMax22023正式開啟預(yù)售了嗎?售價(jià)是多少呢?