(相關(guān)資料圖)

21世紀(jì)經(jīng)濟報道記者董靜怡 上海報道

8月9日消息，AI應(yīng)用“妙鴨相機”已連續(xù)多日火爆出圈，上線不到一個月，算力需求暴漲數(shù)百倍。不過，通過在阿里云上緊急擴容后，其因用戶暴增導(dǎo)致的排隊情況有所緩解，排隊時長已大幅減少，用戶體驗得到改善。

自7月17日正式上線以來，“妙鴨相機”就以9塊9價格和高質(zhì)量“寫真”照獲得了大量關(guān)注，成千上萬的用戶涌進(jìn)應(yīng)用中，高峰期一度有4000-5000人排隊，需要等待10多個小時才能出片。

某資深I(lǐng)T人表示，“妙鴨相機”的相片生成需要龐大的GPU算力進(jìn)行計算，按上述高峰期的量級至少需要幾千臺GPU服務(wù)器才能滿足，線下部署不切實際，云上部署能為創(chuàng)業(yè)公司節(jié)省大量成本和時間，但目前僅有少數(shù)云計算大廠具備這樣的算力儲備。

“此前大家對大模型訓(xùn)練需要的算力關(guān)注較多，尤其是GPT類的模型訓(xùn)練，動輒需要上萬張顯卡?！鄙鲜鲑Y深人士稱，隨著Llama2等開源大模型的流行，大模型應(yīng)用推理端的算力需求更值得關(guān)注，當(dāng)AIGC進(jìn)入生產(chǎn)力時代，推理算力需求可能遠(yuǎn)高于訓(xùn)練算力。

隨著各個行業(yè)的AIGC開發(fā)逐步完成，對業(yè)務(wù)開展階段使用的推理算力需求開始大幅增長，未來幾個月推理的算力需求總量可能遠(yuǎn)高于訓(xùn)練算力。

以目前國內(nèi)算力規(guī)模最大的阿里云為例，其提供最大十萬卡GPU規(guī)模集群的擴展性，同時可承載多個萬億參數(shù)大模型同時在線訓(xùn)練和推理。此外，阿里云還提供了AI加速套件AIACC，大幅提升計算效率，大模型Finetune的訓(xùn)練效率可提升60%，推理效率可提升100%以上。

據(jù)相關(guān)負(fù)責(zé)人透露，“妙鴨相機”已在阿里云上進(jìn)行緊急擴容，應(yīng)對暴漲數(shù)百倍的算力需求。雖然算力一邊加，另一邊用戶也在漲，但高峰期排隊現(xiàn)象已經(jīng)有了緩解。

關(guān)鍵詞：