(資料圖片)
AI應(yīng)用“妙鴨相機(jī)”連續(xù)多日火爆出圈，上線不到一個(gè)月，算力需求暴漲數(shù)百倍。8月9日，全媒體記者從阿里云獲悉，在阿里云助力緊急擴(kuò)容后，妙鴨相機(jī)因用戶暴增導(dǎo)致的排隊(duì)情況也有所緩解，排隊(duì)時(shí)長(zhǎng)已大幅減少，用戶體驗(yàn)得到改善。目前妙鴨相機(jī)也在蘋果應(yīng)用商店上線了App版本，功能更加強(qiáng)大。
據(jù)悉，自7月17日正式上線以來(lái)，“妙鴨相機(jī)”就以9塊9價(jià)格和高質(zhì)量“寫(xiě)真”照獲得了大量關(guān)注，成千上萬(wàn)的用戶涌進(jìn)應(yīng)用中，高峰期一度有4000-5000人排隊(duì)，需要等待10多個(gè)小時(shí)才能出片。據(jù)相關(guān)負(fù)責(zé)人透露，“妙鴨相機(jī)”已在阿里云上進(jìn)行緊急擴(kuò)容，應(yīng)對(duì)暴漲數(shù)百倍的算力需求。雖然算力一邊加，但另一邊用戶也在漲，但高峰期排隊(duì)現(xiàn)象已經(jīng)有了緩解。
某資深I(lǐng)T人表示，“妙鴨相機(jī)”的相片生成需要龐大的GPU算力進(jìn)行計(jì)算，按上述高峰期的量級(jí)至少需要幾千臺(tái)GPU服務(wù)器才能滿足，線下部署不切實(shí)際，云上部署能為創(chuàng)業(yè)公司節(jié)省大量成本和時(shí)間，但目前僅有少數(shù)云計(jì)算大廠具備這樣的算力儲(chǔ)備。“此前大家對(duì)大模型訓(xùn)練需要的算力關(guān)注較多，尤其是GPT類的模型訓(xùn)練，動(dòng)輒需要上萬(wàn)張顯卡。”上述資深人士稱，隨著Llama2等開(kāi)源大模型的流行，大模型應(yīng)用推理端的算力需求更值得關(guān)注，當(dāng)AIGC進(jìn)入生產(chǎn)力時(shí)代，推理算力需求可能遠(yuǎn)高于訓(xùn)練算力。
隨著各個(gè)行業(yè)的AIGC開(kāi)發(fā)逐步完成，對(duì)業(yè)務(wù)開(kāi)展階段使用的推理算力需求開(kāi)始大幅增長(zhǎng)，未來(lái)幾個(gè)月推理的算力需求總量可能遠(yuǎn)高于訓(xùn)練算力。
以目前國(guó)內(nèi)算力規(guī)模最大的阿里云為例，提供最大十萬(wàn)卡GPU規(guī)模集群的擴(kuò)展性，同時(shí)可承載多個(gè)萬(wàn)億參數(shù)大模型同時(shí)在線訓(xùn)練和推理。此外，阿里云還提供了AI加速套件AIACC，大幅提升計(jì)算效率，大模型Finetune的訓(xùn)練效率可提升60%，推理效率可提升100%以上。
文/廣州日?qǐng)?bào)·新花城記者鄧?yán)?/p>
（文章來(lái)源：廣州日?qǐng)?bào)客戶端）
標(biāo)簽：
