來源:證券日報 發(fā)布時間:2023-4-23 10:0
本報記者 李豪悅
AI大模型應用爆發(fā),云市場也在加速變革。
4月18日,火山引擎發(fā)布自研DPU等系列云產(chǎn)品,并推出新版機器學習平臺。發(fā)布會后,火山引擎總裁譚待、字節(jié)跳動副總裁楊震原接受了《證券日報》記者采訪。
面對當下白熱化的大模型之爭,譚待表示,“火山引擎不做大模型,要先服務好做大模型的公司。國內(nèi)大模型領(lǐng)域的數(shù)十家企業(yè),超過七成已經(jīng)在火山引擎云上!
在譚待看來,大模型不會一家獨大。與其他云廠商力推自家大模型不同的是,火山引擎將接入多家大模型深度合作,為企業(yè)和消費者提供更豐富的AI應用。
“并池”復用資源
讓大模型訓練快速跑起來
今年以來,ChatGPT在全球掀起AI熱潮,底層大模型相繼涌現(xiàn)。據(jù)民生證券統(tǒng)計,目前國內(nèi)已有超30個大模型亮相,其中包括阿里巴巴、百度、京東等互聯(lián)網(wǎng)大廠和光年之外、百川智能等備受矚目的初創(chuàng)企業(yè)。
業(yè)內(nèi)有聲音認為,大模型將成為云廠商彎道超車的機會。對此,譚待表示,大模型還在發(fā)展初期,面臨數(shù)據(jù)安全、內(nèi)容安全、隱私保護、版權(quán)保護等許多需要努力解決的問題。但可以預見,大模型將帶動云上AI算力急劇增長,AI算力的工作負載與通用算力的差距會越來越小,這會為各家云廠商帶來新的機會,同時也會給數(shù)據(jù)中心、軟硬件棧、PaaS平臺帶來新的挑戰(zhàn)。
以數(shù)據(jù)中心的算力結(jié)構(gòu)為例,譚待表示:“大模型需要大算力,虛擬化會帶來資源損耗,規(guī)模越大就損耗越多。未來3年內(nèi),大規(guī)模的算力中心,都將形成‘CPU+GPU+DPU’的混合算力結(jié)構(gòu),CPU負責通用計算,GPU負責AI計算,DPU負責資源卸載、加速和隔離,提升資源效率。”
譚待告訴記者,火山引擎要做的就是為大模型客戶提供高穩(wěn)定性和高性價比的AI基礎設施,火山引擎機器學習平臺一方面可以提供算力供給,另一方面,也能幫助大模型客戶用好算力提升效率。
據(jù)悉,火山引擎宣布與字節(jié)跳動國內(nèi)業(yè)務并池。楊震原告訴記者,所謂并池的池,可以理解為計算池,包括計算、存儲、服務器、容器等單元,并池意味著在共享的資源池里調(diào)度資源,從而提高整體資源利用率。
火山引擎機器學習平臺經(jīng)過抖音等海量用戶業(yè)務長期打磨,支持單任務萬卡級別的超大規(guī)模分布式并行訓練場景。GPU彈性計算實例可靈活調(diào)度資源,隨用隨取,最高可以為客戶節(jié)省70%的算力成本。
譚待表示,火山機器學習平臺的優(yōu)勢之一就在于“內(nèi)外同款”,例如通過內(nèi)部抖音大規(guī)模的訓練場景進行打磨,通過實戰(zhàn)積累經(jīng)驗。因此,基于內(nèi)外統(tǒng)一的云原生基礎架構(gòu),抖音等業(yè)務的空閑計算資源可極速調(diào)度給火山引擎客戶使用,離線業(yè)務資源分鐘級調(diào)度10萬核CPU,在線業(yè)務資源也可潮汐復用,彈性計算搶占式實例的價格最高可優(yōu)惠80%以上。
向“多云多模型”架構(gòu)演進
價格戰(zhàn)不可持續(xù)
4月17日,火山引擎還發(fā)布了新一代自研DPU,實現(xiàn)計算、存儲、網(wǎng)絡的全組件卸載,釋放更多資源給業(yè)務負載。據(jù)悉,該DPU網(wǎng)絡性能高達5000萬pps轉(zhuǎn)發(fā)能力、延遲低至20us;谧匝蠨PU的各類計算實例性能也有顯著提升,例如適用于大模型分布式并行訓練場景的GPU實例,相較上一代實例集群性能最高提升3倍以上。
自動駕駛公司毫末智行與火山引擎合作打造智算中心,為DriveGPT自動駕駛生成式預訓練模型提供強大的算力支持。毫末智行CEO顧維灝介紹,DriveGPT使用量產(chǎn)車4000萬公里的人駕數(shù)據(jù)訓練,參數(shù)規(guī)模達1200億,對自動駕駛認知決策模型進行持續(xù)優(yōu)化。
譚待表示,在大模型及下游應用發(fā)展推動下,無論傳統(tǒng)企業(yè)還是初創(chuàng)企業(yè),對AI算力都有迫切需求,企業(yè)使用多家云服務將成為常態(tài)。同時,各行業(yè)有自己高質(zhì)量的私有語料,大模型不會一家獨大,而是會在千行百業(yè)生長,形成多模型共生甚至協(xié)作的生態(tài)。“未來將是‘多云多模型’的時代!弊T待稱。
火山引擎也順勢推出了分布式云原生平臺、多云安全、多云CDN、veStack混合云平臺等系列產(chǎn)品。譚待表示,火山引擎slogan是“云上增長新動力”,產(chǎn)品理念是圍繞云上增長三個核心要素,即敏捷迭代、數(shù)據(jù)驅(qū)動、體驗創(chuàng)新。
值得一提的是,今年以來,隨著云平臺競爭激烈,大廠之間比拼加劇,價格戰(zhàn)也隨即打響,4月份,有大廠宣布相關(guān)產(chǎn)品降價40%。便宜、廉價,能否成為行業(yè)主流趨勢?
譚待表示,要從兩方面看待這一問題:一方面,成本是云計算的關(guān)鍵競爭力,因此成本控制需要久久為功;另一方面,要加強技術(shù)積累,價格戰(zhàn)不可持續(xù)。
事實上,作為字節(jié)跳動ToB業(yè)務的重要板塊,火山引擎過去兩年的ROI(投資回報率)并不高,對此譚待認為,“企業(yè)服務中,ToB服務與ToC服務大相徑庭,ToB服務需要經(jīng)過漫長的實踐,積累起來后才會有很強的連續(xù)性。因此對于火山引擎而言,短期考慮的是如何為客戶創(chuàng)造更多的價值,中期任務是將組織能力做好,長期要回歸商業(yè)本質(zhì),成為一個盈利的業(yè)務!