97久久人妻精品中文无码_av老司机亚洲精品天堂_国产精品一级无码免费播放_大伊人无码综合天堂Av,_国产精品

世界消息!逐浪AIGC丨AI大模型時(shí)代,火山引擎要做聚合平臺(tái)

來源:21經(jīng)濟(jì)網(wǎng)

21世紀(jì)經(jīng)濟(jì)報(bào)道記者白楊 北京報(bào)道

大模型浪潮撲面而來,幾乎所有企業(yè)都在思考如何迎接。經(jīng)過半年的觀察和實(shí)踐,字節(jié)跳動(dòng)旗下的ToB品牌火山引擎也找準(zhǔn)了自己的定位。

6月28日,火山引擎正式發(fā)布大模型服務(wù)平臺(tái)“火山方舟”,旨在為企業(yè)客戶提供模型精調(diào)、評(píng)測(cè)、推理等MaaS(Model-as-a-Service)服務(wù)。


【資料圖】

火山引擎總裁譚待表示,對(duì)于中國(guó)的大模型發(fā)展,火山引擎已經(jīng)有了幾個(gè)關(guān)鍵判斷:首先,未來的大模型市場(chǎng)將是一個(gè)百花齊放的多模型生態(tài),在這個(gè)生態(tài)系統(tǒng)中,將同時(shí)并行存在幾個(gè)少數(shù)的超大規(guī)模的大模型、多個(gè)中等規(guī)模的大模型和更多個(gè)行業(yè)的垂直模型,“這是由安全信任、行業(yè)壁壘和成本因素共同決定的?!?/p>

其次,在未來,企業(yè)尤其是行業(yè)頭部企業(yè),自身對(duì)于大模型的應(yīng)用,將會(huì)是“1+N”的應(yīng)用模式,即企業(yè)通過自研或者與三方模型服務(wù)商的深度合作,形成企業(yè)自身的1個(gè)主力模型,這個(gè)主力模型之外,在不同的場(chǎng)景中,企業(yè)還會(huì)同時(shí)應(yīng)用N個(gè)外部模型。

聚合多方大模型

在此之前,已有多家云廠商相繼推出了MaaS服務(wù),他們的思路大都一致,都是基于一個(gè)通用基礎(chǔ)大模型,為不同行業(yè)提供具有行業(yè)屬性的行業(yè)大模型。

而火山引擎另辟蹊徑,采用了一種聚合模式。據(jù)介紹,火山方舟已集成百川智能、出門問問、復(fù)旦大學(xué)MOSS、IDEA研究院、瀾舟科技、MiniMax、智譜AI等多家AI科技公司及科研院所的大模型?;谶@種多模型架構(gòu),企業(yè)客戶在火山方舟上便可同步試用多個(gè)大模型,并選用更適合自身業(yè)務(wù)需要的模型組合。

譚待在接受21世紀(jì)經(jīng)濟(jì)報(bào)道采訪時(shí)指出,火山引擎和其他廠商的理念可能不大一樣,“友商推出模型平臺(tái),從模型到模型平臺(tái)以及各種體系都是自己做的,是很封閉的端到端,他們可能認(rèn)為未來一個(gè)模型就夠了,但我們不是這樣想的。我們認(rèn)為未來肯定不是一個(gè)模型,而是多模型,所以我們的平臺(tái)一定要支持多個(gè)模型。”

除了理念上的不同之外,譚待還提到,火山引擎能做多模型架構(gòu),有一個(gè)很重要的原因,是這些業(yè)界做比較好的大模型,本身大部分的訓(xùn)練都是在火山引擎上。“所以我們已經(jīng)跟這些大模型建立了很強(qiáng)的合作關(guān)系和信任感,他們也自然而然會(huì)把推理也放到火山引擎上。”

對(duì)于哪些大模型可以進(jìn)入火山方舟,譚待稱,“我們希望火山方舟是一個(gè)精選的結(jié)果,所以希望那些確實(shí)是訓(xùn)練完成,并且在合規(guī)等方面都做比較好的,已經(jīng)達(dá)到可用形態(tài)的大模型才放到方舟平臺(tái)上。第一批公布的是7家,后面還會(huì)陸續(xù)接入更多大模型。”

當(dāng)然,做聚合平臺(tái),也意味著火山引擎要面臨更多風(fēng)險(xiǎn)和挑戰(zhàn)。譚待表示,企業(yè)使用大模型,最擔(dān)心的是數(shù)據(jù)泄露;如果將大模型私有化部署,企業(yè)將承擔(dān)更高的成本,模型生產(chǎn)方也會(huì)擔(dān)心知識(shí)資產(chǎn)安全。

據(jù)火山引擎智能算法負(fù)責(zé)人吳迪介紹,“火山方舟”已上線了基于安全沙箱的大模型安全互信計(jì)算方案,利用計(jì)算隔離、存儲(chǔ)隔離、網(wǎng)絡(luò)隔離、流量審計(jì)等方式,實(shí)現(xiàn)了模型的機(jī)密性、完整性和可用性保證,可適用于對(duì)訓(xùn)練和推理延時(shí)要求較低的客戶。

此外,吳迪透露,“火山方舟”還在探索基于NVIDIA新一代硬件支持的可信計(jì)算環(huán)境、基于聯(lián)邦學(xué)習(xí)的數(shù)據(jù)資產(chǎn)分離等多種方式的安全互信計(jì)算方案,更全面地滿足大模型在不同業(yè)務(wù)場(chǎng)景的數(shù)據(jù)安全要求。

聚焦平臺(tái)而非模型

對(duì)于火山方舟平臺(tái),外界還關(guān)心的一個(gè)問題是:如果字節(jié)跳動(dòng)有了自己的大模型,火山方舟會(huì)如何平衡自研和第三方模型的關(guān)系?

對(duì)此,譚待向21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示,火山方舟會(huì)是個(gè)開放的平臺(tái),字節(jié)內(nèi)部其他團(tuán)隊(duì)如果做好了模型,也會(huì)放到方舟平臺(tái)上對(duì)外提供,它在方舟上就是眾多模型中的一個(gè)。“最后選擇字節(jié)的模型還是其他模型,這是由客戶來做選擇的,而不需要火山引擎來做平衡。”

所以,在服務(wù)模型應(yīng)用方的過程中,火山引擎提供的不是模型能力,而是幫助應(yīng)用方更好使用模型的能力。按照譚待的說法,火山方舟為企業(yè)提供的是大模型使用的一站式工作臺(tái),不僅包含了模型試用、評(píng)測(cè)、接入、精調(diào)等能力,也通過訓(xùn)推一體、彈性調(diào)度、算子優(yōu)化等能力,幫助應(yīng)用企業(yè)全面進(jìn)行成本優(yōu)化。

據(jù)吳迪介紹,企業(yè)可以用統(tǒng)一的工作流對(duì)接多家大模型,對(duì)于復(fù)雜需求可設(shè)置高級(jí)參數(shù)、驗(yàn)證集、測(cè)試集等功能,再通過自動(dòng)化和人工評(píng)估直觀對(duì)比模型精調(diào)效果,在不同業(yè)務(wù)場(chǎng)景里還可靈活切換不同的模型,實(shí)現(xiàn)最具性價(jià)比的模型組合。

在其看來,訓(xùn)練大模型很昂貴,但是從長(zhǎng)期來看,模型的推理開銷會(huì)超過訓(xùn)練開銷。效果和成本的矛盾永遠(yuǎn)存在,降低推理成本會(huì)是大模型應(yīng)用落地的重要因素,“一個(gè)經(jīng)過良好精調(diào)的中小規(guī)格模型,在特定工作上的表現(xiàn)可能不亞于通用的、巨大的基座模型,而推理成本可以降低到原來的十分之一。”

因此,企業(yè)在火山方舟進(jìn)行的自定義指標(biāo)和評(píng)估數(shù)據(jù)的積累,也將成為企業(yè)在大模型時(shí)代寶貴的數(shù)據(jù)資產(chǎn)。另?yè)?jù)吳迪透露,字節(jié)跳動(dòng)內(nèi)部已有十多個(gè)業(yè)務(wù)團(tuán)隊(duì)在試用“火山方舟”,覆蓋文本和圖像生成、對(duì)話、代碼輔助、信息檢索、營(yíng)銷創(chuàng)意、電商、辦公效率等領(lǐng)域。

吳迪表示,火山方舟希望在模型供應(yīng)商和模型使用方之間,促成“研究-訓(xùn)練-應(yīng)用-變現(xiàn)-反哺研究”的正向循環(huán)?!皩?duì)模型提供方來說,火山方舟能夠幫助大家以更低的成本觸達(dá)海量客戶,用更小的代價(jià)在ToB市場(chǎng)規(guī)?;粚?duì)模型使用者來說,則可以便捷地接觸到眾多高質(zhì)量的基座模型,為不同場(chǎng)景選擇最合適的模型?!?/p>

但譚待也坦言,“每一次技術(shù)的大變革,都會(huì)帶來體驗(yàn)創(chuàng)新的新機(jī)會(huì),而火山方舟還在起步階段,工具鏈和下游應(yīng)用插件需要持續(xù)完善?!苯酉聛?,火山方舟還將接入更多大模型,并逐步擴(kuò)大邀測(cè)范圍,加速大模型在各行各業(yè)的應(yīng)用落地。

標(biāo)簽:

推薦

財(cái)富更多》

動(dòng)態(tài)更多》

熱點(diǎn)