首頁(yè) > 科技要聞 > 科技> 正文

百度謝廣軍：百模大戰(zhàn)和價(jià)格戰(zhàn)之后，大模型下一個(gè)戰(zhàn)場(chǎng)在工具平臺(tái)

量子位 整合編輯：太平洋科技 發(fā)布于：2024-09-29 16:21

AI大模型對(duì)生產(chǎn)生活的滲透，已經(jīng)在方方面面。

甚至可以說(shuō)，它帶來(lái)的影響比過(guò)去十年里，AI對(duì)各行各業(yè)的影響更加深遠(yuǎn)。并且一步一步發(fā)展至今，從“探索”到“價(jià)值產(chǎn)生”，已經(jīng)變成了企業(yè)和模型廠商共同的迭代。

拿企業(yè)來(lái)說(shuō)，它們不再單純追求擁抱大模型，而是開(kāi)始明晰那些業(yè)務(wù)需要大模型，大模型如何絲滑融入自己的工作流中，以及需要什么樣的模型及應(yīng)用。

而模型廠商這一邊，拿到企業(yè)更明確的需求后，更懂得怎么讓大模型業(yè)務(wù)真正深入垂直場(chǎng)景，提供哪些提效的工具，事半功倍地發(fā)揮大模型的價(jià)值。國(guó)內(nèi)廠商在一年半內(nèi)經(jīng)歷了百模大戰(zhàn)和價(jià)格戰(zhàn)，大模型的下一個(gè)戰(zhàn)場(chǎng)在工具平臺(tái)上。

以上，是在2024百度云智大會(huì)上，百度副總裁謝廣軍分享的一線洞察。

他順帶公布了一組數(shù)據(jù)：

過(guò)去一年多以來(lái)，千帆平臺(tái)日均調(diào)用量超過(guò)7億次，累計(jì)幫助用戶精調(diào)了3萬(wàn)個(gè)大模型，開(kāi)發(fā)出70多萬(wàn)個(gè)企業(yè)級(jí)應(yīng)用。

并且，隨著大模型在產(chǎn)業(yè)滲透的深入、需求的明確、技術(shù)的進(jìn)步，百度千帆大模型平臺(tái)3.0應(yīng)運(yùn)問(wèn)世。

重塑生產(chǎn)力的三階段演進(jìn)

交流會(huì)上，謝廣軍拉明時(shí)間線，按照大模型調(diào)用趨勢(shì)的變化，將過(guò)去一年半多的時(shí)間劃分為了三個(gè)階段。

第一階段：ChatGPT出現(xiàn)-2023年上半年

第二階段：2023年下半年-今年年中

第三階段：今年年中-現(xiàn)在

第一階段，是最為轟轟烈烈的百模大戰(zhàn)時(shí)期。

這是一個(gè)屬于探索和學(xué)習(xí)的階段，接觸大模型的人/團(tuán)隊(duì)，都在找卡、囤積算力，爭(zhēng)相采購(gòu)GPU/AI芯片，下場(chǎng)嘗試研究和訓(xùn)練模型，這時(shí)候企業(yè)的需求大部分還是模型調(diào)用和精調(diào)。

謝廣軍打了個(gè)比方：那時(shí)候，最重要的事情就是跑馬圈地。

也就是對(duì)標(biāo)OpenAI、Anthropic等搶跑，通過(guò)迅速擴(kuò)張或搶占資源來(lái)確立自己的優(yōu)勢(shì)地位。

大伙兒秀肌肉，最主要的目的是向外界證明我們也能訓(xùn)練出大模型的可行性。

第二階段，重點(diǎn)轉(zhuǎn)向?qū)?yīng)用場(chǎng)景的探索。

很多企業(yè)和開(kāi)發(fā)者，不再滿足于將AI大模型視為一個(gè)獨(dú)立的工具，而是將其視為一種全新的生產(chǎn)力工具。

也是因?yàn)殡S著模型能力的初步具備，企業(yè)開(kāi)始探索在業(yè)務(wù)系統(tǒng)當(dāng)中怎么把大模型應(yīng)用起來(lái)，改造現(xiàn)有的系統(tǒng)或者創(chuàng)造全新的應(yīng)用，從而提升業(yè)務(wù)效率和價(jià)值。

這一時(shí)期，智能問(wèn)答、智能寫(xiě)作等智能助手類應(yīng)用如雨后春筍般涌現(xiàn)。

但謝廣軍指出，真正在生產(chǎn)中使用并創(chuàng)造價(jià)值的應(yīng)用仍然屈指可數(shù)。

從今年5月開(kāi)始，百模大戰(zhàn)演化成價(jià)格激戰(zhàn)——降價(jià)，激發(fā)了企業(yè)對(duì)大模型的調(diào)用量，促進(jìn)一批場(chǎng)景的探索，一定程度上加速了大模型落地。

第三階段，也就是現(xiàn)在，大模型應(yīng)用進(jìn)入了深入場(chǎng)景和深度融合應(yīng)用的階段。

如今，隨著模型效果的提升和價(jià)格的下降，真正的落地應(yīng)用終于出現(xiàn)了。

謝廣軍舉例表示，教育領(lǐng)域、制造行業(yè)、金融行業(yè)、醫(yī)療領(lǐng)域，大模型帶來(lái)的智能系統(tǒng)都在各司其職。

與此同時(shí)，大模型開(kāi)始與傳統(tǒng)軟件深度融合，重塑生產(chǎn)力工具。

特別明顯的，企業(yè)不再滿足于智能助手等單一形態(tài)的應(yīng)用，而是將大模型賦能于進(jìn)銷存系統(tǒng)、ERP系統(tǒng)等傳統(tǒng)應(yīng)用，推動(dòng)業(yè)務(wù)創(chuàng)新和效率提升。

總而言之，如果把第一階段的標(biāo)識(shí)是百模大戰(zhàn)，第二階段的代表是價(jià)格戰(zhàn)，那么，第三階段的典型則可以歸于“應(yīng)用平臺(tái)工具”身上。

這也是為什么百度千帆大模型平臺(tái)一直不停升級(jí)的原因。

從模型訓(xùn)練到全棧開(kāi)發(fā)，戰(zhàn)場(chǎng)來(lái)到工具平臺(tái)

謝廣軍回顧了過(guò)去一年半的時(shí)間里，百度千帆大模型平臺(tái)順應(yīng)階段性變化，都有哪些進(jìn)展。

第一階段的百模大戰(zhàn)時(shí)期，也是B端使用模型的嘗鮮期。

百度智能云推出了千帆大模型平臺(tái)1.0，其中包括模型微調(diào)的工具鏈和大模型調(diào)用接口，模型調(diào)用開(kāi)始起量。

第二階段，千帆進(jìn)化為2.0版本，“應(yīng)用開(kāi)發(fā)”來(lái)到臺(tái)前。

除了支持模型服務(wù)和開(kāi)發(fā)，千帆2.0主要增加了AppBuilder這樣的AI原生應(yīng)用開(kāi)發(fā)平臺(tái)，支撐RAG、Agent應(yīng)用開(kāi)發(fā)的各種需求。

進(jìn)入今年，為了更系統(tǒng)地支持企業(yè)客戶在應(yīng)用開(kāi)發(fā)、模型推理、模型開(kāi)發(fā)等層面的大量且復(fù)雜的需求，千帆2.0持續(xù)演進(jìn)，不斷迭代。

不過(guò)，雖然第二階段的千帆已經(jīng)開(kāi)始在企業(yè)級(jí)生產(chǎn)力場(chǎng)景里落地出力了，但謝廣軍分享了自己的觀點(diǎn)：

隨著模型技術(shù)進(jìn)展、應(yīng)用深入，實(shí)際場(chǎng)景當(dāng)中只有大模型也不夠，今天講模型多模態(tài)，其實(shí)還是通過(guò)大模型與視覺(jué)、語(yǔ)音等垂直場(chǎng)景模型協(xié)同。

其次，企業(yè)級(jí)RAG和企業(yè)級(jí)Agent是未來(lái)大模型產(chǎn)業(yè)落地的主要形態(tài)。

為了適應(yīng)日漸加深的深度，適應(yīng)企業(yè)生產(chǎn)力的各種需求逐步演化，于是，千帆大模型平臺(tái)3.0應(yīng)運(yùn)而生。

全面從模型訓(xùn)練轉(zhuǎn)向全棧開(kāi)發(fā)，開(kāi)啟第三階段的故事。

千帆大模型平臺(tái)3.0是面向生產(chǎn)力場(chǎng)景的企業(yè)級(jí)的一體化服務(wù)平臺(tái)，主要為企業(yè)提供生成式AI生產(chǎn)以及應(yīng)用全流程開(kāi)發(fā)工具鏈。

在以下三個(gè)層面，均有全面升級(jí)：

模型開(kāi)發(fā)層

模型服務(wù)層

應(yīng)用開(kāi)發(fā)層

模型開(kāi)發(fā)層

謝廣軍談到，千帆3.0的模型開(kāi)發(fā)層提供最全面的工具鏈。

旗艦?zāi)Ｐ虴RNIE 3.5、ERNIE 4.0 Turbo還首次開(kāi)放SFT，可預(yù)置獨(dú)家高質(zhì)量混合語(yǔ)料。

原因無(wú)外乎兩點(diǎn)。

一來(lái)實(shí)際業(yè)務(wù)反饋，不管從質(zhì)量還是數(shù)量來(lái)看，企業(yè)自有數(shù)據(jù)都還有提升空間。預(yù)置獨(dú)家高質(zhì)量混合語(yǔ)料供企業(yè)用戶在平臺(tái)上擴(kuò)充，可以增強(qiáng)模型最終效果。

二來(lái)，垂直領(lǐng)域模型后訓(xùn)練時(shí)混入通用語(yǔ)料，能進(jìn)一步緩解通用能力遺忘這個(gè)問(wèn)題。

模型服務(wù)層

千帆3.0的模型服務(wù)層提供豐富的模型。

主要包括百度自研的文心系列，以及新增語(yǔ)音系列能力模型和視覺(jué)系列模型。

自研模型中，包含了最新模型ERNIE 4.0 Turbo、ERNIE Speed Pro、ERNIE Lite Pro；主力模型ERNIE Speed、ERNIE Lite依舊免費(fèi)；垂直場(chǎng)景大模型新增了ERNIE Novel等。

除大語(yǔ)言模型外，考慮到傳統(tǒng)語(yǔ)音、視覺(jué)模型在實(shí)際落地時(shí)仍有需求，大模型與垂類場(chǎng)景模型的協(xié)同混用很常見(jiàn)，因此，模型服務(wù)層也包括傳統(tǒng)模型在內(nèi)。

謝廣軍用一張圖展示了千帆3.0模型服務(wù)層可提供使用的大模型：

應(yīng)用開(kāi)發(fā)層

應(yīng)用開(kāi)發(fā)層提供的，則是企業(yè)級(jí)RAG和企業(yè)級(jí)Agent的開(kāi)發(fā)工具千帆AppBuilder和端到端應(yīng)用開(kāi)發(fā)工具AI速搭。

謝廣軍分享了一個(gè)數(shù)據(jù)：截至目前，千帆大模型平臺(tái)已經(jīng)幫助用戶開(kāi)發(fā)了超過(guò)了70萬(wàn)個(gè)應(yīng)用。

千帆大模型平臺(tái)3.0提供的是企業(yè)級(jí)RAG和企業(yè)級(jí)Agent的開(kāi)發(fā)工具。

針對(duì)企業(yè)落地大模型的高頻應(yīng)用場(chǎng)景，千帆3.0從檢索效果、檢索性能、存儲(chǔ)擴(kuò)展、調(diào)配靈活性四方面對(duì)企業(yè)級(jí)檢索增強(qiáng)生成（RAG）進(jìn)行了全面升級(jí)；

針對(duì)企業(yè)級(jí)Agent的開(kāi)發(fā)，千帆3.0增加了業(yè)務(wù)自主編排、人工編排、知識(shí)注入、記憶能力以及百度搜索等80多個(gè)官方組件支持。

AI速搭則可以端到端地開(kāi)發(fā)應(yīng)用，通過(guò)一句話或者通過(guò)PRD，就能一步一步生成包括表單、數(shù)據(jù)、流程的生成端到端應(yīng)用，還可以基于低代碼GUI方式對(duì)生成的應(yīng)用修改和完善。

借助生態(tài)共同成長(zhǎng)

大模型的落地，除了基座大模型能力的提升，本身還是非常重視在行業(yè)場(chǎng)景當(dāng)中的能力增強(qiáng)和應(yīng)用，謝廣軍稱之為“深入場(chǎng)景”。

今天，百度智能云千帆大模型平臺(tái)，在千行百業(yè)中細(xì)分場(chǎng)景，然后不斷提升場(chǎng)景中的模型能力、數(shù)據(jù)能力以及應(yīng)用能力。

與此同時(shí)，千帆還推出了一系列應(yīng)用樣板間，讓用戶學(xué)會(huì)模型精調(diào)樣板間，以及如何給大模型輸入模板。

通過(guò)這樣的方式，用戶入門(mén)門(mén)檻被不斷降低，大模型在若干行業(yè)場(chǎng)景的積累愈發(fā)深厚，推廣滲透也更加深入。

經(jīng)過(guò)一年多的探索，今天有很多的用戶需求已經(jīng)成熟了。

“擁抱大模型”已經(jīng)不是企業(yè)的第一要?jiǎng)?wù)，把大模型在業(yè)務(wù)流程中跑起來(lái)，能把大模型用好，在業(yè)務(wù)中產(chǎn)生價(jià)值，才是有真本事。

大模型的效果、數(shù)據(jù)的合理使用、應(yīng)用的構(gòu)建方法等，是現(xiàn)在企業(yè)結(jié)合大模型時(shí)關(guān)注的焦點(diǎn)。

“現(xiàn)在是很好的時(shí)機(jī)�！敝x廣軍說(shuō)，用戶也會(huì)挑選業(yè)界領(lǐng)先的伙伴合作，借助生態(tài)共同成長(zhǎng)。

隨著應(yīng)用本身的深入落地，平臺(tái)會(huì)越來(lái)越多，機(jī)會(huì)也越來(lái)越廣。

再加上用戶側(cè)的需求更加清晰、更加務(wù)實(shí)，平臺(tái)能夠精準(zhǔn)地持續(xù)完善相關(guān)功能，讓大模型真正在業(yè)務(wù)場(chǎng)景中深入落地。

也就是說(shuō)，企業(yè)真的準(zhǔn)備好迎接和運(yùn)用大模型應(yīng)用的蓬勃生態(tài)。

而當(dāng)企業(yè)對(duì)大模型的判斷和需求更加成熟時(shí)，大模型廠商又迎來(lái)了新的機(jī)會(huì)。

在這樣的新趨勢(shì)下，謝廣軍也簡(jiǎn)明勾勒了大模型產(chǎn)業(yè)落地的未來(lái)線條。

首先，隨著技術(shù)的迭代，模型推理成本的降低，大模型的價(jià)格會(huì)持續(xù)下降。在這次2024百度云智大會(huì)上，也公布了一個(gè)數(shù)據(jù)：過(guò)去一年，文心大模型旗艦?zāi)Ｐ屠塾?jì)降價(jià)超過(guò)90%。

持續(xù)的降本能給客戶產(chǎn)生持續(xù)的收益，促使更多企業(yè)用得起、用得好。

當(dāng)然了，當(dāng)模型廠商還沒(méi)有達(dá)到技術(shù)迭代升級(jí)的情況下，純粹在資本推動(dòng)下掏腰包做補(bǔ)貼，低價(jià)必然不是長(zhǎng)久之計(jì)。

其次，雖然不管新模型還是老模型的價(jià)格曲線都會(huì)下落，但“價(jià)格下降”不是制勝一擊。

研究更好的推理架構(gòu)，用低算力推理達(dá)到更好的模型效果，是值得長(zhǎng)期重視的關(guān)鍵。

效果不行，再便宜也用不起來(lái)。

最后，卷價(jià)格、卷效果，最終都會(huì)回歸于各個(gè)廠商對(duì)自身成本的優(yōu)化與控制。

相同效果下，模型廠商不斷升級(jí)工程能力，降低自身成本，才能給出更實(shí)惠的模型使用價(jià)格，才能讓更大眾的場(chǎng)景把大模型用起來(lái)。

從千帆大模型平臺(tái)3.0身上，我們可以看到百度對(duì)大模型產(chǎn)業(yè)落地整體趨勢(shì)判斷的縮影——

從最初的提供大模型調(diào)用和精調(diào)服務(wù)，到如今面向生產(chǎn)力場(chǎng)景的企業(yè)級(jí)一體化服務(wù)平臺(tái)，不變的是始終與一線需求共同迭代。

隨著大模型真正的落地與融入業(yè)務(wù)流程，屬于工具平臺(tái)的戰(zhàn)事即將打響。率先迎接機(jī)遇和挑戰(zhàn)的千帆3.0，會(huì)是這個(gè)戰(zhàn)場(chǎng)上最耀眼的一員。

本文來(lái)源：量子位

網(wǎng)友評(píng)論

聚超值•精選

推薦 手機(jī) 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來(lái)
二維碼 回到頂部