太平洋科技要聞

大模型落地，要追求極致的務(wù)實(shí)主義

鈦媒體整合編輯：太平洋科技發(fā)布于：2024-10-28 14:34

“能夠像人類一樣操作電腦。”這一堪稱革命性的新技能來(lái)自10月23日Anthropic最新推出的升級(jí)版Claude 3.5 Sonnet模型，據(jù)介紹該模型不僅各項(xiàng)性能指標(biāo)上取得顯著提升，并在多項(xiàng)測(cè)評(píng)中超過(guò)OpenAI的GPT-4o、谷歌的Gemini 1.5 Pro，以及自家的Claude 3 Opus。

目前，升級(jí)版Claude 3.5 Sonnet已經(jīng)在Amazon Bedrock平臺(tái)可用，與此同時(shí)，新模型Claude 3.5 Haiku發(fā)布，預(yù)計(jì)將于本月晚些時(shí)候在平臺(tái)上推出。Anthropic的產(chǎn)品經(jīng)理Michael Gerstenhaber曾表示，Anthropic正致力于每隔幾個(gè)月大幅度改進(jìn)性能、速度和成本之間的權(quán)衡曲線。此前，今年3月Claude 3系列發(fā)布、6月Claude 3.5 Sonnet發(fā)布時(shí)，都是在Amazon Bedrock上同步上線。這意味著當(dāng)客戶用上Amazon Bedrock服務(wù)時(shí)就已經(jīng)拿到了最領(lǐng)先AI大模型的鑰匙。

Amazon Bedrock已經(jīng)成為過(guò)去十年中增長(zhǎng)最快的亞馬遜云科技服務(wù)之一。這也反映出亞馬遜提供多種領(lǐng)先基礎(chǔ)模型和廣泛功能的策略正在引起客戶的共鳴，目前數(shù)以萬(wàn)計(jì)的活躍客戶正在使用Amazon Bedrock，包括Intuit、豐田和紐約證券交易所。

當(dāng)越來(lái)越多的客戶開(kāi)始嘗試生成式AI，這場(chǎng)市場(chǎng)競(jìng)速，就已經(jīng)不單單是看誰(shuí)能夠最快構(gòu)建最領(lǐng)先的大模型應(yīng)用，而是誰(shuí)能更好滿足客戶需要。

沒(méi)有一個(gè)大模型可以一統(tǒng)天下

以往觀點(diǎn)認(rèn)為，生成式AI的競(jìng)賽是看誰(shuí)能夠最快構(gòu)建最領(lǐng)先的大模型及應(yīng)用。

能做到這一點(diǎn)，不但要有技術(shù)實(shí)力更要有持續(xù)燒錢的魄力。為此你能看到，很多跑得快的大模型企業(yè)基本都會(huì)搭上擁有強(qiáng)大算力的云計(jì)算大佬的“快車” ，為了“省錢”。

投行Jefferies分析師Brent Thill在一份報(bào)告中援引亞馬遜云科技的數(shù)據(jù)顯示，只有3%的企業(yè)只使用一個(gè)語(yǔ)言模型，34%的企業(yè)使用兩個(gè)，41%的企業(yè)使用三個(gè)，22%的企業(yè)使用四個(gè)。

回頭再來(lái)看，這與Amazon Bedrock亮相之初的市場(chǎng)預(yù)判基本吻合：沒(méi)有一個(gè)模型可以適用于所有場(chǎng)景，企業(yè)需要各種模型來(lái)解決其在實(shí)際業(yè)務(wù)中遇到的問(wèn)題。

2023年之后，Amazon Bedrock便持續(xù)接入Anthropic、Stability AI、AI21 Labs、Meta、Cohere、Mixtral等第三方主流AI廠商的四十幾款領(lǐng)先基礎(chǔ)大模型服務(wù)，并推出一系列配套功能，以便企業(yè)在實(shí)現(xiàn)簡(jiǎn)化開(kāi)發(fā)的同時(shí)確保隱私性和安全性。

極致的技術(shù)務(wù)實(shí)主義

但并非所有企業(yè)都能快速跟上時(shí)代步伐，與客戶的交流中，亞馬遜云科技頻繁發(fā)現(xiàn)一件事情：在尋找合適的大模型過(guò)程中投入的試錯(cuò)時(shí)間、資源等各方面成本頗高。

一位中國(guó)企業(yè)CIO表達(dá)了一個(gè)觀點(diǎn)，就目前企業(yè)對(duì)生成式AI的嘗試，還需要時(shí)間持續(xù)解決。他的建議是，一是低成本試錯(cuò)的能力，如果成本太高就等不到場(chǎng)景跑出來(lái)；二是長(zhǎng)期系統(tǒng)性的思考能力，一定要把技術(shù)結(jié)合到業(yè)務(wù)流程和場(chǎng)景中。

亞馬遜云科技大中華區(qū)產(chǎn)品總經(jīng)理陳曉建近期就生成式AI價(jià)值化分享表示，企業(yè)應(yīng)該將注意力集中在少數(shù)的幾個(gè)能實(shí)現(xiàn)業(yè)務(wù)價(jià)值的Use Case（用例）上，而不是先花太多時(shí)間深入技術(shù)細(xì)節(jié)。

而Amazon Bedrock就是降低試錯(cuò)成本最好的“雙向門”：在Bedrock上，模型和場(chǎng)景不匹配，就退出去，重選一個(gè)。

Amazon Bedrock已經(jīng)成為客戶使用基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序的最簡(jiǎn)單方法，降低了所有開(kāi)發(fā)者的使用門檻。這種優(yōu)勢(shì)正在不同行業(yè)、不同場(chǎng)景上體現(xiàn)出來(lái)。

全球最大的對(duì)沖基金橋水基金（Bridgewater Associates）很早就開(kāi)始涉足生成式AI應(yīng)用。橋水基金長(zhǎng)達(dá)50年的全球市場(chǎng)投資經(jīng)驗(yàn)，使其深入理解了市場(chǎng)運(yùn)作的核心驅(qū)動(dòng)因素，并將這些知識(shí)編寫成復(fù)雜的專家系統(tǒng)，通過(guò)每天接收并處理大量外部數(shù)據(jù)，生成市場(chǎng)觀點(diǎn)。隨著AI技術(shù)的日益成熟，橋水基金意識(shí)到，通過(guò)AI和機(jī)器學(xué)習(xí)可以進(jìn)一步優(yōu)化這一過(guò)程。

2023年，在聯(lián)席首席投資官Greg Jensen的主導(dǎo)下，橋水基金構(gòu)建了全新投資邏輯生成系統(tǒng)人工智能投資助手（AIA）。以前需要人工初步處理的問(wèn)題可以交給AIA全面處理，然后再進(jìn)行人工審查。整體來(lái)說(shuō)，分析師可以更聚焦精力處理20%有難度的問(wèn)題，剩下80%的基礎(chǔ)問(wèn)題交給AIA智能投資助手處理，節(jié)省了大量時(shí)間。

在構(gòu)建AI投資助手的過(guò)程中，Amazon Bedrock成為了一個(gè)至關(guān)重要的工具。通過(guò)Amazon Bedrock中不同模型的分析特性，靈活調(diào)用，以適應(yīng)從基礎(chǔ)的推理任務(wù)到更高階的市場(chǎng)分析等不同場(chǎng)景。今年7月，橋水基金做出了新的嘗試，發(fā)行了一支完全由AI操盤的規(guī)模20億美金的基金。

另一個(gè)案例是智能語(yǔ)音助手服務(wù)商Poly AI，主要服務(wù)各行各業(yè)的企業(yè)客服中心，包括旅游、住宿、零售、金融服務(wù)等，比如 Poly AI的AI語(yǔ)音客服可以解答賬戶管理問(wèn)題、安排交貨、零售比價(jià)等。

Poly AI的AI語(yǔ)音客服可以模仿人工客服人員，有助于減少用戶等待時(shí)間并提高用戶滿意度和保留率，并針對(duì)不同企業(yè)客戶的行業(yè)屬性和場(chǎng)景需求進(jìn)行個(gè)性化定制。這種定制不僅體現(xiàn)在語(yǔ)音助手的內(nèi)容上，更深入到語(yǔ)調(diào)、語(yǔ)速等細(xì)節(jié)，根據(jù)目標(biāo)群體的特性調(diào)整交流方式、專業(yè)表述的程度、熱情程度、關(guān)切程度等，比如在針對(duì)老年群體或教育的場(chǎng)景會(huì)調(diào)整語(yǔ)氣、語(yǔ)調(diào)、語(yǔ)速、音色，確保客戶體驗(yàn)的最佳化。

Poly AI還在基于Amazon SageMaker平臺(tái)進(jìn)行大規(guī)模語(yǔ)音克隆和合成算法的訓(xùn)練。這個(gè)過(guò)程中，Poly AI為企業(yè)構(gòu)建的解決方案可以將企業(yè)品牌個(gè)性融入其中，更有識(shí)別度，使語(yǔ)音助手不僅僅是一個(gè)工具。

今年8月，Poly AI宣布與亞馬遜云科技達(dá)成戰(zhàn)略合作協(xié)議，增強(qiáng)了Poly AI在大模型和生成式AI上的應(yīng)用深度。

初創(chuàng)公司NinjaTech AI是一家智能體（Agent）系統(tǒng)開(kāi)發(fā)商。該公司面臨的現(xiàn)實(shí)挑戰(zhàn)之一是算力問(wèn)題。由于英偉達(dá)H100的高成本和短缺，NinjaTech AI選擇了亞馬遜云科技自研的兩款A(yù)I芯片——Trainium和Inferentia。經(jīng)過(guò)雙方努力和協(xié)作，NinjaTech AI目前基于亞馬遜自研芯片成功訓(xùn)練AI模型，并構(gòu)建AI智能體。與傳統(tǒng)GPU解決方案相比，NinjaTech在使用Trainium和Inferentia時(shí)，成本節(jié)約達(dá)82%-89%。這一顯著的成本優(yōu)勢(shì)使得他們能夠以更具競(jìng)爭(zhēng)力的價(jià)格為客戶提供高效、經(jīng)濟(jì)實(shí)惠的AI服務(wù)。

除了芯片，NinjaTech還利用Amazon SageMaker進(jìn)行生成式AI模型的微調(diào)和優(yōu)化。在復(fù)雜的AI模型訓(xùn)練中，NinjaTech需要處理不同的上下文、內(nèi)存管理、數(shù)據(jù)存儲(chǔ)等挑戰(zhàn)，而SageMaker的按需服務(wù)模式，使其能夠快速進(jìn)行實(shí)驗(yàn)、訓(xùn)練，并在不浪費(fèi)資源的前提下高效部署AI應(yīng)用。

作為一款生產(chǎn)力工具，Goodnotes通過(guò)生成式AI應(yīng)用提高用戶在電子文檔處理和學(xué)習(xí)過(guò)程中的體驗(yàn)�；贏mazon Bedrock，Goodnotes將生成式AI服務(wù)無(wú)縫集成進(jìn)現(xiàn)有產(chǎn)品，包括手寫筆記識(shí)別、自然語(yǔ)言與筆記互動(dòng)、文檔分析助手等功能。為了確保用戶數(shù)據(jù)隱私及教育合規(guī)，Goodnotes利用Guardrails功能確保安全性與合規(guī)性，防止用戶惡意使用AI生成有害內(nèi)容

不難看出，每家企業(yè)構(gòu)建生成式AI應(yīng)用推動(dòng)業(yè)務(wù)創(chuàng)新，對(duì)于模型或工具平臺(tái)的選擇，往往會(huì)從可靠性、經(jīng)濟(jì)性、準(zhǔn)確性等維度入手。與此同時(shí)，大模型仍在快速升級(jí)，不斷進(jìn)行算法優(yōu)化、參數(shù)擴(kuò)增。而通過(guò)Amazon Bedrock，讓各種技能水平的開(kāi)發(fā)人員和各種規(guī)模的組織都有機(jī)會(huì)使用生成式AI進(jìn)行創(chuàng)新，新的浪潮正加速到來(lái)。

本文來(lái)源：鈦媒體

大模型生成式AI Amazon Bedrock

鈦媒體

原創(chuàng)欄目