首頁(yè) > 科技要聞 > 科技> 正文

OpenAI獲英偉達(dá)B200最強(qiáng)超算!GPT-5訓(xùn)練無(wú)底洞,微軟算力卻嚴(yán)重不足

新智元 整合編輯:太平洋科技 發(fā)布于:2024-10-09 17:13

就在剛剛,OpenAI收到了來(lái)自英偉達(dá)的首批工程版DGX B200!

此情此景,不得不讓人聯(lián)想到,剛剛成立的OpenAI在接收英偉達(dá)初代DGX時(shí)的畫(huà)面。

如今,早已物是人非。

依然在職的OpenAI員工興奮地表示,圣誕節(jié)提前到了!

而網(wǎng)友「Yuchen Jin」則調(diào)侃道:「3人已被GPU取代,剩下1個(gè),AGI能即將到來(lái)!」

有趣的是,在幾個(gè)小時(shí)之前,微軟也發(fā)推表示,Azure正式成為首個(gè)運(yùn)行英偉達(dá)Blackwell系統(tǒng)的云服務(wù)。

OpenAI「催單」微軟:加速AI服務(wù)器供應(yīng)

當(dāng)然,變的不止有人。

根據(jù)The Information的爆料,OpenAI和微軟之間,似乎也已不再像之前那樣「親密」。

據(jù)一位知情人士透露,盡管雙方曾約定微軟將作為OpenAI獨(dú)家云服務(wù)器提供商,但OpenAI如今卻開(kāi)始尋求與其他數(shù)據(jù)中心進(jìn)行交易。

背后的原因竟是——微軟未能及時(shí)提供足夠的算力。

隨著OpenAI逐步推進(jìn)從非營(yíng)利組織向營(yíng)利性公司的轉(zhuǎn)型計(jì)劃,它正在與微軟就各種財(cái)務(wù)細(xì)節(jié)進(jìn)行談判。

作為投資超過(guò)130億美元的交換,微軟目前有權(quán)獲得OpenAI未來(lái)75%的利潤(rùn),直到收回本金投資,之后微軟可獲得49%的利潤(rùn),但最高不得超過(guò)理論上限。

由于微軟在當(dāng)前非營(yíng)利配置下對(duì)OpenAI未來(lái)利潤(rùn)擁有過(guò)大的權(quán)利,在OpenAI轉(zhuǎn)變?yōu)闋I(yíng)利性公司后,微軟可能最終獲得OpenAI的大量股份。此外,監(jiān)管OpenAI的非營(yíng)利組織也將在新的營(yíng)利性公司中獲得至少25%的股份。

盡管如此,微軟和OpenAI之間的合作關(guān)系對(duì)兩家公司來(lái)說(shuō)仍將至關(guān)重要。

微軟可以永久使用OpenAI的技術(shù)來(lái)開(kāi)發(fā)自家的產(chǎn)品,而OpenAI則向微軟支付費(fèi)用,在其Azure數(shù)據(jù)中心運(yùn)行其AI業(yè)務(wù)。雙方還通過(guò)API進(jìn)行合作,向其他企業(yè)銷(xiāo)售AI模型訪問(wèn)權(quán)時(shí)需向?qū)Ψ街Ц?0%的傭金。

「Fairwater」的分歧

目前,OpenAI在鳳凰城地區(qū)租用的大部分AI加速器都來(lái)自于微軟。

兩家公司正在討論數(shù)據(jù)中心擴(kuò)張的下一階段,即一個(gè)名為「Fairwater」的項(xiàng)目。

微軟計(jì)劃到明年年底在威斯康星州和亞特蘭大的兩個(gè)數(shù)據(jù)中心站點(diǎn)為OpenAI提供約30萬(wàn)塊英偉達(dá)最新的GPU GB200。

然而,雙方在項(xiàng)目設(shè)計(jì)方面發(fā)生了一些分歧。

OpenAI要求微軟建立一個(gè)更先進(jìn)的英偉達(dá)GPU服務(wù)器集群,調(diào)整設(shè)計(jì),最大程度提高算力。

OpenAI首席執(zhí)行官Sam Altman還要求微軟加快威斯康星州項(xiàng)目的進(jìn)度。

該項(xiàng)目原計(jì)劃在明年下半年部分投入使用,屆時(shí)將配備GB200芯片。

找甲骨文談?wù)?/strong>

據(jù)交易內(nèi)部人士透露,OpenAI目前正與Oracle(甲骨文)洽談租用整個(gè)Abilene數(shù)據(jù)中心場(chǎng)地。

若談判成功,Oracle能夠獲得的電力量估計(jì)可達(dá)2吉瓦(GW),而消耗略低于1吉瓦的,足以容納數(shù)十萬(wàn)顆英偉達(dá)人工智能芯片。

OpenAI和微軟也一直在討論合作建設(shè)一個(gè)價(jià)值1000億美元的超算服務(wù)器集群。

微軟和OpenAI分別給它取名為「Mercury」(水星)和「Stargate」)(星際之門(mén))。

OpenAI首席財(cái)務(wù)官 Anna Friar最近表示,團(tuán)隊(duì)正在考慮使用債務(wù)融資的支付方式。

由于「星際之門(mén)」項(xiàng)目成本高昂,兩家是否能夠合作成功尚未可知。

首席執(zhí)行官Sam Altman表示,自主開(kāi)發(fā)AI芯片可能會(huì)降低大規(guī)模數(shù)據(jù)中心的運(yùn)營(yíng)成本。

OpenAI 已與博通討論過(guò)芯片開(kāi)發(fā)的事項(xiàng)。

過(guò)去10年,生成token的能源成本已經(jīng)下降了10萬(wàn)倍

憑借著B(niǎo)lackwell架構(gòu)強(qiáng)大的FP4性能,搭載了8塊英偉達(dá)B200 GPU的DGX B200可提供高達(dá)144petaflops的AI算力。同時(shí),還有高達(dá)1.4TB的GPU顯存容量和64TB/s的顯存帶寬。

與前代產(chǎn)品相比,DGX B200不僅在訓(xùn)練性能上提升了3倍,而且在實(shí)時(shí)推理萬(wàn)億參數(shù)模型時(shí)速度提升了15倍。

不難看出,英偉達(dá)強(qiáng)大的算力,對(duì)于亟需變革的工業(yè)、科學(xué),以及醫(yī)療保健來(lái)說(shuō),至關(guān)重要。

正如高級(jí)副總裁Dion Pette所說(shuō),新工業(yè)革命剛起步,而B(niǎo)lackwell平臺(tái)的系統(tǒng)設(shè)計(jì),便同時(shí)兼顧了性能與能源效率。

相較十年之前,GPT-4等大模型的訓(xùn)練能耗降低了2,000倍,token生成能耗則減少了100,000倍。

英偉達(dá)的CUDA庫(kù)一直是各行業(yè)實(shí)現(xiàn)突破的基礎(chǔ),也是減少能源消耗最有效的方法之一,現(xiàn)在已經(jīng)為超過(guò)4,000個(gè)加速應(yīng)用程序提供支持。

在醫(yī)療行業(yè),英偉達(dá)加速了診斷、藥物發(fā)現(xiàn)和醫(yī)學(xué)影像方面的創(chuàng)新,幫助改變護(hù)理模式,釋放醫(yī)療保健領(lǐng)域十萬(wàn)億美元的巨大機(jī)遇。

目前的進(jìn)展包括NVIDIA Clara醫(yī)學(xué)影像平臺(tái),Parabricks在基因組學(xué)研究方面的突破,以及MONAI AI框架在推進(jìn)醫(yī)學(xué)影像能力方面的努力。

在探索太空方面,英偉達(dá)正在與SETI(搜尋地外智能計(jì)劃)合作,進(jìn)行實(shí)時(shí)AI搜索,尋找來(lái)自遙遠(yuǎn)星系的快速射電暴。

PettePette還重點(diǎn)介紹了NVIDIA NIM Agent Blueprint,該工具通過(guò)實(shí)時(shí)威脅檢測(cè)和分析,在幾秒的響應(yīng)時(shí)間里保護(hù)關(guān)鍵基礎(chǔ)設(shè)施。

在推進(jìn)氣候研究方面,英偉達(dá)加速計(jì)算解決方案能夠助力科學(xué)家應(yīng)對(duì)環(huán)境挑戰(zhàn),包括監(jiān)測(cè)全球溫度和預(yù)測(cè)自然災(zāi)害。

其中,NVIDIA Earth 2平臺(tái)使用使用Nvidia Omniverse融合多源數(shù)據(jù),結(jié)合模擬、AI和可視化,賦能氣候技術(shù)生態(tài)系統(tǒng)。

本文來(lái)源:新智元

網(wǎng)友評(píng)論

聚超值•精選

推薦 手機(jī) 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來(lái)
極氪“流血”上市,最急的是埃安、哪吒?jìng)?

在經(jīng)歷了2018-2020年“蔚小理”的上市潮后,隨著國(guó)內(nèi)新能源汽車(chē)市場(chǎng)競(jìng)爭(zhēng)日益激烈,以及全球EV需求放緩,IPO的大門(mén)正在向造車(chē)新勢(shì)力們緩緩關(guān)閉。極氪的成功上市既是對(duì)新勢(shì)力的一次激勵(lì),也是一次警示——后來(lái)者必須面對(duì)越來(lái)越嚴(yán)苛的上市條件。留給哪吒汽車(chē)、廣汽埃安們的機(jī)會(huì)可能不多了。

劉凡 劉凡 2024-05-11 11:26
極氪   吉利   哪吒   埃安
  • 二維碼 回到頂部