扎根行業(yè)，沒(méi)有發(fā)布“盤古Chat”。

(相關(guān)資料圖)

作者｜涂明 朱悅

編輯｜趙健

封面｜《霍比特人3：五軍之戰(zhàn)》

“百模大戰(zhàn)”又添一員！

據(jù)不完全統(tǒng)計(jì)，在短短七個(gè)月時(shí)間內(nèi)，全球“有名有姓”的大模型便已多達(dá)數(shù)百個(gè)，僅在中國(guó)就有至少80個(gè)。而在今天，“百模大戰(zhàn)”中又有一支強(qiáng)軍涌現(xiàn)——在華為開發(fā)者大會(huì)2023上，華為云發(fā)布了盤古大模型3.0。

過(guò)去半年，華為在燥熱的大模型市場(chǎng)顯得異常低調(diào)。雖然早在2021年4月，盤古大模型1.0就已經(jīng)發(fā)布，早于今天大部分的大模型。但是，當(dāng)ChatGPT掀起的大模型熱席卷全球時(shí)，與百度、阿里等大廠相比，華為的聲量要小的多。

似乎是為了解釋此前的“低調(diào)”，也似乎是為了喊話眼下“琴棋書畫詩(shī)文”俱全的AI應(yīng)用現(xiàn)狀。今天，華為常務(wù)董事、華為云CEO張平安明確喊出了盤古大模型的價(jià)值觀： “不作詩(shī)，只做事?！?/span>

“不作詩(shī)”表明華為不會(huì)推出類似ChatGPT、百度文心一言、阿里通義千問(wèn)等面向C端用戶的聊天機(jī)器人產(chǎn)品，而“只做事”意味著盤古大模型把重心放在了B端行業(yè)大模型的落地上。

盤古大模型All in B端市場(chǎng)，這一判斷也與ChatGPT的市場(chǎng)走勢(shì)形成了對(duì)比。今年6月，ChatGPT的全球流量環(huán)比下滑了10% ，意味著人們對(duì)于聊天機(jī)器人產(chǎn)品的興趣正在降低，相比之下，to B市場(chǎng)還是一片藍(lán)海。

華為本身就是做企業(yè)市場(chǎng)起家，對(duì)于服務(wù)企業(yè)用戶有更為豐富的經(jīng)驗(yàn)。

雖然表面看起來(lái)華為云是各大云廠商中對(duì)大模型的反應(yīng)最慢的一家，但實(shí)際上盤古大模型已經(jīng)在政務(wù)、金融、制造、煤礦、鐵路、制藥、氣象等十幾個(gè)行業(yè)的數(shù)百個(gè)場(chǎng)景落地，在國(guó)內(nèi)云廠商中獨(dú)樹一幟。同時(shí)，與盤古大模型3.0一同上線的，還有華為云昇騰AI云服務(wù)。

大模型普遍被云廠商看作是下一個(gè)重要的增長(zhǎng)點(diǎn)。根據(jù)IDC數(shù)據(jù)，華為云2022年在國(guó)內(nèi)的市場(chǎng)份額位居第二，僅次于阿里云之后。而在行業(yè)市場(chǎng)的充分布局，有望讓華為云進(jìn)一步搶占市場(chǎng)。

這場(chǎng)關(guān)于AI的云端戰(zhàn)爭(zhēng)，已經(jīng)正式打響了。

1.更新至3.0，盤古大模型有哪些亮點(diǎn)？

盤古大模型3.0都包含什么？據(jù)張平安介紹，這是一個(gè)涵蓋三級(jí)體系的“大家伙”。

三級(jí)體系是華為在2022年4月提出的概念，即基礎(chǔ)大模型L0、行業(yè)大模型L1，以及場(chǎng)景大模型L2。三者層層遞進(jìn)，從通用能力逐漸向各個(gè)垂直領(lǐng)域演進(jìn)，由此“重塑行業(yè)”，支撐起華為“AI for industries”的宏大目標(biāo)。

具體而言，盤古大模型在L0層面包含五大基礎(chǔ)大模型，分別是 語(yǔ)音語(yǔ)義大模型（NLP）、視覺(jué)大模型（CV）、科學(xué)計(jì)算大模型、多模態(tài)大模型和圖網(wǎng)絡(luò)大模型。

其中，盤古NLP大模型是業(yè)界首個(gè)千億參數(shù)的中文預(yù)訓(xùn)練大模型，首次使用了Encoder-Decoder架構(gòu)（與谷歌T5相同），可以讓大模型兼具語(yǔ)言的理解與生成兩種能力。盤古NLP大模型由華為云和循環(huán)智能聯(lián)合開發(fā)，由鵬城實(shí)驗(yàn)室提供算力支持。

CV大模型參數(shù)量為30億，是業(yè)界首次實(shí)現(xiàn)按需抽取的模型；科學(xué)計(jì)算大模型主要解決各種科學(xué)問(wèn)題，擁有湍流模擬、天氣預(yù)報(bào)、自然災(zāi)害預(yù)警等多種能力；多模態(tài)大模型則具備圖像和文本的跨模態(tài)理解、檢索與生成能力；圖網(wǎng)絡(luò)大模型主要解決數(shù)據(jù)異質(zhì)化問(wèn)題，華為首創(chuàng)了圖網(wǎng)絡(luò)融合技術(shù)，極大拓展了大模型的泛化能力，讓一個(gè)模型能夠應(yīng)用于多個(gè)任務(wù)。

在L0基礎(chǔ)大模型底座之上，華為結(jié)合行業(yè)數(shù)據(jù)進(jìn)一步訓(xùn)練，就是L1行業(yè)大模型。去年11月，華為云首次公布了在礦山、氣象、藥物大分子、金融等四個(gè)領(lǐng)域的行業(yè)大模型；L2則是在L1行業(yè)大模型基礎(chǔ)上，更進(jìn)一步深入細(xì)分場(chǎng)景的推理模型，比如金融領(lǐng)域的金融違約風(fēng)險(xiǎn)識(shí)別模型、柜臺(tái)工作人員工作流程指導(dǎo)模型等。

在今天發(fā)布的盤古大模型3.0中，NLP大模型和多模態(tài)大模型得到了兩個(gè)重磅升級(jí)，其余三大模型將從這些進(jìn)步中獲益。

第一個(gè)升級(jí)發(fā)生在NLP大模型上。過(guò)去，大模型領(lǐng)域彌漫著一種“參數(shù)量至上”的評(píng)價(jià)氛圍，大廠之間的大模型參數(shù)量從數(shù)千萬(wàn)迅速“卷”上了千億級(jí)別。 張平安表示，其實(shí)對(duì)大模型而言，參數(shù)量的大小并不是最佳評(píng)價(jià)標(biāo)準(zhǔn)，如何用好參數(shù)、讓大模型運(yùn)行地更穩(wěn)定、對(duì)行業(yè)適應(yīng)性更強(qiáng)，才更值得關(guān)注。

因此，在盤古大模型3.0中，華為在原有的千億級(jí)參數(shù)NLP模型外，還發(fā)布了710億、380億、100億等多種參數(shù)級(jí)別的模型。張平安表示，“華為的AI管道里跑了幾十款模型，之所以提供這么多不同參數(shù)的模型，是因?yàn)橐紤]到不同行業(yè)、不同應(yīng)用場(chǎng)景下中，客戶對(duì)大模型的不同需求。核心是用最低的算力消耗，實(shí)現(xiàn)最匹配的解決效果”。

第二個(gè)升級(jí)則是“將大模型分為‘Data’、‘Foundation’和‘Capability’三層，彼此間相互解耦”。

據(jù)張平安介紹，Data指數(shù)據(jù)層，華為單獨(dú)為所有大模型設(shè)計(jì)了一個(gè)訓(xùn)練數(shù)據(jù)池，F(xiàn)oundation層即基礎(chǔ)層，是不同參數(shù)大模型之間的差異，而Capability是能力層，各個(gè)大模型之間的能力層要做到一致，即“所有大模型共用一個(gè)能力集”。張平安強(qiáng)調(diào)，“能力集是一個(gè)全新的設(shè)置”。

他舉了個(gè)例子，比如多模態(tài)大模型的能力集包括圖像生成、圖像理解等。能力集共用以后，一方面，這些能力集“可以直接被客戶調(diào)用”，另一方面“科學(xué)計(jì)算大模型、視覺(jué)大模型等也可以直接調(diào)用多模態(tài)大模型的能力”。

對(duì)于這一點(diǎn)改變，張平安表示，數(shù)據(jù)層解耦后，“每次訓(xùn)練都可以明確調(diào)用的是哪些數(shù)據(jù)”，這有利于數(shù)據(jù)安全，并能解釋不同模型能力的區(qū)別?；A(chǔ)層和能力層的解耦更重要，“基礎(chǔ)層和能力層解耦以后，你不管用什么參數(shù)級(jí)別、基礎(chǔ)類型的大模型，300億也好，1000億也好，多模態(tài)也好，科學(xué)計(jì)算也好，在能力上完全一致?！?/span>

Foundation和Capability為什么一定要解耦？這種變化的威力有多大？

張平安認(rèn)為，將能力集獨(dú)立出來(lái)，做到完全解耦，是讓大模型配適不同場(chǎng)景所必須的一步。而在這種變化的基礎(chǔ)上，華為盤古大模型成功從“小作坊”的生產(chǎn)模式進(jìn)入到“工業(yè)化”時(shí)代，盤古大模型因此有能力“重塑千行百業(yè)”。

2.AI for Industries，盤古沒(méi)時(shí)間作詩(shī)

L0層面的變化，帶來(lái)了L1層面的躍進(jìn)。

在盤古大模型3.0發(fā)布會(huì)上，張平安和華為云EI服務(wù)產(chǎn)品部部長(zhǎng)尤鵬一起展示了盤古大模型應(yīng)用在礦山、鐵路、氣象、金融、制造、編程、視頻等七個(gè)行業(yè)領(lǐng)域時(shí)的威力。

比如在礦山行業(yè)，盤古大模型的能力是實(shí)現(xiàn)礦洞的無(wú)人巡檢、遠(yuǎn)程作業(yè)。

在礦山作業(yè)危險(xiǎn)度極高，由于礦洞中光線昏暗、浮塵密布、視野限制較大，攝像頭能發(fā)揮的作用不大，所以礦山中的巡視檢查工作一般都要由人工來(lái)完成。而通過(guò)盤古透塵大模型與視覺(jué)大模型，工作人員不用下井就能夠輕易識(shí)別井下情況，實(shí)現(xiàn)遠(yuǎn)程操作。

目前，華為在礦山領(lǐng)域已經(jīng)與山東能源集團(tuán)及其技術(shù)公司云鼎科技達(dá)成深度合作，雙方共同開發(fā)了21個(gè)場(chǎng)景化應(yīng)用，覆蓋了7大業(yè)務(wù)系統(tǒng)，在全國(guó)的8個(gè)礦井里做到了規(guī)模化使用，能夠覆蓋煤礦采、掘、運(yùn)通、洗等全流程下的1000多個(gè)細(xì)分場(chǎng)景。

還有鐵路領(lǐng)域，盤古大模型的能力是助力貨車完成安全檢測(cè)。

據(jù)張平安介紹，中國(guó)總共擁有超過(guò)100萬(wàn)輛貨車，每年跑在鐵路上的貨物高達(dá)將近五十億噸。為保證這些貨車的安全，傳統(tǒng)的做法是在軌道旁邊安裝高速攝像機(jī)，火車經(jīng)過(guò)時(shí)對(duì)其底部進(jìn)行高速攝影，拍攝圖片送到檢測(cè)員手中，人工識(shí)別可能的故障點(diǎn)。

這是一套工作量極大且不甚可靠的工作方法。張平安做過(guò)統(tǒng)計(jì)，一個(gè)交通樞紐假如每天要過(guò)站1000輛貨車，則需要采集的照片數(shù)量為400萬(wàn)張。這些工作需要260個(gè)有經(jīng)驗(yàn)的檢測(cè)員四班倒才能完成。

而應(yīng)用盤古視覺(jué)大模型之后，一雙盤古眼就能看完所有的圖片，由盤古進(jìn)行初篩，初篩之后再由檢測(cè)員確認(rèn)具體的危險(xiǎn)。據(jù)統(tǒng)計(jì)，盤古大模型可以將400萬(wàn)張照片篩至20萬(wàn)張照片，篩除率高達(dá)95%，且故障的檢測(cè)漏檢率為0，能將檢測(cè)效率提升20倍，極大降低人工工作負(fù)擔(dān)。

類似的例子還有很多，比如氣象預(yù)測(cè)領(lǐng)域，傳統(tǒng)的預(yù)測(cè)方法要占用3000臺(tái)服務(wù)器，計(jì)算4~5小時(shí)才能完成，而盤古大模型只需要在單臺(tái)機(jī)器上工作10秒，張平安透露，盤古氣象預(yù)測(cè)模型的結(jié)構(gòu)已經(jīng)成為歐洲氣象局的參考之一。昨天（7月6日），盤古云氣象大模型的相關(guān)論文還登在了國(guó)際頂級(jí)學(xué)術(shù)期刊《Nature》上。

在金融行業(yè)，華為與中國(guó)工商銀行合作打造金融大模型，幫助優(yōu)化員工工作流程。工行在全國(guó)有4萬(wàn)個(gè)網(wǎng)點(diǎn)、20萬(wàn)+員工，應(yīng)用華為大模型后，單次業(yè)務(wù)辦理流程能從5環(huán)降低為1環(huán)，單次結(jié)算時(shí)間減少5分鐘；在制造業(yè)，盤古大模型已經(jīng)走進(jìn)華為的制造生產(chǎn)線，其天籌集求解器已經(jīng)被用于幫助華為設(shè)計(jì)排產(chǎn)計(jì)劃，排產(chǎn)工作的耗時(shí)從三小時(shí)排一天計(jì)劃，縮短到1分鐘排出未來(lái)三天計(jì)劃。在視頻領(lǐng)域，盤古大模型可以用三分鐘完成過(guò)去三個(gè)人花三天才能完成的工作量。

據(jù)華為云人工智能首席科學(xué)家田奇介紹， 在過(guò)去幾年，華為云人工智能項(xiàng)目已經(jīng)應(yīng)用超過(guò)1000個(gè)項(xiàng)目中，其中30%用在客戶的核心生產(chǎn)系統(tǒng)里，平均可以推動(dòng)客戶盈利能力提升18%。張平安對(duì)此很驕傲，在華為開發(fā)者大會(huì)上多次呼吁，“讓我們?yōu)楸P古大模型鼓個(gè)掌。”

張平安表示，“很多大模型，表現(xiàn)看起來(lái)都很好，會(huì)寫詩(shī)、會(huì)畫畫、會(huì)講故事，華為不一樣，華為的盤古大模型不會(huì)作詩(shī)，只會(huì)做事”，他強(qiáng)調(diào)了華為的AI for Industries戰(zhàn)略，“盤古大模型是要扎根行業(yè)的，它要下礦坑、測(cè)臺(tái)風(fēng)，沒(méi)時(shí)間作詩(shī)”。

3.昇騰AI云服務(wù)已上線

華為云盤古大模型的創(chuàng)新力來(lái)自什么？

張平安提到，一方面來(lái)自大模型自身模型的創(chuàng)新，另外一方面來(lái)自堅(jiān)實(shí)的AI堆棧，即AI根技術(shù)。AI根技術(shù)包括底層算力、AI計(jì)算框架、AI開發(fā)平臺(tái)、AI工程平臺(tái)等。如果沒(méi)有成熟的AI根技術(shù)，大模型也很難發(fā)揮出出色的價(jià)值。

對(duì)于底層算力，英偉達(dá)的GPU芯片是訓(xùn)練大模型的最佳載體。但由于芯片禁令，華為是無(wú)法使用業(yè)內(nèi)最成熟的GPU與配套軟件的。因此，華為只能依靠自研的芯片。

在算力層，華為構(gòu)建了“鯤鵬CPU+昇騰GPU”為基礎(chǔ)的昇騰AI云算力底座。在訓(xùn)練千億參數(shù)的盤古大模型時(shí)， 華為調(diào)用了超過(guò)2000塊的昇騰910， 進(jìn)行了超過(guò)2個(gè)月的訓(xùn)練。

基于昇騰AI云算力底座，華為云有“CANN+MindSpore”的AI框架。CANN作為華為針對(duì)AI場(chǎng)景推出的異構(gòu)計(jì)算架構(gòu)，向上支持多種AI框架，向下服務(wù)AI處理器與編程，而MindSpore作為全場(chǎng)景AI計(jì)算框架，實(shí)現(xiàn)端邊云全場(chǎng)景靈活部署，以及一站式開發(fā)平臺(tái)ModelArts，完成對(duì)計(jì)算、通信、存儲(chǔ)和算法多方面的優(yōu)化。

通過(guò)這樣深度的AI堆棧，華為云可以為盤古提供堅(jiān)實(shí)可靠的AI基礎(chǔ)。如果需要更大的大模型集群系統(tǒng)，還可以在通信方面進(jìn)行深度優(yōu)化。

張平安還表示，雖然無(wú)法使用業(yè)內(nèi)最先進(jìn)的大模型，但在AI昇騰云算力的基礎(chǔ)上，它的效能不僅不落后，而且還達(dá)到了目前業(yè)界主流GPU的1.1倍 。

盤古的快速迭代和更新離不開昇騰AI云的支持。 而華為云不僅向行業(yè)輸出大模型，現(xiàn)在也可以向行業(yè)輸出訓(xùn)練大模型的AI服務(wù)了。

就像微軟與OpenAI合作，向企業(yè)客戶與開發(fā)者提供微軟Azure OpenAI服務(wù)一樣，華為云現(xiàn)在開始也可以向企業(yè)客戶與開發(fā)者提供昇騰AI云服務(wù)。

昇騰AI云提供單集群2000P FLOPS的算力，支持千卡訓(xùn)練一個(gè)月以上不中斷，已經(jīng)在貴安與烏蘭察布兩座城市的AI算力中心上線了，而下一座即將上線的是蕪湖AI算力中心。 昇騰AI云不僅支持華為MindSpore框架，同時(shí)也支持行業(yè)內(nèi)主流的AI框架，如PyTorch、TensorFlow等。

在客戶層面，昇騰AI云已經(jīng)取得了一些進(jìn)展。張平安提到，美圖在30天內(nèi)將70多個(gè)AI應(yīng)用遷移到了昇騰云上，同時(shí)華為云與美圖開發(fā)人員一起對(duì)30多個(gè)算子進(jìn)行了深度優(yōu)化。優(yōu)化后的算子與以前相比，AI算力的效能提升了30%。

大模型正在重塑各行各業(yè)，這并非是某一家企業(yè)的游戲，而是需要企業(yè)、開發(fā)者和伙伴更加緊密地協(xié)作，共同創(chuàng)新，共享價(jià)值和機(jī)遇。張平安提到，已經(jīng)有許多客戶和伙伴已經(jīng)在創(chuàng)新應(yīng)用中使用盤古大模型，優(yōu)化企業(yè)流程，提高效率，推動(dòng)行業(yè)智能化升級(jí)。

4.盤古幕后：華為云的“特戰(zhàn)部隊(duì)”

雖然華為云官方宣布盤古大模型的立項(xiàng)時(shí)間是在2020年，但實(shí)際上對(duì)于大模型的探索早就開始了。

2019年12月，華為諾亞方舟實(shí)驗(yàn)室的NLP團(tuán)隊(duì)就開源過(guò)兩個(gè)基于BERT路線進(jìn)行優(yōu)化和改進(jìn)的預(yù)訓(xùn)練模型——哪吒和TinyBERT。但該模型后續(xù)就沒(méi)有更多下文了。

2020年3月，華為諾亞方舟實(shí)驗(yàn)室計(jì)算機(jī)視覺(jué)首席科學(xué)家田奇，在內(nèi)部轉(zhuǎn)崗至華為云團(tuán)隊(duì)，擔(dān)任人工智能領(lǐng)域首席科學(xué)家。他將是后來(lái)的盤古大模型團(tuán)隊(duì)的負(fù)責(zé)人。

田奇是計(jì)算機(jī)視覺(jué)領(lǐng)域的專家。他本科畢業(yè)于清華大學(xué)電子工程系，碩士畢業(yè)于美國(guó)德雷塞爾大學(xué)，后赴美國(guó)伊利諾伊大學(xué)香檳分校學(xué)習(xí)，師從Thomas S. Huang教授，并獲得博士學(xué)位。在2002年至2019年期間，歷任美國(guó)德克薩斯大學(xué)圣安東尼奧分校計(jì)算機(jī)系助理教授、副教授、正教授。

華為云人工智能領(lǐng)域首席科學(xué)家田奇

2018年，田奇做出了一個(gè)改變?nèi)松壽E的決定，離開學(xué)術(shù)界，加入華為。對(duì)此，他曾如此解釋：“我在德克薩斯大學(xué)圣安東尼奧分校做了17年的老師，教的本科學(xué)生換了一批又一批，永遠(yuǎn)是18歲到22歲。但我一直希望能夠?qū)⑽覀児餐鲞^(guò)的東西投入到真實(shí)場(chǎng)景中，看能不能給社會(huì)提供作用、發(fā)揮價(jià)值。 ”

就在田奇加入華為云的這個(gè)夏天，OpenAI發(fā)布了GPT-3，模型參數(shù)從上一代GPT-2的15億陡升至1750億，在人工智能領(lǐng)域掀起巨大震動(dòng)。當(dāng)時(shí)，谷歌、Meta等國(guó)際巨頭已經(jīng)圍繞預(yù)訓(xùn)練大模型展開激烈競(jìng)爭(zhēng)，而在國(guó)內(nèi)，預(yù)訓(xùn)練大模型的發(fā)展還極為有限。根據(jù)IDC《2022中國(guó)大模型發(fā)展白皮書》的數(shù)據(jù)，2020年之前，中國(guó)大模型的數(shù)量只有2個(gè)。

當(dāng)時(shí)的華為云已經(jīng)把AI作為重要賽道。在看到預(yù)訓(xùn)練大模型在解決AI應(yīng)用碎片化、處理大規(guī)模多任務(wù)上表現(xiàn)出來(lái)的強(qiáng)大性能之后，華為云也開始“匯聚英才”，準(zhǔn)備進(jìn)軍大模型。2021年時(shí)，該團(tuán)隊(duì)包含20多名博士、30多名工程師、3名廣受關(guān)注的“華為天才少年”，還有50多名來(lái)自全國(guó)C9高校的專家。

田奇希望給盤古大模型找到差異化突破口。當(dāng)時(shí)國(guó)外對(duì)NLP大模型的關(guān)注度較高，而且已經(jīng)取得了較好的成績(jī)，但國(guó)內(nèi)外對(duì)CV方面的大模型關(guān)注度都不高。因此，華為云盤古大模型沒(méi)有局限在NLP領(lǐng)域，而是從CV著手，與NLP并行，二者結(jié)合語(yǔ)言、圖像，搞多模態(tài)。同時(shí)，還特別看重華為一向非常重視的科學(xué)計(jì)算。

2020年11月，盤古大模型在華為云內(nèi)部立項(xiàng)成功。為了盡快追趕上國(guó)際水平，田奇將這個(gè)團(tuán)隊(duì)稱之為 “特戰(zhàn)隊(duì)員”，他們需要克服時(shí)間、數(shù)據(jù)、算力資源等等難題。

為此，田奇團(tuán)隊(duì)采取廣泛合作的對(duì)策。例如數(shù)據(jù)方面，他們找到了氣象局等合作伙伴；資源、算力方面，又尋求與鵬城實(shí)驗(yàn)室進(jìn)行合作。成員本身也需要隨時(shí)調(diào)整身份做其他工作，比如CV專家可能也會(huì)去參與NLP和多模態(tài)大模型的開發(fā)，甚至他的CV知識(shí)都會(huì)靈活運(yùn)用到其它領(lǐng)域中。在后期，這些技術(shù)專家們還需要更長(zhǎng)遠(yuǎn)地去考慮商業(yè)化模式方面的問(wèn)題。

在奮戰(zhàn)6個(gè)月之后，華為云盤古大模型終于面世，并在接下來(lái)的兩年中進(jìn)行了兩次大版本的迭代，直到今天盤古大模型3.0的發(fā)布。

華為云提前種下的種子，已經(jīng)比多數(shù)同行更早結(jié)出了果實(shí)。

END.

參考鏈接：

標(biāo)簽：