6 月 20 日消息，在華為開發(fā)者大會 2025（HDC 2025）上，華為常務(wù)董事、華為云計(jì)算 CEO 張平安宣布基于 CloudMatrix 384 超節(jié)點(diǎn)的新一代昇騰 AI 云服務(wù)全面上線，同時宣布盤古大模型 5.5 正式發(fā)布，自然語言處理（NLP）、計(jì)算機(jī)視覺（CV）、多模態(tài)、預(yù)測、科學(xué)計(jì)算五大基礎(chǔ)模型全面升級。

隨著大模型訓(xùn)練和推理對算力需求的爆炸式增長，傳統(tǒng)計(jì)算架構(gòu)已難以支撐 AI 技術(shù)的代際躍遷。華為云相關(guān)專家表示，傳統(tǒng)的分布式系統(tǒng)本質(zhì)上是一個松耦合系統(tǒng)，服務(wù)器之間一般用 25Gbps 或 100Gbps 以太網(wǎng)帶寬就可以滿足絕大多數(shù)應(yīng)用的需求。而 AI 時代的應(yīng)用負(fù)載與傳統(tǒng)業(yè)務(wù)有很大不同，當(dāng)前服務(wù)器集群的以太網(wǎng)互聯(lián)帶寬已經(jīng)越來越難滿足前面提到的 AI 時代的訓(xùn)練、推理等場景的需求。

云平臺必須通過新型的超高性能網(wǎng)絡(luò)把大量 GPU、CPU 等多元算力連接在一起，并且用 " 對等架構(gòu) " 替換掉傳統(tǒng)的 " 主從架構(gòu) "，讓多元算力可以直接通信，不需要通過 CPU，這樣才能滿足需求，這個能力是 AI 原生云基礎(chǔ)設(shè)施最重要的能力。

華為云新一代昇騰 AI 云服務(wù)基于 CloudMatrix 384 超節(jié)點(diǎn)，首創(chuàng)將 384 顆昇騰 NPU 和 192 顆鯤鵬 CPU 通過全新高速網(wǎng)絡(luò) MatrixLink 全對等互聯(lián)，形成一臺超級 "AI 服務(wù)器 "，單卡推理吞吐量躍升到 2300 Tokens/s，與非超節(jié)點(diǎn)相比提升近 4 倍。

據(jù)悉，超節(jié)點(diǎn)架構(gòu)能更好地支持混合多專家 MoE 大模型的推理，可以實(shí)現(xiàn) " 一卡一專家 "，一個超節(jié)點(diǎn)可以支持 384 個專家并行推理，極大提升效率；同時，超節(jié)點(diǎn)還可以支持 " 一卡一算子任務(wù) "，靈活分配資源，提升任務(wù)并行處理，減少等待，將算力有效使用率（MFU）提升 50% 以上。

對于萬億、十萬億參數(shù)的大模型訓(xùn)練任務(wù)，在云數(shù)據(jù)中心，還能將 432 個超節(jié)點(diǎn)級聯(lián)成最高 16 萬卡的超大集群；同時，超節(jié)點(diǎn)還可以支持訓(xùn)推算力一體部署，如 " 日推夜訓(xùn) "，訓(xùn)推算力可靈活分配，幫助客戶資源使用最優(yōu)。

昇騰 AI 云服務(wù)已為科大訊飛、新浪、硅基流動、面壁智能、中科院、360 等超過 1300 家客戶提供澎湃的 AI 算力。

基于國產(chǎn)算力，盤古大模型 5.5 全面升級

與其他大模型廠商，華為在大模型領(lǐng)域的戰(zhàn)略是聚焦行業(yè)，通用大模型也是為了更好深入行業(yè) AI，盤古大模型的使命是讓各個行業(yè)不必重復(fù) " 造輪子 "，不必從零打造自己的企業(yè)大模型?；诖?，華為云本次發(fā)布盤古大模型 5.5，五大基礎(chǔ)模型全面升級。

首先是盤古自然語言處理 NLP 大模型，全新的 718B 深度思考模型是一個由 256 個專家組成的 MoE 大模型，在知識推理、工具調(diào)用、數(shù)學(xué)等領(lǐng)域大幅增強(qiáng)，處于業(yè)界第一梯隊(duì)。盤古大模型基于昇騰云的全棧軟硬件訓(xùn)練，標(biāo)志著基于昇騰可以打造出世界一流大模型。

盤古深度研究 DeepDiver 通過長鏈難題合成、漸進(jìn)式獎勵等關(guān)鍵技術(shù)，可以在網(wǎng)頁搜索、常識性問答等應(yīng)用上獲得很高的執(zhí)行效率，如可以在 5 分鐘內(nèi)完成超過 10 跳的復(fù)雜問答、生成萬字以上的專業(yè)調(diào)研報告等，大幅提升工作效率。

面向行業(yè)企業(yè)客戶，華為云提供了盤古基礎(chǔ)及行業(yè)大模型、預(yù)訓(xùn)練和后訓(xùn)練語料、數(shù)據(jù)工程工具集、模型訓(xùn)練工具集、行業(yè)裁判模型、行業(yè)評測平臺六大核心能力，通過華為云 ModelArts 完備的工具鏈和工程化的方法，將企業(yè)自己沉淀的數(shù)據(jù)資產(chǎn)，進(jìn)行高質(zhì)量的增訓(xùn)、微調(diào)和強(qiáng)化學(xué)習(xí)，讓行業(yè)客戶能夠快速打造自己的專業(yè)大模型。

中國農(nóng)業(yè)科學(xué)院在盤古大模型基礎(chǔ)上，增訓(xùn)海量專業(yè)文獻(xiàn)與跨物種多組學(xué)數(shù)據(jù)，構(gòu)建了面向育種領(lǐng)域的農(nóng)業(yè)科學(xué)發(fā)現(xiàn)大模型，實(shí)現(xiàn)精準(zhǔn)農(nóng)業(yè)專業(yè)知識問答、高效基因分析和定向位點(diǎn)設(shè)計(jì)，縮短了早期研發(fā)周期，提升了目標(biāo)性狀改良精準(zhǔn)性。當(dāng)前，農(nóng)科院團(tuán)隊(duì)已基于該農(nóng)業(yè)科研智能系統(tǒng)成功地對一種水稻材料進(jìn)行了株型改良，株高較常規(guī)品種降低約 25%，抗倒伏能力顯著提升，同時產(chǎn)量不受影響。

會上，張平安還發(fā)布盤古醫(yī)學(xué)、金融、政務(wù)、工業(yè)、汽車五個具備深度思考能力的行業(yè)自然語言大模型，加速行業(yè)智能化，并將在 6 月底正式上線。

基于盤古多模態(tài)大模型的世界模型，可以為智能駕駛、具身智能機(jī)器人的訓(xùn)練，構(gòu)建所需要的數(shù)字物理空間，實(shí)現(xiàn)持續(xù)優(yōu)化迭代；基于盤古大模型的多模態(tài)能力及思維能力，華為云正式發(fā)布 CloudRobo 具身智能平臺；盤古預(yù)測大模型采用業(yè)界首創(chuàng)的 triplet transformer 統(tǒng)一預(yù)訓(xùn)練架構(gòu)，極大地提升預(yù)測大模型的精度，并大幅提升跨行業(yè)、跨場景的泛化性。盤古科學(xué)計(jì)算大模型和盤古計(jì)算機(jī)視覺 CV 大模型也同步更新。

過去一年，盤古大模型已在 30 多個行業(yè)、500 多個場景中落地，在政務(wù)、金融、制造、醫(yī)療、煤礦、鋼鐵、鐵路、自動駕駛、氣象等領(lǐng)域發(fā)揮價值。

加碼 AI 云，發(fā)布企業(yè)級 Agent 平臺

除了幫助客戶更好地?fù)肀?AI，華為云也在不斷通過 AI 技術(shù)重塑云服務(wù)，打造 AI Native 的云。華為云 CTO 張宇昕發(fā)布企業(yè) Agent 平臺 ModelArts Versatile，內(nèi)置了各類業(yè)務(wù)場景的經(jīng)驗(yàn)?zāi)０?，支持自助式的智能體開發(fā)，Versatile 還提供了智能化工具鏈，實(shí)現(xiàn) Agent 分鐘級工作輸出，達(dá)成傳統(tǒng)人工天級工作成果，有效降低 Agent 開發(fā)的復(fù)雜度與專業(yè)性。

CodeArts Doer 構(gòu)建了業(yè)界最全的 6 大開發(fā)領(lǐng)域?qū)I(yè) Agent，覆蓋項(xiàng)目經(jīng)理、產(chǎn)品管理、開發(fā)、構(gòu)建、測試和部署全流程，將軟件研發(fā)端到端提效 40% 以上；GaussDB Doer 在精準(zhǔn)查詢方面，基于盤古大模型，利用全球上萬個 GaussDB 運(yùn)維案例的百億 Tokens 數(shù)據(jù)微調(diào)，構(gòu)建專業(yè)運(yùn)維基模型；MetaStudio 通過個性化 TTS 語音合成，數(shù)字人的音色相似度、讀音準(zhǔn)確率都達(dá)到業(yè)界領(lǐng)先。

此外，華為云提供包含語料數(shù)據(jù)安全、模型安全、推理安全、應(yīng)用安全在內(nèi)的端到端大模型安全方案。大模型防火墻通過提示詞攻擊防范和敏感內(nèi)容實(shí)時檢測，保障大模型推理安全。一方面識別越獄、角色扮演、惡意指令等主流提示詞攻擊手段；另一方面預(yù)置了百萬級規(guī)則庫，針對提示詞攻擊的檢出率大于 95%，整體能夠幫助模型綜合安全評測得分提升 20% 以上。

華為云是華為公司面向開發(fā)者的統(tǒng)一底座，目標(biāo)打造昇騰、鴻蒙、鯤鵬、GaussDB、歐拉等各項(xiàng)根技術(shù)的生態(tài)，目前華為云開發(fā)者已超過 800 萬，支持鯤鵬、昇騰、鴻蒙等生態(tài)的開發(fā)者總計(jì)達(dá)到 1300 萬。（本文首發(fā)于鈦媒體 APP，作者 | 張帥，編輯 | 蓋虹達(dá)）