36 氪獲悉，AI 基礎(chǔ)設(shè)施廠商「基流科技」已于近期完成近億元 A+ 輪融資，由上海國投孚騰資本、國方創(chuàng)新聯(lián)合領(lǐng)投，克拉瑪依城發(fā)基金、張江燧芯基金跟投，老股東卓源亞洲連續(xù)四輪追加投資。本輪募集資金將主要用于核心技術(shù)研發(fā)、市場拓展和團(tuán)隊(duì)建設(shè)。
基流科技成立于 2023 年 2 月，源自清華大學(xué)網(wǎng)絡(luò)安全實(shí)驗(yàn)室。創(chuàng)始人胡效赫是清華大學(xué)博士、博士后，在高性能網(wǎng)絡(luò)和分布式系統(tǒng)領(lǐng)域有十余年研究經(jīng)驗(yàn)。核心團(tuán)隊(duì)成員來自清華、北大等頂尖高校及阿里、百度、中興等頭部廠商。
基流科技定位為全棧自主的 AI 算力建筑商，團(tuán)隊(duì)專注于攻克大規(guī)模算力集群的分布式計(jì)算通信難題。作為國內(nèi)極少擁有數(shù)個(gè)萬卡集群落地經(jīng)驗(yàn)的 AI 基礎(chǔ)設(shè)施廠商，公司已服務(wù)包括智譜 AI、商湯科技、運(yùn)營商、數(shù)據(jù)中心及地方國企在內(nèi)的多個(gè)用戶。
" 不同于專注算力平臺(tái)運(yùn)營的‘房地產(chǎn)開發(fā)商’和專注系統(tǒng)優(yōu)化的‘裝修商’，我們聚焦搭建覆蓋計(jì)算通信軟硬件的高性能開源自主智算系統(tǒng)，類似‘蓋房子’。" 基流科技聯(lián)合創(chuàng)始人兼 CFO 謝文奇向 36 氪介紹。
隨著大模型和 AIGC 應(yīng)用的爆發(fā)，算力已成為繼水、電、網(wǎng)之后的新型基礎(chǔ)設(shè)施，緊隨之而來的是網(wǎng)絡(luò)通信瓶頸、高故障率和供應(yīng)商軟硬綁定帶來的高昂成本。英偉達(dá)憑借其 CUDA 生態(tài)，不僅銷售 GPU，還捆綁其專用的網(wǎng)絡(luò)設(shè)備，形成了封閉且昂貴的解決方案。
" 我們的核心優(yōu)勢在于性價(jià)比與開放性，其本質(zhì)在于實(shí)現(xiàn)‘解耦’ "，基流科技創(chuàng)始人胡效赫曾指出。通過基流科技自研的 RoCE 組網(wǎng)方案，客戶的成本可降低 40%，交付周期也從數(shù)月縮短至數(shù)周。在 2023 年下半年，基流科技就成功落地了國內(nèi)最早的第三方千卡 H800 RoCE 集群，有力支撐了國產(chǎn)大模型公司的基座模型迭代。
目前，基流科技打造了自研的高性能開源智算系統(tǒng) Galaxy HPAC（High-Performance AI Computing）。該系統(tǒng)主要包括三大核心產(chǎn)品：高性能融合 AI 網(wǎng)絡(luò) ( Mercury-X ) 、人工智能平臺(tái) ( Venus-AICloud ) 和算力建維平臺(tái) ( Venus-AIDOC ) 。另外，公司自研的 MS6426 全國芯 25.6T 高速開源 AI 交換機(jī)，已通過智算集群 72 小時(shí)長穩(wěn)測試，實(shí)現(xiàn)規(guī)模部署。
謝文奇介紹，經(jīng)過兩年多時(shí)間的發(fā)展，公司累計(jì)組網(wǎng)調(diào)優(yōu)交付的集群規(guī)模已達(dá) 23 個(gè)，超 6 萬 6 千張 GPU、4000 余臺(tái)交換機(jī)，和超 32 萬個(gè)光模塊，同時(shí)已成功落地多個(gè)跨遠(yuǎn)距離訓(xùn)推集群（ 50 公里、100 公里、1500 公里）。
對(duì)于算力是否過剩的疑問，謝文奇告訴 36 氪，算力不只是為了預(yù)訓(xùn)練存在，目前不管國內(nèi)還是國外的大模型公司仍在進(jìn)行預(yù)訓(xùn)練，同時(shí)推理和后訓(xùn)練的算力需求正快速增長。但從需求占比看，他提到，2023 年訓(xùn)練與推理的算力需求比大概是 7:3，2024 年是 5:5，到 2025 年可能會(huì)達(dá)到 3:7。在立足北京、上海等核心區(qū)域同時(shí)，基流科技也積極響應(yīng)國家戰(zhàn)略，在新疆、寧夏等地參與算力項(xiàng)目落地。
目前，基流科技已投入十萬卡集群的仿真和未來架構(gòu)設(shè)計(jì)。胡效赫坦言，雖然國內(nèi)對(duì)如何構(gòu)建和使用十萬卡集群仍在探索階段，但技術(shù)必須先行。公司正與更多行業(yè)伙伴合作，推動(dòng)硬件國產(chǎn)化替代和 AI 基礎(chǔ)設(shè)施生態(tài)開放與成熟。
