近日,天翼云通過國(guó)內(nèi)唯一人工智能云平臺(tái)領(lǐng)域的ITU國(guó)際標(biāo)準(zhǔn)評(píng)估——中國(guó)信通院組織的ITU-T F.AICP-GA人工智能云平臺(tái)技術(shù)規(guī)范國(guó)際標(biāo)準(zhǔn)和《智算工程平臺(tái)能力要求》國(guó)內(nèi)標(biāo)準(zhǔn)一致性評(píng)估,并成為國(guó)內(nèi)首批通過該標(biāo)準(zhǔn)的公司。
該測(cè)評(píng)涵蓋管理運(yùn)維服務(wù)、數(shù)據(jù)工程服務(wù)、模型開發(fā)訓(xùn)練服務(wù)、模型推理部署服務(wù)、智算安全服務(wù)、AI能力中心、中間件服務(wù)以及應(yīng)用服務(wù)八個(gè)部分,共220余項(xiàng)能力項(xiàng)。天翼云“息壤”一站式智算服務(wù)平臺(tái)出色通過測(cè)評(píng),表明產(chǎn)品的可靠性、穩(wěn)定性和規(guī)范性已得到行業(yè)權(quán)威認(rèn)可。
天翼云“息壤”是為大模型訓(xùn)練、推理、應(yīng)用提供全棧工具鏈的智算服務(wù)平臺(tái),包含數(shù)據(jù)管理、模型開發(fā)與訓(xùn)練、模型評(píng)估、模型管理、服務(wù)部署等模塊。平臺(tái)內(nèi)置豐富的基座大模型,支持國(guó)產(chǎn)化等異構(gòu)算力,提供算子加速與模型加速,可極大提升大模型訓(xùn)練推理效率。
天翼云自研的國(guó)內(nèi)首個(gè)單集群萬卡國(guó)產(chǎn)化全功能預(yù)訓(xùn)練云服務(wù)平臺(tái),具備萬卡納管、并行訓(xùn)練能力,4000億參數(shù)模型Llama3.1-405B和700億參數(shù)模型Llama2-70B都已完成萬卡規(guī)模訓(xùn)練,MFU處于業(yè)界領(lǐng)先水平?;谧詣?dòng)斷點(diǎn)訓(xùn)練、高效多級(jí)checkpoint、全鏈路檢測(cè)工具鏈等多項(xiàng)技術(shù)突破,實(shí)現(xiàn)萬卡訓(xùn)練故障秒級(jí)定位、分鐘級(jí)處理、分鐘級(jí)恢復(fù)。無論是從算力服務(wù)能力,還是性能穩(wěn)定性和數(shù)據(jù)安全性,天翼云智算平臺(tái)都具有強(qiáng)有力的市場(chǎng)競(jìng)爭(zhēng)力,不斷推動(dòng)著行業(yè)高速發(fā)展。
此外,“息壤”平臺(tái)提供了豐富的工具支撐和標(biāo)準(zhǔn)化接口服務(wù),支持多種開發(fā)模式,使開發(fā)者能夠更加方便地接入和使用平臺(tái)資源。同時(shí),平臺(tái)通過整合資源管理、用戶管理、事件管理、監(jiān)控告警、容災(zāi)建設(shè)和可觀測(cè)性等多項(xiàng)服務(wù),穩(wěn)定性和易用性大幅提升。
科技創(chuàng)新是發(fā)展新質(zhì)生產(chǎn)力的核心要素。未來,天翼云將持續(xù)加強(qiáng)關(guān)鍵核心技術(shù)自主攻關(guān),不斷迭代升級(jí)“息壤”一體化智算服務(wù)體系和能力,加快科技成果落地轉(zhuǎn)化,在“AI+云”融合創(chuàng)新的時(shí)代背景下,基于強(qiáng)大的國(guó)云智算底座,為經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展蓄勢(shì)賦能。