隨著人工智能、云計算等新一代信息技術(shù)快速發(fā)展,算力加速向千行百業(yè)滲透融合發(fā)展,助推行業(yè)邁向數(shù)智化新階段。3月15日下午,在華為中國合作伙伴大會2024上,軟通智慧攜手華為發(fā)布基于昇騰的公共算力服務(wù)平臺,為客戶提供易用、高效、解耦的一站式AI解決方案。
在過去的一年,以大模型為代表的生成式人工智能迎來爆發(fā)式增長,引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革深入發(fā)展。千行百業(yè)紛紛引入人工智能大模型技術(shù),以期望增強(qiáng)自身核心競爭力、獲得行業(yè)先發(fā)優(yōu)勢。但多元異構(gòu)算力、模型訓(xùn)練和調(diào)試等難題,讓用戶面臨高昂的投入和難以預(yù)料的結(jié)果,給行業(yè)的良性發(fā)展帶來阻礙。
軟通智慧城市云業(yè)務(wù)部副部長李全介紹,面對上述難題,軟通智慧攜手華為推出了集異構(gòu)算力云平臺、模型開發(fā)平臺、模型應(yīng)用平臺、運(yùn)營管理平臺和模型服務(wù)的“4+1”AI能力組合,面向多場景、多行業(yè)提供聯(lián)合解決方案及定制服務(wù)。
異構(gòu)算力云平臺以多元算力為基礎(chǔ),集成昇騰技術(shù)底座能力,構(gòu)建一云多芯算力底座,全面適配信創(chuàng)生態(tài),提供穩(wěn)定高效的算力、存儲、網(wǎng)絡(luò)等調(diào)度管理能力。
TongModel一站式模型推訓(xùn)平臺,是面向AI模型生產(chǎn)全生命周期,為企業(yè)和開發(fā)者打造的訓(xùn)推一體化軟件平臺,提供數(shù)據(jù)處理、算法開發(fā)、模型訓(xùn)練、算力管理和推理應(yīng)用等多種開發(fā)組件,助力模型生產(chǎn)與應(yīng)用。平臺不僅具有靈活易用、性能優(yōu)越等優(yōu)勢,還能夠幫助用戶提供一站式AI模型開發(fā)功能,打通深度學(xué)習(xí)全鏈路,幫開發(fā)者構(gòu)建自己的影響力和生態(tài)。
模型應(yīng)用平臺則基于前沿大模型技術(shù)組件,開放可視化且自由的流程編排能力,可以快速搭建以大模型為核心的智能應(yīng)用。平臺提供了可視化的Prompt編排、運(yùn)營、數(shù)據(jù)集管理等功能,可以將大語言模型快速集成到現(xiàn)有應(yīng)用中,并進(jìn)行持續(xù)運(yùn)營和改進(jìn),有效提高訓(xùn)練效率和模型的穩(wěn)定性,以及從“需求到原型再到生產(chǎn)可用”的開發(fā)敏捷性和效率。
運(yùn)營管理平臺,擁有平臺級全局策略定義和全局資源統(tǒng)一管理,實現(xiàn)資源一站式統(tǒng)籌監(jiān)管,不僅實現(xiàn)資源的合理分配和利用,還可以快速統(tǒng)計租戶資源使用情況,避免信息滯后,實現(xiàn)從多集群到多數(shù)據(jù)中心縱向管理和精細(xì)化運(yùn)營。
在模型服務(wù)方面,平臺聚焦客戶實際生產(chǎn)訴求,提供個性化定制模型服務(wù)和全鏈條的AI專家技術(shù)服務(wù)?;诋悩?gòu)AI算力,優(yōu)化深度學(xué)習(xí)框架和算法,為客戶設(shè)計生產(chǎn)高效的AI模型。同時,基于強(qiáng)大的昇騰AI算力底座,還為用戶提供了針對昇騰AI芯片的適配服務(wù),確保模型在各種芯片上的順暢運(yùn)行,助力生態(tài)伙伴和客戶的AI技術(shù)方案應(yīng)用落地。
面對人工智能發(fā)展的無限前景,軟通智慧將攜手華為、伙伴和客戶,厚植“數(shù)據(jù)+AI”沃土,以開放、兼容、合作、共贏的心態(tài),充分發(fā)揮自身優(yōu)勢,持續(xù)加強(qiáng)技術(shù)自主創(chuàng)新,探索人工智能融合應(yīng)用,共同構(gòu)筑良好的生態(tài)體系,助力我國人工智能產(chǎn)業(yè)的全面繁榮發(fā)展。