7月2日,云天勵飛發(fā)布公告,公司與德元方惠簽署《關于AI算力運營項目的服務合同》,此前與德元方惠簽署的《AI 算力運營合作框架協(xié)議》正式落地。根據(jù)合同,云天勵飛將向德元方惠提供算力總規(guī)模模約 4000 PFLOPS 的 AI 訓練及推理算力服務。合同服務期3年,累計總服務費超16億元。

今年6月6日,云天勵飛已經(jīng)與德元方惠簽署《AI 算力運營合作框架協(xié)議》,就德元方惠向云天勵飛購買 AI 訓練及推理算力服務達成了框架安排并對雙方簽署正式合同的條件、核心交易要素及違約責任等事項進行了約定,并約定德元方惠應在于與其客戶簽署項目合同之日起 10 個工作日內(nèi),與云天勵飛完成正式合同的簽署。

本次雙方簽署服務合同,意味著此前簽署的框架協(xié)議正式落實,奠定云天勵飛未來業(yè)績高速增長基礎,亦標志著云天勵飛AI運營業(yè)務的一大突破。

將自研大模型經(jīng)驗融入算力運營服務

大模型的蓬勃發(fā)展帶來了算力需求的激增。根據(jù)中信建投的測算,2023年-2027年,全球大模型訓練端峰值算力需求量的年復合增長率有望達到 78.0%,工信部數(shù)據(jù)顯示,截至2023年6月底,算力總規(guī)模達到197EFLOPS,算力總規(guī)模近五年年均增速近30%,存力總規(guī)模超過1080EB。

云天勵飛自主研發(fā)了千億級大模型“云天天書”,并在大模型的研發(fā)過程中積累了一系列算力調(diào)優(yōu)、提升模型訓練效率的技術平臺和相應工具,云天勵飛將上述技術沉淀運用在 AI 算力服務中,可幫助客戶提升模型訓練及算力利用效率,同時,此次AI算力運營服務合同的簽訂也標志著公司AI運營業(yè)務迎來新的重大突破。

此外,公司將持續(xù)投入自研大模型研發(fā)及優(yōu)化工作,預計將維持較高對 AI 訓練及推理異構算力的需求,此次《服務合同》項下涉及對于高性能異構算力的采購未來亦可視需要作為云天勵飛大模型研發(fā)工作所需算力基礎的補充,支撐公司大模型技術的持續(xù)進步。

提前布局推理算力

今年以來,大模型全面進入應用落地階段,推理算力需求隨之不斷增長。根據(jù)IDC數(shù)據(jù),預計到2026年中國數(shù)據(jù)中心用于推理的負載將達到62.2%。云天勵飛持續(xù)看好大模型進入成熟商業(yè)化階段后推理需求的爆發(fā),并在推理算力領域進行戰(zhàn)略部署。

相較于大模型訓練算力的一次性開銷而言,推理算力需求將隨著模型使用時間和用戶量的增長而快速增加,因此在大模型進入成熟商業(yè)化階段之后將迎來需求爆發(fā)。云天勵飛所搭建超大規(guī)模異構高性能算力集群將其自研推理卡與高性能訓練算力相結合,為客戶提供高效的訓推一體算力服務,同時為自研推理卡落地打開場景觸角,搭建生態(tài),為大模型進入成熟商業(yè)化階段后的推理需求爆發(fā)提前布局。

未來,云天勵飛亦可在超大規(guī)模異構高性能算力集群中,將自研推理卡與高性能訓練算力相結合,為自研推理卡落地打開場景觸角,搭建生態(tài),為行業(yè)帶來更豐富的算力服務。

關鍵詞：