以夸娥千卡集群為底座,摩爾線程與無問芯穹聯手開啟千億大模型服務新篇章
3月31日,無問芯穹AI算力優化論壇暨產品發布會在上海成功舉辦,重磅發布了“無穹Infini-AI”大模型開發與服務平臺,并宣布與國內AI芯片領軍企業摩爾線程達成深度戰略合作。這一強強聯合旨在基于摩爾線程大模型智算千卡集群夸娥(KUAE),攜手打造集高效算力、便捷調度、穩定運行于一體的全國產大模型算力服務和云端調度平臺,為更多用戶開展大模型開發、訓練、運行、應用提供完整的交鑰匙解決方案。
無穹Infini-AI大模型開發與服務平臺是基于無問芯穹的智算云平臺,針對生成式大模型的應用落地的多種場景需求,為應用開發者提供高性能、易上手、安全可靠的大模型服務,覆蓋從大模型開發到大模型服務化部署的全流程。目前,無穹Infini-AI已支持了Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3閉源模型、Llama2、Qwen、Qwen1.5等系列模型共20多個模型。
圖注:無穹Infini-AI平臺演示
當前,無穹Infini-AI與摩爾線程大模型智算千卡集群夸娥(KUAE)已順利完成系統級融合適配,并完成了LLama2-70B大模型的訓練測試。發布會現場演示了無穹Infini-AI如何靈活調用夸娥的集群能力以完成大模型的訓練、微調與推理任務。
摩爾線程是第一家接入無問芯穹并成功完成千卡級別大模型訓練的國產GPU公司。無問芯穹聯合創始人兼CEO夏立雪表示:“經驗證,摩爾線程夸娥千卡智算集群在性能、穩定性、易用性和算力利用率上均有優異表現,可以為千億參數級別大模型訓練提供持續高效的高性能算力支持。”雙方的合作是國產算力產業鏈上下游攜手推動大模型落地應用的完美例證。
摩爾線程聯合創始人兼執行總裁王東表示,“基于先進的MUSA架構,摩爾線程已建立了從芯片、板卡、集群到軟件的全棧AI產品線。摩爾線程夸娥智算集群是以全功能GPU為底座、軟硬一體化的全棧解決方案,憑借高兼容性、高穩定性、高擴展性等綜合優勢,我們致力于成為大模型訓練堅實可靠的先進基礎設施。”
無問芯穹依托行業領先且經過驗證的AI計算優化能力與算力解決方案,追求大模型落地的極致能效。打造“M種模型”和“N種芯片”間的“M×N”中間層產品,實現多種大模型算法在多元芯片上的高效、統一部署。鏈接上下游,共建AGI時代大模型基礎設施,加速AGI落地千行百業。摩爾線程作為國內AI芯片領軍企業,旨在為廣泛的生態合作伙伴提供強大的AI計算加速能力,可充分賦能大模型AIGC、數字孿生、物理仿真等場景,驅動各行業智能變革,致力于為新質生產力提供AI原動力。
基于此次戰略合作,無問芯穹與摩爾線程將攜手共進,開展更多適配與測試,推動國產大模型技術的快速發展與應用普及,為中國人工智能產業的蓬勃發展貢獻力量。