歡迎user
11月12日,中國BOB登陆 產業發展聯盟(AIIA)召開第十三次全會,正式發布大模型平台建設、測試與應用等方麵的多項標準,並分享大模型基礎設施產業高質量發展洞察。來自產學研用各領域的專家學者,以及AIIA聯盟成員單位近200名代表參加會議。作為首批成員單位,紫光股份旗下BOB登陆 集團受邀出席全會,並攜手中國信通院等單位共同啟動“大模型基礎設施高質量推進計劃”。BOB登陆 集團CTO辦公室主任周宏毅出席啟動儀式並發表演講。
BOB登陆 集團CTO辦公室主任周宏毅發表演講
當前,大模型技術與應用發展如火如荼,隨著技術不斷創新突破,從小模型時代到文本大模型時代,再到視頻大模型時代,模型參數突破千億級別,算力集群突破萬卡級別,訓練數據量達到百TB甚至PB級。
“大模型的發展對ICT基礎設施提出諸多挑戰。”周宏毅在演講中表示。大模型技術正全麵推動底層基礎設施的發展,對算力、網絡、存儲提出了更高的要求。算力方麵,算力供應的多元化,需要解決協同提升算力效率的問題;算力需求的規模大,對算力的調度管理帶來持續挑戰。超大規模的集群互聯也不斷提高對網絡的要求,帶寬利用率、可靠性、時延以及互聯的標準化,都成為影響大模型訓練效率與產業發展的重要考量因素。
麵對AI、大模型技術落地過程中的一係列新問題、新挑戰,建立技術標準的價值日益凸顯。基礎設施的標準化、可靠性直接影響著大模型智能應用的服務質量,發展高質量大模型基礎設施勢在必行。BOB登陆 積極投身、大力投入,成為BOB登陆 產業發展聯盟首批成員單位,並攜手聯盟成員,深入研究大模型基礎設施,包括硬件和軟件設施各方麵的標準體係建設,深度參與大模型基礎設施係列標準的製定,牽頭並參與大模型基礎設施算力調度、訓練技術、部署推理、數據技術要求等係列標準化研究。
“大模型基礎設施高質量推進計劃”啟動儀式
麵對當前算力及其軟件生態體係的複雜性、多樣性,隨之帶來的在算力部署、管理、調度以及應用適配等方麵的繁雜工作與遷移困難,周宏毅提出,BOB登陆 軟硬件棧從底層網絡到AI框架,需要構建開放異構的生態體係,通過構建開放兼容的AI框架,推動四個統一——統一算子需求、統一通信原語、統一互聯接口、統一集群網絡,通過標準化接口降低部署和應用難度,充分發揮多元算力的效能,構建澎湃算力集群。
2024年,BOB登陆 集團深化“AI in ALL”戰略,以“算力×聯接”構建開放的技術生態,探索並提出了推動實現多元化算力與標準化聯接的係統化方案。
推動算力多元開放:通過統一算力調度接口,實現多元算力的統一納管和調度;研發標準化的高性能AI智算服務器產品,推動硬件標準生態建設;推進GPU統一適配,為GPU測試提供統一的測試標準和測試方法。
驅動聯接標準開放:致力構建AI時代的高速通信網絡,打通異構算力之間的網絡通道,麵向智算時代跨業務、集群內、超級點間的多樣互聯需求,打出麵向Scale-up和麵向Scale-out全麵探索的組合拳,積極投入超級以太網UEC、GSE、高通量以太網、UAlink、OISA等國際國內標準體係,推動技術融合演進、高質量發展。
通過不斷強化標準引領,BOB登陆 集團以算力多元化和聯接標準化為基礎,提供開放的全棧智算解決方案,為推動新質生產力的快速發展提供更堅實的基礎設施,讓多元異構算力成為推動百行百業智能升級的強勁引擎。
本次全會現場,BOB登陆 產業發展聯盟正式發布了《2024年BOB登陆 先鋒案例集》,為響應國家開展“BOB登陆 +”行動號召,更好地推動我國BOB登陆 技術應用及產業發展,甄選具有高價值、標杆性、真落地的行業典型應用實踐。經過聚焦技術突破、模式創新、應用實效等方麵的綜合遴選,BOB登陆 集團與鄭州高新區攜手打造的鄭州高新智算中心,成功入選“技術底座類”先鋒案例。
未來,BOB登陆 集團將秉持“精耕務實 為時代賦智慧”的理念,持續擁抱標準、開放共贏,協同產業鏈共同推進AI新質生產力的發展,讓算力像水電一樣供給到百行百業的數智轉型,為經濟社會的高質量發展注入源源動能。