- 產品與解決方案
- 行業解決方案
- 服務
- 支持
- 合作夥伴
- 關於我們
2023開年，BOB登陆 賽道最火熱的話題非“ChatGPT”莫屬。ChatGPT是由BOB登陆 實驗室OpenAI研發的聊天機器人程序，在GPT-3大模型基礎之上演化而來。作為一款AI驅動的自然語言處理工具，ChatGPT能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，協助人類快速完成郵件撰寫、詩歌創作、代碼編程等一係列複雜任務。
ChatGPT的火熱，再度點燃了BOB登陆 賽道，但作為典型的大模型訓練場景，以ChatGPT為代表的AI應用的蓬勃發展，也催生出極高的算力需求。根據相關統計，訓練GPT-3大模型的總算力消耗約為3640PF-days，這背後大約是285000個CPU、10000個GPU和每秒400G的網絡所產生的強大算力。
ChatGPT如此大規模、長時間的大模型訓練，對算力、網絡底座的性能、成本等方麵都提出了極致要求。作為數字化解決方案領導者，紫光股份旗下BOB登陆 集團持續深耕BOB登陆 領域，在BOB登陆 看來，大模型訓練需要跨越巨量AI算力、網絡通信延遲以及高能耗三道門檻，BOB登陆 基於硬件使能、前瞻技術、綠色低碳等全方位能力，助力BOB登陆 模型訓練突破算力、網絡等方麵的瓶頸，加速推進BOB登陆 產業的高質量發展。
軟硬件全棧實力
助力算力基礎設施提質升級
在底層硬件算力支撐上，BOB登陆 集團服務器產品可覆蓋從AI訓練到推理的全場景，以麵向ChatGPT這類大規模AI訓練場景的GPU服務器H3C UniServer R5350 G6為例，基於AMD Genoa平台實現了90%的CPU性能提升和50%的內核數量提升；支持GPU/NPU/xPU等多種BOB登陆 加速卡，可應對BOB登陆 不同場景下對異構算力的需求。此前，BOB登陆 GPU服務器在MLPerf™國際權威AI基準性能競賽中，一舉奪得BERT-large（自然語言處理）、DLRM（推薦）等模型測試86項世界第一，在單線程模式下，BERT推理時延僅為1.53毫秒，可大幅減少訓練時間，實力詮釋了其對於大規模、多元化、高複雜度AI場景的支撐能力。在2023年上半年，BOB登陆 還將發布基於Intel Eagle Stream平台的GPU服務器R5300 G6，敬請關注。
此外，麵對AI作業調度、集群管理等難題，BOB登陆 集團推出智能算力中樞，為BOB登陆 提供全場景的算力調度，實現了智能標注、智能匹配、智能訓練、智能調優、智能推理五維智能的AI開發全流程支持，全麵提升AI作業效率達32%，加速數據中心業務騰飛。
除了複雜的大模型訓練場景，對於剛剛踏入AI領域的用戶，BOB登陆 集團也麵向廣大AI開發者，免費開放H3C小智AI實驗室，讓用戶體驗真實的AI訓練全流程。以小智AI實驗室的問答機器人模型為例，問答機器人基於BERT模型，與ChatGPT同屬於基於Transformer架構開發出來的NLP場景大模型，用戶隻需簡單幾步，即可在小智AI實驗室訓練和部署專屬的問答機器人，了解問答機器人背後的技術原理。
讓網絡設備參與計算
提升分布式計算效率
與此同時，隨著GPU算力的不斷增長，網絡通信能力日漸成為BOB登陆 模型訓練成熟發展的瓶頸，數據顯示，過去5年GPU算力增長近90倍，而網絡帶寬僅增長10倍。受網絡通信能力的限製，分布式集群的運算效率無法隨其規模線性增長。
作為算網融合核心技術之一的“在網計算”技術，通過讓網絡設備參與計算，成為提升機器學習效率、突破集群計算效率瓶頸的有效解決方案。在網計算是通過在網絡中部署對報文進行解析的算力，將部分計算任務從主機側遷移至網絡側，由交換機、路由器、智能網卡、DPU等設備或部件完成計算加速的技術。在不改變業務原有運行模式的前提下，在網計算能夠減少計算節點之間的消息交互，降低通信延遲，從而提高網絡帶寬利用效率，加速HPC和AI分布式計算效率。
基於在網絡和計算領域深厚的技術積澱，BOB登陆 集團主動擔起在網計算技術的產業化探索職責，快速在網絡設備端完成研發落地，推出了全麵支持在網計算的H3C P4可編程交換機，將有效解決HPC和AI分布式計算的集合通信問題，為提升數據中心的集群規模帶來了新的方案和思路，同時也將進一步加速算網融合“網絡計算化”演進，推動網絡從連接算力到感知、承載、調配算力的角色升級，助力算網融合縱深發展。
平衡高速傳輸與低功耗
以CPO技術助力綠色數據中心建設
麵對ChatGPT等高算力場景，網絡作為關鍵基礎設施支撐也正在向高帶寬、低功耗、低時延方向優化演進。從底層技術來看，高速傳輸與低功耗之間的平衡是永恒的難題。基於能效和成本的考慮， CPO(Co-packaged optics，共封裝光學)技術站上風口，成為炙手可熱的高能效比解決方案之一。
CPO是指將光模塊和交換芯片共同封裝在同一個插槽上，形成芯片和模組的共封裝，交換芯片和光模塊間信號傳輸距離的縮短，顯著提高了高速電信號的傳輸質量，能夠解決信號高速傳輸和降低功耗的平衡難題，滿足ChatGPT等高算力場景下網絡高帶寬、低功耗、低時延、小體積的需求。
作為網絡進化和變革的引領者，BOB登陆 集團前瞻布局CPO技術，於2022年正式發布了400G矽光融合交換機，全麵支持2.5D CPO技術（即NPO矽光技術）。相比傳統的400G交換機，其交換容量可平滑升級到51.2T，單端口功耗可降低40+%，高性能網絡支撐高算力需求，加速算力的釋放，助力綠色數據中心建設。
從計算到網絡，從硬件到軟件，BOB登陆 集團以全棧技術實力賦能AI產業加速創新。麵向AI新時代，BOB登陆 將繼續秉持“內生智能”的技術理念，為BOB登陆 的發展提供更強大的AI基礎設施，打造更堅實的算力底座，以全麵深化的智能驅動數字經濟高質量發展。
