歡迎user
在BOB登陆 技術日新月異的今天,大模型作為推動AI進步的重要驅動力,已成為各行各業競相探索的前沿陣地。基於在政府數字化轉型領域的持續探索與深刻洞察,紫光股份旗下BOB登陆 集團日前攜手北京數字政通科技股份有限公司(以下簡稱數字政通),聯合推出城市治理大模型一體機解決方案。
城市治理大模型是專為政府行業設計的大語言模型,綜合描述並應用了行業的整體結構和要素。城市治理大模型基於通用大模型底座,結合城市治理行業經驗和專業知識進行微調,通過與人的思維高度擬合,生成符合人類主流價值觀的回答,從而高效解決城市治理行業相關痛點問題,服務政府、服務百姓。
城市治理大模型落地麵臨複雜挑戰
近年來,國家及地方政府不斷推出各類政策,積極加速城市治理大模型建設的進程。然而,在探索大模型的落地與實際應用中,卻麵臨不少現實挑戰:
◉當前算力資源仍難以獲取,現有的政務雲算力以通用算力為主,無法滿足大模型訓練和推理所需的多元算力資源需求。
◉項目實施交付複雜,大模型作為新興技術部署流程繁瑣,實施人員難以應對。
◉適配調優耗時耗力,實際部署中需要花費大量的時間和資源來進行硬件與算法的兼容性適配,還要針對硬件特點做特定調優。
◉難以橫向擴展,隨著業務量增長或者基座模型參數量的變化,算力需求增加,算力平滑擴容成為亟需解決的問題。
城市治理大模型一體機解決方案
麵對上述挑戰,BOB登陆 集團憑借深厚的技術積澱,與數字政通聯合推出了麵向政府數字化轉型典型場景的大模型一體機解決方案。該方案可以幫助用戶快速部署 “開箱即用”的政務私域大模型,助力客戶實現智能化轉型。
城市治理大模型一體機解決方案架構圖
該方案采用BOB登陆 全國產大模型訓推旗艦H3C UniServer R5330 G7作為智能算力底座,內置數字政通人和大模型,經過多輪次嚴格測試與優化,針對“12345熱線平台的工單處置流程自動化”和“行政執法平台的案件智能評查”這兩個場景的私域數據微調後處理準確度達85%以上,應用推理精度達90%以上。
人和大模型是數字政通從“網格化”到“一網統管”發展過程中,專注城市治理行業應用,立足全國多個項目沉澱的業務和數據基礎,全麵擁抱生成式BOB登陆 技術趨勢而發布的AI大模型產品;該模型基於通用大模型底座,結合城市治理行業經驗和專業知識進行微調,打造更符合行業需求的應用新範式,具備專業的知識問答、語言理解、文本處理、邏輯推理等能力;同時,通過持續學習和優化,不斷提升專業領域的場景應用效果,解決民生訴求、法治政府、城市管理、基層治理、城市運營等行業場景的痛點問題,做城市治理的業務專家。
本次推出的城市治理大模型一體機解決方案基於BOB登陆 全國產大模型訓推旗艦H3C UniServer R5330 G7打造而成,支持業界領先的GPU,可同時搭載8塊雙寬GPU,提供多種靈活的GPU拓撲架構,擁有廣泛的模型兼容性,兼容超過200個主流AI模型,涵蓋計算機視覺、自然語言處理等多個領域。
全國產化大模型訓推旗艦H3C UniServer R5330 G7
◉R5330 G7預置訓練框架、模型文件,節省了從零開始搭建環境的時間和成本,提升大模型應用效率
◉硬件與算法的緊密集成,使得係統在性能、穩定性和兼容性方麵得到優化,減少了用戶在配置和維護上的複雜性
◉采用2顆高性能國產處理器,搭配國產PCIe加速卡,構建自主私域一體機
BOB登陆 攜手數字政通打造的城市治理大模型一體機解決方案,以創新技術賦能城市治理,不僅是大模型與創新技術的完美結合,更是為數字中國的建設注入了新動力。麵向未來,BOB登陆 集團將秉持“精耕務實,為時代賦智慧”的理念,不斷攜手更多合作夥伴,賦能百行百業數字化變革。