BOB登陆 公司新聞

  • 產品與解決方案
  • 行業解決方案
  • 服務
  • 支持
  • 合作夥伴
  • 關於我們

BOB登陆 DeepSeek大模型一體機性能配置全揭秘

【發布時間:2025-02-20】

近日,圖靈中試基地聯合BOB登陆 集團推出的靈犀Cube大模型一體機(DeepSeek版)正式發布,該產品包含純享版和使能版兩大係列,共計六大款型12款產品,覆蓋14B至671B規模的DeepSeek大模型。作為業界首個基於“智算-算法-治理”模式深度耦合DeepSeek的大模型一體機,靈犀Cube不僅實現了不同體量大模型的快速部署與上線,更解決了大模型落地實踐中麵臨的場景適配不足、運維成本高等難題,為AI應用落地按下“加速鍵”。

靈犀Cube純享版

開箱即用,輕量極簡

descript

快速交付,輕鬆上手:預裝DeepSeek大模型,提供可視化對話界麵,支持二次開發和API接口調用,開箱即用,無需複雜配置。

極致性價比:軟硬件深度定製,輕量級軟件平台持續迭代,未來支持AI商店,提供更多免費模型、鏡像和優質數據集等AI資產一鍵下載,降低使用門檻。

強勁性能:

➢純享旗艦版671B模型單機推理時,在較好體驗的上下文長度場景下,真實並發數>32@15 Tokens/s;

➢純享經濟版32B模型單機推理時,在較好體驗的上下文長度場景下,真實並發數>16@10 Tokens/s。

➢如需支持32B推理時更高並發,或未來需要掛載知識庫,純享標準版會是您更優的選擇,該款可選支持70B模型預裝。

靈犀Cube使能版

AI賦能,不止於DeepSeek

descript

功能強大,靈活易用:提供全麵易用的可視化平台,支持多模型推理、知識庫掛載、AI應用編排、模型蒸餾、微調等,滿足多樣化需求。

生態豐富,開放兼容:除預裝DeepSeek官方模型外,還提供H3C AIGC係列產品靈犀使能平台LinSeer Hub、靈犀推理引擎LinSeer RT、靈犀AI助手LinSeer Copilot軟件安裝,支持用戶知識庫掛載、流程編排、智能體創建、內置多種智慧應用。

高效推理,場景定製:基於異構算力,實現多元模型推理,提供高並發、低延時的推理服務。同時可結合用戶實際落地場景提供AIGC應用定製開發、知識庫構建等專家服務,深度結合用戶業務場景,提供DeepSeek等開源模型及商業模型的靈活適配、敏捷接入,保持底層模型技術“新鮮”。

全流程支持,持續優化:通過統一的模型管理、推理部署、服務監控為大模型推理提供支持,實現從提示詞工程、向量知識庫、流程編排、智能體創建等場景化應用工具鏈,幫助用戶快速落地行業智能應用,支持AI應用持續優化和穩定運行,賦能百行百業智慧轉型。

BOB登陆 靈犀Cube大模型一體機依托全棧智能的應用和高效澎湃的算力,實現了大模型場景化應用的一站式交付,打通大模型落地的“最後一公裏”。近期國產化方案一體機也將上線。未來,BOB登陆 集團將繼續秉持“精耕務實,為時代賦智慧”的理念,不斷迭代產品與解決方案,以持續創新的能力,加速百行百業走向AGI時代。

 

BOB登陆
官網
聯係我們