
商湯大裝置接入DeepSeek企業版 開源AI開發框架LazyLLM
商湯科技於上海舉行的全球開發者先鋒大會(Global Developer Conference)宣佈商湯大裝置SenseCore兩項重要升級:接入DeepSeek企業版,以及開源AI開發框架LazyLLM。
商湯大裝置DeepSeek企業版上線 免費版擴大容量
今年2月,商湯大裝置萬象平台正式上線了DeepSeek-R1、DeepSeek-V3等模型,並為免費版提供3個月內千萬Token額度,受到客戶的熱烈響應。為了更好地服務用戶,經過一系列優化,現正式推出企業版,亦完成免費版國產化適配與擴大算力容量。
為滿足各行業對DeepSeek系列模型應用的迫切需求,並提升用戶體驗,商湯大裝置特意上線DeepSeek-R1-Enterprise企業版,提供高性能、高穩定性的服務保障,實現推理性能行業領先、最大化推理效率,提供一站式監控告警,助力模型服務實現效率與質量的飛躍。
此外,商湯大裝置為企業用戶提供專家服務,提供端到端解決方案,包括:
- 模型定製服務:打造輕量化模型定製,基於場景強化學習在特定場景提升基模型,支持蒸餾到小模型高效推理;
- 場景化綜合解決方案:涵蓋模型定製、模型開發平台、Agent應用開發平台三大核心模塊,提供全鏈路支持;
- 快速全週期交付體系:專家團隊提供從業務診斷到系統落地的全週期服務,最快14天完成部署。
同時,商湯大裝置已基於國產算力進行優化,並擴大算力容量,讓DeepSeek-R1模型惠及更多用戶。
- 國產化適配:完成多家主流國產晶片國產化適配,支持運行DeepSeek-R1滿血版;
- 國產化優化:完成國產芯片的8bit量化版本模型優化,同時提供最優的算子、並行等方案,保障極致推理性能;
- 擴大算力容量:全面切換國產算力,支持高併發、多人同時使用,體驗不受影響。
商湯大裝置始終致力於為企業和開發者提供高效率、低成本、規模化的新型人工智能基礎設施,可支持商湯「日日新」融合大模型 SenseNova、DeepSeek、Qwen、Llama等大模型。未來,商湯將繼續提供強大的技術支持和全方位的服務保障,持續為行業輸出高效、易用、普惠的AI雲服務,幫助客戶實現業務場景的提智增效。
開源「懶人必備」開發平台LazyLLM
大模型熱潮的持續高漲,讓各類Agent應用開發需求也快速激增。商湯大裝置推出了開源、低代碼的大模型應用開發框架——LazyLLM,幫助開發者以低至約10行的代碼,輕鬆構建複雜、定製化的多Agent大模型應用。

助力高效迭代:將商湯內部在大模型和應用開發中,對AI Native開發範式的沉澱和經驗,作為工具面向廣大開發者開源,幫助大家以最簡單的方法和最少的代碼,像積木一樣快速構建複雜、強大得多Agent AI應用原型。有了這一快速、高效、低門檻的途徑,AI應用開發的門檻將大幅降低。
提升數據效果:採用以數據流為核心的應用開發範式,可透過Pipeline、Parallel等數據流拼接已有組件或其他開源軟件。
一鍵部署複雜應用:讓開發者得以更迅速地將意圖識別、知識庫檢索能力、大模型能力等組合在一起,快速實現產品落地。待開發完成後,智能體可一鍵將其部署至網頁、企業微信等平台。
國內外廣泛適配:LazyLLM還對多種模型服務進行了封裝,讓開發者在對不同技術進行選型時,也能獲得統一的體驗,實現統一調用、統一服務、統一部署,靈活試驗各種基模型、訓推框架與數據庫。此外,LazyLLM還解決了部分國外工具本土化適配不足的問題,並得到許多國內開發者認可。

以實現一個數學公式為例,透過LazyLLM僅需10行代碼,效率較LangChain、LlamaIndex提升30%-60%以上。

LazyLLM已在GitHub上開源,歡迎廣大開發者體驗使用:
項目位址:點擊此處
項目文檔:點擊此處
萬象平台-一站式賦能AI應用落地全流程
商湯大裝置上的萬象平台是基於LazyLLM構建的完整的模型開發平台與Agent應用開發平台,為用戶提供一站式的、AI 應用落地的全流程最優方案。
在低代碼的基礎上,萬象平台徹底降低了對代碼的要求,用戶可以不具備任何編程技巧,最低不寫一行代碼,只要懂業務的數據流程、數據鏈路,就可通過可視化的拖拽操作,自動生成代碼、完成部署,快速搭建私有化大模型應用。

作為面向企業級模型開發與管理的一站式服務平台,萬象平台具備模型管理、精調、推理、評測等全方位功能,可提供商湯「日日新」大模型以及DeepSeek等幾百種開源大模型,做到開箱即用,僅需一分鐘就可以搭建起整個應用開發的pipeline。隨後,通過快速的搭建、試錯、上架、迭代以及使用,實現從應用開發到迭代的完美閉環。其中,針對用戶不同的場景特性,商湯大裝置可基於不同模型進行高效推理和微調,幫助用戶「花一塊錢的算力,得到兩塊錢的效果」。在最近SuperCLUE發布的針對DeepSeek-R1的第三方API測評中,商湯大裝置位居免費版API排名第一,充分體現了大裝置及萬象平台的工程能力。

目前,商湯大裝置己通過LazyLLM和萬象平台為眾多行業提供 AI 應用落地的綜合解決方案,覆蓋金融、建築、航空航天等10個行業場景,並助力30餘家企業組織實現 AI 能力的提升與落地,讓AI能力轉化為生產力,實現數智化轉型升級。