證券時報網(wǎng)
康殷
2025-05-20 22:26
大模型加速奔跑，深度應用全面開啟。5月20日，京東云城市大會在上海順利舉行，京東云發(fā)布JoyScale AI算力平臺、JoyBuild大模型開發(fā)計算平臺、JoyAgent智能體2.0等九大產(chǎn)品，三大垂直行業(yè)一體機，助力企業(yè)全面重構(gòu)AI基礎設施，生成企業(yè)專屬數(shù)字員工，加速邁向深度應用。
京東集團技術(shù)委員會主席、京東云事業(yè)部總裁曹鵬表示，“隨著深度應用加速來臨，數(shù)字員工的上崗率將成為衡量一個企業(yè)先進性的標準。有多少工作是AI完成的，決定了企業(yè)未來能跑多快。新一代Agent成為深度應用的代表，京東云JoyAgent2.0正在幫助企業(yè)生成專業(yè)數(shù)字員工。同時，大規(guī)模應用爆發(fā)，也將推動AI基礎設施邁向標準化，AI Infra1.0已經(jīng)具備。”
京東云認為，全面走向深度應用，企業(yè)當下需要做好三件事：
分鐘級部署+零門檻接入 大模型一體機助力企業(yè)快速嘗鮮大模型
一體機作為最快速部署大模型的方式之一，是嘗鮮企業(yè)級AI的最佳路徑。過去三個月，“開箱即用”的京東云大模型一體機跑出“新速度”，從江浙滬到湘贛魯，多省市全面鋪開，醫(yī)療、汽車、教育、制造、泛互多行業(yè)深度滲透，全國規(guī)?；涞赝黄?00臺。京東云大模型一體機軟硬協(xié)同，支持千人規(guī)模企業(yè)并發(fā)需求，實現(xiàn)推理速度提升50%，滿血版、標準版、輕量版為不同規(guī)模企業(yè)提供靈活選擇，助力企業(yè)快速構(gòu)建企業(yè)級AI服務能力，極大降低專業(yè)技術(shù)門檻。
今天，京東云正式發(fā)布三大垂直行業(yè)一體機。
· 醫(yī)療一體機：醫(yī)療領域?qū)⑷诤暇┽t(yī)千詢大模型，實現(xiàn)智能問診、病歷分析、輔助診療等功能；
· 工業(yè)一體機：工業(yè)場景將集成京東工業(yè)供應鏈大模型，預置供應鏈管理、智能排產(chǎn)等模塊；
· 金融一體機：金融行業(yè)將在保障數(shù)據(jù)安全合規(guī)基礎上，針對券商、銀行等機構(gòu)需求進行優(yōu)化適配。
深度應用全面開啟，智能體重塑AI生產(chǎn)力
雖然“超級應用”還有距離，但聚焦企業(yè)端的“深度應用”已奔涌而至，正在加速滲透到需要投入大量人力進行重復勞動的場景。隨著大模型及智能體技術(shù)的持續(xù)升級，行業(yè)正加速邁向深度應用階段。
京東正是大模型深度應用的超級孵化器。數(shù)據(jù)顯示，近三個月京東大模型服務調(diào)用量爆發(fā)式增長，環(huán)比提升200%；超1.4萬個智能體在京東內(nèi)部運行，解決超18%的工作內(nèi)容，外賣員招聘、財務管理等大面積使用；各類大模型應用已深入到京東零售、物流、醫(yī)療等細分業(yè)務場景，為超50萬商家、超38萬快遞小哥、超5萬副主任以上級別醫(yī)生、超2萬采銷運營、超1萬研發(fā)提高工作效率和提升服務體驗。
智能體，是深度應用方面最具代表性的方向。成長于京東自身業(yè)務系統(tǒng)的JoyAgent 智能體 2.0全新升級， 基于混合代理模型（Mixture-of-Agents，MoA），融合大小型模型的優(yōu)勢，通過規(guī)劃推理構(gòu)建動態(tài)DAG執(zhí)行引擎，大幅提升任務執(zhí)行效率；集成了覆蓋搜索、數(shù)據(jù)分析、代碼開發(fā)等領域的豐富工具鏈，支持文本、圖像、視頻等多模態(tài)輸入輸出，為企業(yè)提供全面智能支持；還通過自研多智能體協(xié)同引擎，多個智能體可在對話規(guī)劃、推理上協(xié)同工作，通過自我對話優(yōu)化策略。
在 GAIA Benchmark 的 Level 1-3 測試中，JoyAgent 表現(xiàn)卓越，尤其在復雜任務處理上優(yōu)勢明顯，超越眾多競爭對手。實現(xiàn)從過去被動響應需求，進化為能主動聚焦問題、精準運算、深度分析、和智能決策、精準執(zhí)行。
相較于通用智能體，JoyAgent在企業(yè)場景展示出更多優(yōu)勢。
· 在研發(fā)場景，JoyCode智能編碼助手持續(xù)進化，實現(xiàn)開發(fā)即部署，代碼采納率超過40%，開發(fā)周期縮短30%，京東上萬名研發(fā)人員都在使用；
· 在直播場景，京東數(shù)字人已經(jīng)在9000+商家開播，高保真低成本的人體建模技術(shù)、多模態(tài)自然化行為生成等數(shù)字人技術(shù)棧更新，高商業(yè)可用數(shù)字人正式上線服務，618向京東商家免費開放，助力直播轉(zhuǎn)化；
· 在政務服務場景，基于JoyAgent構(gòu)建的智能政務研報服務，可根據(jù)歷史報告自動識別模板，進行指標試算、驗證，自動生成新報告，識別準確率超98%，已深度應用在北京亦莊、上海普陀等政務平臺上。
技術(shù)棧迎來全面重構(gòu) AI基礎設施走向標準化
隨著大模型應用的深入，以CPU為中心的架構(gòu)在支持AI原生應用上面臨挑戰(zhàn)，需要以GPU為中心重塑基礎設施；此外，面對激增的推理需求，計算資源持續(xù)增加，企業(yè)需要思考資源投入產(chǎn)出的問題，都指向需要一套AI Native的基礎設施。
在大模型開發(fā)應用方面，JoyBuild支持多類模型的調(diào)優(yōu)開發(fā)，內(nèi)置20余種開源模型和豐富的數(shù)據(jù)集，提供100余種算法和工具鏈。圍繞開源模型蒸餾需求的不斷增加，可以幫助客戶根據(jù)自身業(yè)務特征，用自有數(shù)據(jù)進行大模型的蒸餾，快速開發(fā)專屬大模型。
京東大模型開發(fā)計算技術(shù)相關(guān)論文被《Nature》收錄，為國內(nèi)首次系統(tǒng)性解決開放環(huán)境下大模型開發(fā)效率難題，這套技術(shù)也支撐了JoyBuild應用。此外，JoyBuild推理引擎基于大規(guī)模專家并行推理集群技術(shù)，提升高并發(fā)下并行度，實現(xiàn)單Token推理成本降低80%。
在計算方面，京東云發(fā)布全新的JoyScale AI算力平臺——以GPU為核心，高效異構(gòu)計算，強大推理性能。具備兩大核心優(yōu)勢：
· 極致的算力性能。面向大模型訓推需求，JoyScale支持單集群萬卡調(diào)度、全局超10萬卡調(diào)度能力，支持跨智算中心橫向擴展，通過軟硬件協(xié)同優(yōu)化，將大模型算力利用率MFU從45%提升至75%。
· 靈活的異構(gòu)算力管理。JoyScale全面適配十余家國產(chǎn)算力，支持異構(gòu)算力統(tǒng)一納管、精細化運維，通過集群算力池化調(diào)度，提升集群利用率70%。
在存儲方面，云海AI存儲基于京東全自研的引擎，對AI訓練語料的隨機訪問達到1000萬級，單集群支持TB級超大帶寬，能有效支持千億級參數(shù)AI大模型的訓練。云海針對性地提供了原生 KV Cache 特性，支持主流推理框架，以存代算的模式顯著提升了推理性能，長文推理成本下降 40%，長文/多輪對話響應延遲降低 60%。
大模型浪潮洶涌澎湃，京東云將持續(xù)深耕技術(shù)，以更開放、更協(xié)同的生態(tài)理念為引領，不斷拓展和深化大模型技術(shù)的邊界與應用。同時，憑借在京東內(nèi)部場景千錘百煉的深度應用經(jīng)驗，打造出的極致性能、極致性價比的技術(shù)與產(chǎn)品，助力更多企業(yè)重塑AI生產(chǎn)力。
