加速落地 京東云大模型已支持?jǐn)?shù)百個(gè)場(chǎng)景

6月6日，京東云城市大會(huì)在成都順利舉行，大會(huì)全面展示了京東場(chǎng)景大模型應(yīng)用效果、言犀大模型技術(shù)能力升級(jí)，支持大模型的新一代數(shù)字基礎(chǔ)設(shè)施，持續(xù)加速產(chǎn)業(yè)智能化變革。大模型落地應(yīng)用的關(guān)鍵是在資源、性能、效果三者之間取得平衡。為了實(shí)現(xiàn)這一目標(biāo)，京東云自研了推理引擎，通過利用推測(cè)解碼，用小模型輔助大模型進(jìn)行推理，從而加速大模型的推理速度并降低成本。在大模型應(yīng)用開發(fā)方面，京東云自研了大模型產(chǎn)品，以支持更高效的研發(fā)運(yùn)維。其中，自研的輔助編碼助手 JoyCoder 幫助研發(fā)人員更高效地編寫、閱讀和優(yōu)化代碼，目前京東上萬名研發(fā)人員在使用 JoyCoder，生成代碼采納率超過30%，助力開發(fā)周期縮短20%。在運(yùn)維服務(wù)上，京東云自研了混合多云智能運(yùn)維平臺(tái)，提供指標(biāo)異常檢測(cè)、日志分析、故障定位等功能，在 QPS 達(dá)千萬級(jí)流量時(shí)，可用率仍達(dá)到99.9%，大幅提升了運(yùn)維效率。

基于京東云的自研技術(shù)，大模型已經(jīng)在京東的數(shù)百個(gè)應(yīng)用場(chǎng)景中得到了應(yīng)用，包括直播帶貨、店鋪運(yùn)營、廣告投放等領(lǐng)域。例如，在內(nèi)容生產(chǎn)方面，超過9萬商家借助大模型零成本制作店鋪營銷物料，AIGC 生成內(nèi)容采納率超50%，實(shí)現(xiàn)了大幅度的降本提效。在數(shù)字人直播方面，大模型加持的京東云言犀數(shù)字人已在超過5000間品牌直播間開播，帶貨 GMV 總量近百億。

為了進(jìn)一步推動(dòng)大模型的應(yīng)用，京東云還推出了一套支持大模型的完整工具，包括言犀 AI 開發(fā)計(jì)算平臺(tái)、向量數(shù)據(jù)庫、混合多云操作系統(tǒng)云艦、高性能存儲(chǔ)平臺(tái)云海、軟硬一體虛擬化引擎京剛等核心產(chǎn)品。其中，言犀 AI 開發(fā)計(jì)算平臺(tái)可以提供從基礎(chǔ)資源、模型服務(wù)到智能體構(gòu)建的一站式大模型服務(wù)，支持 GPU 資源的統(tǒng)一管理，兼容國內(nèi)外主流 AI 芯片，實(shí)現(xiàn)集群算力資源的充分利用。

未來，京東云將繼續(xù)與合作伙伴一道，以更豐富的應(yīng)用場(chǎng)景和領(lǐng)先的技術(shù)能力，助推大模型抵達(dá)產(chǎn)業(yè)智能。