亚洲欧美一区二区精品久久久_在线观看欧美日韩电影_好了av在线_成人丝袜18视频在线观看_亚洲欧美日韩精品久久久_**女人18毛片一区二区_欧美一级日韩免费不卡_av免费网站观看_99久久久久国产精品_色综合天天综合网天天狠天天 _91社区在线高清_黑丝美女一区二区

裝上DeepSeek后 CTOf反而更焦慮了

2025-02-26 22:38來源:鈦媒體APP編輯:沫小朵

掃一掃

分享文章到微信

掃一掃

關(guān)注99科技網(wǎng)微信公眾號

  原標(biāo)題:裝上DeepSeek后 CTOf反而更焦慮了 

  開年,各個企業(yè)都在爭相接入DeepSeek,初創(chuàng)團(tuán)隊在公有云上連夜調(diào)用API開發(fā)智能客服等輕量化應(yīng)用,金融機構(gòu)迫切采買DeepSeek一體機,各地政府則悄然在政務(wù)云上部署了DeepSeek……不同賽道的企業(yè)正以迥異姿態(tài)涌入這場智能升級的軍備競賽。

  對于CTO而言,DeepSeek的驚人模型效果,無疑讓技術(shù)從業(yè)者們振奮。但更多的CTO也開始焦慮:在企業(yè)大面積使用大模型之后,如何通過大模型加速自己企業(yè)的智能化升級?如何規(guī)劃?如何投入?做什么方向?聚焦哪些業(yè)務(wù)場景?如何更新技術(shù)棧……

  企業(yè)到底怎么在業(yè)務(wù)流程中用好包括DeepSeek在內(nèi)的大模型?

  在京東云看來,企業(yè)應(yīng)用大模型將經(jīng)歷四個階段,答案也在其中:

  開始時,不管能否找到應(yīng)用價值,企業(yè)都選擇先讓員工把大模型用起來,目前,國內(nèi)大多數(shù)企業(yè)都處在這個階段,將DeepSeek的部署作為首要工作。

  隨著通用模型使用的深入,企業(yè)會開始輕量化的嘗試,首選就是智能體,部分企業(yè)已開始這一階段的探索。

  智能體應(yīng)用深入后,企業(yè)會發(fā)現(xiàn)通用模型在解決企業(yè)專業(yè)問題上存在瓶頸,大中型企業(yè)就會利用自己的數(shù)據(jù)蒸餾垂直模型,這就進(jìn)入了第三階段,用垂直模型替換通用模型。

  最后垂直模型強化智能體的能力,部分智能體就會成長為超級智能體,多智能體協(xié)同產(chǎn)生新的業(yè)態(tài),進(jìn)入終極的場景智能。

  輕量智能體破局:從“能用”到“好用”

  智能體是打開大模型價值的第一把鑰匙。科技行業(yè)已達(dá)成一個共識,智能體已經(jīng)成為企業(yè)數(shù)智化轉(zhuǎn)型的核心驅(qū)動力。作為主流應(yīng)用形態(tài),智能體不僅能提升運營效率,還能降低AI使用的門檻。

  根據(jù)德勤《2025年技術(shù)趨勢》預(yù)測,智能體將成為未來企業(yè)的重要組成部分。

  作為智能體落地的先驅(qū),目前京東自有的多場景中,已落地超1萬個智能體,累計提升人效上億元。基于此,京東云作為京東對外輸出技術(shù)與服務(wù)的核心平臺,充分解耦京東智能體實戰(zhàn)經(jīng)驗,總結(jié)出五大核心場景:協(xié)同辦公、專業(yè)助手、客戶服務(wù)、營銷推廣和數(shù)據(jù)應(yīng)用。

  這些場景已在京東內(nèi)部發(fā)揮巨大業(yè)務(wù)價值。例如在專業(yè)助手方面,JoyCoder智能編碼助手能幫助開發(fā)者預(yù)測代碼、生成注釋、進(jìn)行智能評審,生成的代碼采納率超過40%,開發(fā)周期縮短30%。在營銷上,通過AIGC技術(shù)可以快速生成高質(zhì)量的營銷文案和商品場景圖,制作效率提升高達(dá)90%。比如,言犀數(shù)字人能自動生成直播腳本,已經(jīng)覆蓋7500個直播間,帶貨GMV總量超百億。

  京東云相關(guān)負(fù)責(zé)人表示:“我們總結(jié)出的五個場景,已經(jīng)能覆蓋企業(yè)用智能體,提升業(yè)務(wù)效率的80%通用需求,在現(xiàn)階段,智能體落地過程中,把核心場景打穿打透,遠(yuǎn)比一味追求智能體數(shù)量,重要得多。”

  目前京東云將這些智能體能力,沉淀在言犀智能體平臺,對外支持更多企業(yè)在智能體方面探索。

  例如,食品行業(yè)上下游角色分散,會議對決策管理至關(guān)重要。在味全食品,京東云搭建了一套會議管理系統(tǒng),可自動生成會議文本記錄,并分類歸檔,有效提升公司運轉(zhuǎn)效率;在中國飛機租賃,該公司專業(yè)知識復(fù)雜,人工查詢影響決策效率,京東云構(gòu)建一個智能問答系統(tǒng),提供高效、準(zhǔn)確的問答交互,并依據(jù)反饋持續(xù)優(yōu)化性能,大幅提升員工辦公效率。

  企業(yè)在智能體上取得成效后,對于很多中型和大型企業(yè)來說,考慮到未來AI應(yīng)用越來越深入廣泛,自建智算基礎(chǔ)設(shè)施將成為決策的必答題。

  構(gòu)建智算底座:技術(shù)決策者的“重投入時刻”

  當(dāng)AI算力密度突破40kW/機柜,模型參數(shù)邁向萬億級,企業(yè)構(gòu)建智算基礎(chǔ)設(shè)施已超越技術(shù)升級范疇,成為重塑產(chǎn)業(yè)話語權(quán)的戰(zhàn)略抉擇。那些率先完成智能化改造的企業(yè),正像百年前電氣化革新的先行者那樣,在數(shù)字時代的版圖上刻下新的坐標(biāo)。

  從通用計算向智算升級,基礎(chǔ)設(shè)施面臨三重挑戰(zhàn):高密度智算的供電/制冷、算力集群的微秒級互聯(lián)、異構(gòu)算力的動態(tài)調(diào)度。例如,隨著服務(wù)器功耗提高,單機柜功率上升趨勢明顯,目前普通數(shù)據(jù)中心是4-6kW,為滿足GPU服務(wù)器的運行,現(xiàn)在新建智算中心單機柜的功率需求已經(jīng)達(dá)到20~40kW,按照最新發(fā)布的GPU服務(wù)器的參數(shù),智算中心單機柜功率需求將達(dá)到40~120kW。同時,現(xiàn)在GPU服務(wù)器要求網(wǎng)絡(luò)組網(wǎng)距離越近越好,并且有明確的傳輸距離的要求,這種要求直接造成機房房間功率密度也同時增加。

  基于京東集團(tuán)復(fù)雜場景實踐,京東云構(gòu)建了一站式大模型產(chǎn)品矩陣,從底層的智算基礎(chǔ)設(shè)施,到中間層的模型服務(wù)和工具,再到上層的Agent應(yīng)用開發(fā),支持企業(yè)快速部署大模型及應(yīng)用。

  在高密度智算的供電/制冷方面,智算中心功率密度是傳統(tǒng)數(shù)據(jù)中心的5倍,對供電、散熱的要求嚴(yán)苛。京東云自研的阿爾法智能算力模塊,支持液冷系統(tǒng)一體化交付,PUE控制在1.15以內(nèi),同等規(guī)模成本直降15%;新一代液冷服務(wù)器,散熱效能提升50%,單機柜20kW年度省電8500度。

  在算力集群互聯(lián)互通方面,計算、存儲、網(wǎng)絡(luò)的“黃金三角”,對大模型高效使用至關(guān)重要。

  京東云超智算一體化算力集群,單集群萬卡、全局10萬卡級集群調(diào)度能力,依托軟硬件協(xié)同優(yōu)化,驅(qū)動大模型算力利用率(MFU)躍升至75%。

  云海AI存儲,千億級大模型全棧支持,4K隨機寫IOPS突破1000萬級極速響應(yīng),存算分離架構(gòu)實現(xiàn)性能與成本雙30%突破,構(gòu)建超大規(guī)模AI訓(xùn)練的普惠存儲底座。

  京東云高性能云網(wǎng)絡(luò),RDMA帶寬提升至‌3.2T級‌,端到端通信時延壓降至‌2微秒級‌,支撐千億參數(shù)模型‌無損訓(xùn)練‌,釋放AI算力極限。

  在異構(gòu)算力的動態(tài)調(diào)度方面,京東云vGPU AI算力平臺,為應(yīng)對大模型異構(gòu)算力需求而生。支持多元算力統(tǒng)一納管與精細(xì)化運維,通過深度優(yōu)化DeepSeek架構(gòu),滿血版推理性能提升50%。同時借助AI全場景密態(tài)計算以及容器隔離技術(shù),確保模型參與訓(xùn)練數(shù)據(jù)雙域零泄露,為用戶提供金融級安全防護(hù)。

  在行業(yè)實踐中,京東云成功支持某新能源汽車頭部廠商、某全球新能源科技領(lǐng)導(dǎo)企業(yè),打造覆蓋全集團(tuán)的智能計算底座,實現(xiàn)千卡級AI算力集群的精細(xì)化管理。技術(shù)上一方面創(chuàng)新多元算力調(diào)度,顯著提升GPU利用率,另一方面創(chuàng)建全生命周期AI開發(fā)環(huán)境,實現(xiàn)開箱即用,大幅提升研發(fā)效率。目前,該平臺已支撐起企業(yè)智能駕駛研發(fā)、人形機器人等20余個核心場景,成為集團(tuán)的"數(shù)智發(fā)動機"。預(yù)計一年內(nèi),兩家企業(yè)大模型訓(xùn)練周期將縮短40%,每年節(jié)省的算力成本相當(dāng)于新建兩座數(shù)據(jù)中心。

  垂直模型蒸餾:邁向全面智能場景的關(guān)鍵一躍

  當(dāng)通用大模型完成技術(shù)啟蒙,千載難逢的良機屬于那些擁有高質(zhì)量自有數(shù)據(jù)的企業(yè)。他們通過運用自有數(shù)據(jù)完成模型蒸餾,率先推動產(chǎn)業(yè)效率變革,讓AI應(yīng)用走向真實價值深水區(qū),打開全面智能場景。

  京東云認(rèn)為,全面智能場景形成,可以通過兩種途徑實現(xiàn):一是智能體成長為超級智能體,成為新的業(yè)態(tài)。二是對過去數(shù)字化場景的智能升級。

  在京東內(nèi)部,一場針對大模型小型化的效率改造正在悄然展開。通過在通用大模型注入京東零售、金融、健康等體系內(nèi)復(fù)雜、真實、動態(tài)的領(lǐng)域數(shù)據(jù),言犀大模型已經(jīng)跑在了健康咨詢、金融營銷、代碼生成、協(xié)同辦公等多個智能場景,在特定任務(wù)中的準(zhǔn)確率較通用模型提升超過20%。更關(guān)鍵的是,神經(jīng)元剪枝技術(shù)實現(xiàn)"瘦身不減智",模型顯存節(jié)約70%、推理速度提升1.5倍,讓千億、萬億級參數(shù)模型也能輕盈落地。

  效果突破的背后,是京東在模型蒸餾、數(shù)據(jù)治理與混合、訓(xùn)練配方優(yōu)化、大小模型協(xié)同等多領(lǐng)域沉淀下來的大模型開發(fā)計算技術(shù)。最近,京東探索研究院自研的這套模型開發(fā)計算研究成果也將首登Nature,并通過言犀AI開發(fā)計算平臺,向外部企業(yè)開放服務(wù)。

  大模型應(yīng)用的技術(shù)紅利形成多點開花的應(yīng)用圖景,向外生長:

  在數(shù)據(jù)要素領(lǐng)域,大模型正在重構(gòu)企業(yè)數(shù)據(jù)價值鏈。面對海量非結(jié)構(gòu)化數(shù)據(jù),傳統(tǒng)人工處理僅50-60%的準(zhǔn)確率,企業(yè)數(shù)據(jù)要素服務(wù)平臺通過大模型可實現(xiàn)99%的精準(zhǔn)識別;

  在智能運維領(lǐng)域,AI NOC智能運維系統(tǒng)將重大故障定位時間從小時級壓縮至秒級,背后是沉淀了超萬名研發(fā)人員經(jīng)驗的運維知識庫;

  在城市治理領(lǐng)域,"一表通"系統(tǒng)通過智能體自動抓取數(shù)據(jù),將基層工作效率提升70%,ICOS城市平臺將政務(wù)應(yīng)用開發(fā)周期縮短60%。

  在智能營銷領(lǐng)域,超35萬商家借助AIGC生成商品圖,30億字的營銷種草文案由AI生成、50萬條AI采銷短視頻實時投放中...產(chǎn)業(yè)數(shù)據(jù)的轉(zhuǎn)化效率已發(fā)生質(zhì)變。金融增長云還開放了包括4.6億京東金融用戶運營Knowhow,通過交互式營銷、廣告投放、營銷內(nèi)容生成三大智能場景,幫助銀行客戶實現(xiàn)AUM、MAU增長超30%。

  這些場景驗證了垂直模型的兩大價值支點——既要深入業(yè)務(wù)毛細(xì)血管獲取數(shù)據(jù)養(yǎng)分,又要通過工程化改造適配真實業(yè)務(wù)場景。京東通過自身復(fù)雜業(yè)務(wù)場景錘煉出的模型蒸餾技術(shù),正在降低更多企業(yè)的AI準(zhǔn)入門檻,輕松拿到大模型時代的入場券。

  當(dāng)京東云向產(chǎn)業(yè)打開他的大模型“工具箱”,CTO們的焦慮有了新注腳:技術(shù)部署只是起點,真正的競爭在于如何將AI轉(zhuǎn)化為業(yè)務(wù)進(jìn)化基因,重塑AI生產(chǎn)力。那些在輕量化應(yīng)用中積累場景認(rèn)知、在智算底座建設(shè)時預(yù)留技術(shù)彈性、在垂直蒸餾中構(gòu)建知識壁壘的企業(yè),正悄然拉開身位。

  有業(yè)內(nèi)人士斷言:“大模型淘汰的不是技術(shù),而是組織的遲鈍。”當(dāng)DeepSeek將AI能力民主化,CTO的焦慮本質(zhì)上是企業(yè)數(shù)字化轉(zhuǎn)型的集體陣痛——這場關(guān)乎生存的進(jìn)化競賽中,焦慮或許是最好的清醒劑。

?????投稿郵箱:jiujiukejiwang@163.com ??詳情訪問99科技網(wǎng):http://www.hacbq.cn

相關(guān)推薦
微軟官宣:Windows 10三個月后終止支持,用戶需盡 微軟官宣:Windows 10三個月后終止支持,用戶需盡

原標(biāo)題:微軟官宣:Windows 10三個月后終止支持,用戶需盡快升級至Windows 11 微軟

互聯(lián)網(wǎng)+2025-07-15

去哪兒網(wǎng)CEO陳剛:20年三次創(chuàng)業(yè)后,第四次征途已 去哪兒網(wǎng)CEO陳剛:20年三次創(chuàng)業(yè)后,第四次征途已

原標(biāo)題:去哪兒網(wǎng)CEO陳剛:20年三次創(chuàng)業(yè)后,第四次征途已備啟航 在近期的一次

互聯(lián)網(wǎng)+2025-05-19

扎克伯格詳解Llama 4與DeepSeek:AI未來多模態(tài)交互將 扎克伯格詳解Llama 4與DeepSeek:AI未來多模態(tài)交互將

原標(biāo)題:扎克伯格詳解Llama 4與DeepSeek:AI未來多模態(tài)交互將更自然 在近期的一次

互聯(lián)網(wǎng)+2025-05-02

清華90后創(chuàng)業(yè)者季宇發(fā)布“褐蟻”一體機,挑戰(zhàn) 清華90后創(chuàng)業(yè)者季宇發(fā)布“褐蟻”一體機,挑戰(zhàn)

原標(biāo)題:清華90后創(chuàng)業(yè)者季宇發(fā)布褐蟻一體機,挑戰(zhàn)AI算力市場 近日,北京行云

互聯(lián)網(wǎng)+2025-05-01

Chrome瀏覽器高管:谷歌生態(tài)是核心,剝離后他人 Chrome瀏覽器高管:谷歌生態(tài)是核心,剝離后他人

原標(biāo)題:Chrome瀏覽器高管:谷歌生態(tài)是核心,剝離后他人難接手? 華盛頓聯(lián)邦

互聯(lián)網(wǎng)+2025-04-26

蘋果AI滯后之謎:2023年內(nèi)部決策引發(fā)爭議 蘋果AI滯后之謎:2023年內(nèi)部決策引發(fā)爭議

原標(biāo)題:蘋果AI滯后之謎:2023年內(nèi)部決策引發(fā)爭議 近期,《紐約時報》發(fā)表了

互聯(lián)網(wǎng)+2025-04-13

谷歌DeepMind付薪留才:AI員工離職后一年不得為競 谷歌DeepMind付薪留才:AI員工離職后一年不得為競

原標(biāo)題:谷歌DeepMind付薪留才:AI員工離職后一年不得為競品工作? 在人工智能

互聯(lián)網(wǎng)+2025-04-08

DeepSeek搜索大橫評來了 百度、微博、微信們靠內(nèi) DeepSeek搜索大橫評來了 百度、微博、微信們靠內(nèi)

原標(biāo)題:DeepSeek搜索大橫評來了 百度、微博、微信們靠內(nèi)容決勝負(fù) 25年,DeepS

互聯(lián)網(wǎng)+2025-03-06

AI也會“撒謊”!DeepSeek的胡編亂造 正在淹沒中文 AI也會“撒謊”!DeepSeek的胡編亂造 正在淹沒中文

原標(biāo)題:AI也會撒謊!DeepSeek的胡編亂造 正在淹沒中文互聯(lián)網(wǎng) 雖然DeepSeek-R1確實好

互聯(lián)網(wǎng)+2025-03-05

大消息!DeepSeek官宣降價 最高降75% 大消息!DeepSeek官宣降價 最高降75%

原標(biāo)題:大消息!DeepSeek官宣降價 最高降75% 據(jù)湖南日報報道,2月26日,DeepSeek在

互聯(lián)網(wǎng)+2025-02-27

?