" 大模型作為技術(shù)，要真正被行業(yè)所用，解決行業(yè)的實(shí)際問(wèn)題，才能發(fā)揮它真正的價(jià)值。" 英特爾公司市場(chǎng)營(yíng)銷(xiāo)集團(tuán)副總裁、英特爾中國(guó)網(wǎng)絡(luò)與邊緣及渠道數(shù)據(jù)中心事業(yè)部總經(jīng)理郭威在與鈦媒體 APP 的交流中曾多次指出。

距 ChatGPT 問(wèn)世已有快 2 年的時(shí)間，這不到 2 年的時(shí)間里，AI 大模型正在以前所未有的速度向各行各業(yè)滲透。尤其是今年以來(lái)，無(wú)論是各個(gè)大模型廠商，還是甲方企業(yè)，都將關(guān)注的焦點(diǎn)從模型參數(shù)大小上，轉(zhuǎn)移到了大模型如何解決行業(yè)痛點(diǎn)問(wèn)題上，試圖尋找一個(gè)或多個(gè)大模型能在自身行業(yè)落地的場(chǎng)景。

從通用走向行業(yè)，場(chǎng)景是大模型落地的關(guān)鍵

如果將各大廠商大模型的競(jìng)賽分為上下半場(chǎng)的話(huà)，上半場(chǎng)，各大廠商紛紛推出通用大模型，通過(guò)不斷地提升模型的參數(shù)，展示自身實(shí)力；下半場(chǎng)，當(dāng) AI 大模型受到更多行業(yè)側(cè)企業(yè)關(guān)注的時(shí)候，越來(lái)越多的小參數(shù)模型涌現(xiàn)，行業(yè)應(yīng)用場(chǎng)景自然也成為了甲方企業(yè)和乙方大模型供應(yīng)商關(guān)注的焦點(diǎn)，圍繞端側(cè)的應(yīng)用落地成為這個(gè)階段大模型能否真正在行業(yè)側(cè) " 變現(xiàn) " 的關(guān)鍵。

對(duì)此，郭威告訴鈦媒體 APP，英特爾相信，隨著 AI 大模型技術(shù)逐步深入行業(yè)，模型將會(huì)逐漸從通用大模型變成行業(yè)專(zhuān)用型的大模型，" 在這個(gè)過(guò)程中，模型的大小肯定會(huì)產(chǎn)生變化，" 郭威指出，" 與此同時(shí)，行業(yè)模型將結(jié)合更多的行業(yè)專(zhuān)有的知識(shí)，更聚焦某一個(gè)或幾個(gè)特定的場(chǎng)景。"

無(wú)獨(dú)有偶，京東集團(tuán)技術(shù)委員會(huì)主席、京東云事業(yè)部總裁曹鵬近日在京東云峰會(huì)上也公開(kāi)表示，" 通用大模型靠算力堆起來(lái)，而產(chǎn)業(yè)大模型要靠業(yè)務(wù)跑出來(lái)。" 已經(jīng)有超 35 萬(wàn)京東自有配送員、超 20 萬(wàn)商家、超 3 萬(wàn)醫(yī)生、超 2 萬(wàn)采銷(xiāo)運(yùn)營(yíng)、超 1 萬(wàn)研發(fā)人員，在京東 100 多個(gè) AI 場(chǎng)景使用以大模型驅(qū)動(dòng)的應(yīng)用。

《2024 全球數(shù)字經(jīng)濟(jì)白皮書(shū)》顯示，全球人工智能大模型的數(shù)量已達(dá) 1328 個(gè)，這其中中國(guó)占比 36%。另一方面，IDC 數(shù)據(jù)顯示，2022 年中國(guó)生成式 AI 占 AI 市場(chǎng)投資總規(guī)模的 4.6%。隨著生成式 AI 技術(shù)的快速發(fā)展，2027 年生成式 AI 投資占比將達(dá)到 33.0%，投資規(guī)模超 130 億美元，五年復(fù)合增長(zhǎng)率（CAGR）為 86.2%。

顯然，大模型就像先前的云計(jì)算時(shí)代一樣，單論技術(shù)而言，中國(guó)可能離國(guó)際一流水平仍有些許差距，但當(dāng)我們將目光聚焦在場(chǎng)景上，中國(guó)有著豐富的應(yīng)用場(chǎng)景，而這些場(chǎng)景是 AI 大模型真正 " 飛入尋常百姓家 " 的關(guān)鍵。

從云端走向邊緣，大模型如何更好用？

當(dāng)大模型從通用大模型的大參數(shù)，逐步走向行業(yè)專(zhuān)用模型的小參數(shù)的過(guò)程中，大模型也呈現(xiàn)出從云端走向端側(cè)的趨勢(shì)。IDC 數(shù)據(jù)顯示，到 2026 年，80% 的全球企業(yè)將使用生成式 AI，50% 的全球邊緣部署將包含 AI。

對(duì)此，英特爾公司網(wǎng)絡(luò)與邊緣事業(yè)部高級(jí)副總裁兼總經(jīng)理 Sachin Katti 曾表示，人工智能的未來(lái)將依賴(lài)于開(kāi)放的生態(tài)系統(tǒng)，人工智能的應(yīng)用正在從數(shù)據(jù)中心向邊緣計(jì)算轉(zhuǎn)移。

不僅與此，英特爾公司副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部中國(guó)區(qū)總經(jīng)理陳偉也告訴鈦媒體 APP，從今年的發(fā)展趨勢(shì)上看，單就英特爾的客戶(hù)而言，今年探索基于邊緣大模型落地的解決方案的客戶(hù)更多，" 今年完全不一樣。今年基本上可以說(shuō)一半以上的客戶(hù)都在探索基于邊緣大模型的落地解決方案，也有非常多的實(shí)際案例。" 陳偉進(jìn)一步指出。

而在大模型走向邊緣的過(guò)程中，企業(yè)在部署時(shí)需要考慮很多因素，比如時(shí)延要求、可實(shí)用性、微觀數(shù)據(jù)的可調(diào)優(yōu)化，以及信息安全等要求。

不過(guò)邊緣側(cè)部署大模型仍處于發(fā)展的初期階段，目前市場(chǎng)上可見(jiàn)的部署模式有很多，" 通過(guò)英特爾的觀察，我們看到許多客戶(hù)正在構(gòu)建硬件和軟件解決方案，并在通用的大模型基礎(chǔ)上進(jìn)行性能優(yōu)化，這是一種發(fā)展迅速的模式。" 面對(duì)鈦媒體 APP 提出的如何更好在端側(cè)應(yīng)用大模型的問(wèn)題時(shí)，陳偉如是說(shuō)。

談及中國(guó)大模型在行業(yè)側(cè)落地的趨勢(shì)與前景時(shí)，郭威告訴鈦媒體 APP，今年以來(lái)，已經(jīng)有越來(lái)越多的行業(yè)用戶(hù)落地了不少行業(yè)大模型，" 去年可能更多的是講故事的多一些，今年我們看到的行業(yè)上落地的案例越來(lái)越多，而且都是能切實(shí)解決行業(yè)痛點(diǎn)的場(chǎng)景。" 郭威如是說(shuō)。

從目前應(yīng)用上看，在端側(cè)的模型參數(shù)要比通用大模型的參數(shù)小很多，目前在端側(cè)的模型參數(shù)大多在 7B~10B 之間，而這時(shí)候，模型的壓縮就成了一件很重要且困難的事。目前主流的模式是，在壓縮的同時(shí)，將行業(yè)專(zhuān)屬知識(shí)灌進(jìn)去，也就是俗稱(chēng)的漸進(jìn)式剪枝的技術(shù)方案。

對(duì)此，京東云相關(guān)技術(shù)負(fù)責(zé)人告訴鈦媒體 APP，以無(wú)人物流車(chē)場(chǎng)景為例，通過(guò)量級(jí)減枝，神經(jīng)網(wǎng)絡(luò)搜索的方式，可以壓縮兩倍左右參數(shù)量的同時(shí)，不降低模型本身的性能，還可以減少一倍左右的時(shí)延。

與此同時(shí)，郭威與鈦媒體 APP 分享了他對(duì)于中國(guó)發(fā)展行業(yè)大模型的前景的研判，他指出，中國(guó)可能在三個(gè)方面發(fā)展的更快一些。

首先，模型本身在行業(yè)應(yīng)用上的發(fā)展。正如前文所述，" 單論技術(shù)而言，中國(guó)可能離國(guó)際一流水平仍有些許差距，但中國(guó)有著豐富的應(yīng)用場(chǎng)景 "，在行業(yè)落地方面，尤其是與應(yīng)用結(jié)合方面，在郭威看來(lái)，中國(guó)能走得更快一些，" 中國(guó)市場(chǎng)的一個(gè)顯著特點(diǎn)就是應(yīng)用發(fā)展迅速，能夠較快地探索出解決行業(yè)痛點(diǎn)的有效途徑。" 郭威強(qiáng)調(diào)。

其次，模型推理能力的提升。當(dāng)大模型真正落到行業(yè)側(cè)應(yīng)用時(shí)，僅僅依靠模型的訓(xùn)練還不夠，要想真正解決行業(yè)痛點(diǎn)，模型推理能力的提升尤為重要，而在郭威看來(lái)，模型推理能力在今年也會(huì)有顯著的提升。

第三，在郭威看來(lái)，大模型在行業(yè)落地方面，需要協(xié)調(diào)好云端、端側(cè)，以及邊緣之間的算力分布，" 如果只是垂直大模型的一些標(biāo)準(zhǔn)應(yīng)用，可能大模型主要部署在云端。但由于行業(yè)落地的需要，必然會(huì)促使 AI 算力向邊緣和端側(cè)分布。" 郭威告訴鈦媒體 APP。

已有諸多場(chǎng)景落地

正如郭威所述，今年以來(lái)，已經(jīng)有不少的行業(yè)大模型的應(yīng)用場(chǎng)景在端側(cè)得以部署落地。

在教育方面，希沃基于英特爾的技術(shù)，聯(lián)合推出了 "AI+ 教育 " 的解決方案，借助英特爾 酷睿 Ultra 處理器，希沃無(wú)需依賴(lài)云端計(jì)算資源，即可在本地完成 AI 教學(xué)大模型的運(yùn)行，從而提高系統(tǒng)響應(yīng)速度和穩(wěn)定性，確保教學(xué)過(guò)程中的流暢體驗(yàn)。

在零售業(yè)方面，多樂(lè)之日通過(guò)邊緣計(jì)算技術(shù)，打造了智慧門(mén)店解決方案。該解決方案可借助門(mén)店已有的音視頻采集設(shè)備，并通過(guò)數(shù)據(jù)整合及優(yōu)化的管理平臺(tái)，針對(duì)不同門(mén)店需求和特點(diǎn)，為其打造一套專(zhuān)屬數(shù)智化門(mén)店模型，提供從商品陳列、門(mén)店服務(wù)、門(mén)店衛(wèi)生、員工規(guī)范、到人群洞察、客流洞察的不同功能，提升了多樂(lè)之日門(mén)店運(yùn)營(yíng)差異化的管理能力、提高了管理效率、降低了人工巡店成本投入并強(qiáng)化了員工規(guī)范的執(zhí)行，加速烘焙行業(yè)的智能化發(fā)展。

在醫(yī)療健康方面，京東健康基于京東言犀大模型推出了 " 京醫(yī)千詢(xún) " 醫(yī)療大模型，整合了大量的臨床實(shí)踐指南、醫(yī)學(xué)文獻(xiàn)和專(zhuān)家知識(shí)，能快速完成在醫(yī)療健康領(lǐng)域各個(gè)場(chǎng)景的遷移和學(xué)習(xí)。并基于 " 京醫(yī)千詢(xún) " 大模型，面向執(zhí)業(yè)醫(yī)生推出了包括云診室、診后隨訪、專(zhuān)家聯(lián)合會(huì)診、臨床科研、醫(yī)生 IP 品牌孵化、" 智能醫(yī)生助手 " 工具等在內(nèi)的一系列解決方案，既優(yōu)化了醫(yī)生在線(xiàn)診療的效率和質(zhì)量，也提高了執(zhí)業(yè)安全性。

在安全方面，包括 360、奇安信、騰訊云、深信服等在內(nèi)的諸多安全廠商都基于大模型能力，或推出了安全行業(yè)大模型產(chǎn)品，或?qū)?AI 大模型的能力植入到原有的安全產(chǎn)品之中，面對(duì) AI 時(shí)代，AI 帶來(lái)的日益嚴(yán)峻的安全挑戰(zhàn)，實(shí)現(xiàn) " 用 AI 打敗 AI" 的目標(biāo)。

在辦公方面，諸多廠商都提出了 AIPC 的概念，并圍繞辦公 AI 助理發(fā)力，在 AI Chatbot 場(chǎng)景中，基于英特爾酷睿 Ultra AI PC 上能夠快速部署大模型，用戶(hù)能夠流暢地使用大模型強(qiáng)大的文本創(chuàng)作、編程、數(shù)學(xué)計(jì)算和邏輯推理能力，享受便捷、安全的本地化智能交互體驗(yàn)；

在處理文檔方面，用戶(hù)可以利用 AI PC 高效處理郵件、表格數(shù)據(jù)、自動(dòng)生成工作文檔，提高工作效率，還可以快速起草合同文書(shū)、以及利用 AI 智能分析訴訟案例，提供專(zhuān)業(yè)文檔撰寫(xiě)能力。

上述僅是目前 AI 大模型應(yīng)用比較火爆的幾個(gè)場(chǎng)景，除此之外，行業(yè)大模型還在金融、制造業(yè)、勘探等諸多領(lǐng)域已有較為廣泛的應(yīng)用。各行業(yè)利用 AI 大模型的能力賦能業(yè)務(wù)的時(shí)代已經(jīng)拉開(kāi)序幕。

數(shù)據(jù)依舊是逃不開(kāi)的話(huà)題

眾所周知，數(shù)據(jù)是大模型快速發(fā)展的 " 養(yǎng)分 "，無(wú)論是通用大模型，還是行業(yè)大模型，若想實(shí)現(xiàn)真正的價(jià)值，并降低 " 幻覺(jué) "，數(shù)據(jù)是一個(gè)不可不談的話(huà)題。

就行業(yè)而言，行業(yè)大模型需要海量豐富的行業(yè)專(zhuān)有數(shù)據(jù)，這部分對(duì)于想要利用行業(yè)大模型實(shí)現(xiàn)降本增效，以及從數(shù)字化向著數(shù)智化轉(zhuǎn)變的企業(yè)來(lái)說(shuō)，就對(duì)他們的數(shù)據(jù)治理能力提出了更高的要求。目前行業(yè)應(yīng)用上來(lái)看，企業(yè)原有的數(shù)據(jù)是不足以訓(xùn)練一個(gè)完善的企業(yè)級(jí)行業(yè)大模型的，目前主要的解決方式是采用合成數(shù)據(jù)。接下來(lái)，一方面企業(yè)需要提升自身數(shù)據(jù)質(zhì)量，另一方面，如何選取優(yōu)秀的合成數(shù)據(jù)也成為企業(yè)需要面對(duì)的棘手問(wèn)題。

另一方面，行業(yè)大模型不同于通用大模型的是——行業(yè)大模型大多需要實(shí)現(xiàn)端側(cè)或邊緣側(cè)部署。Gartner 預(yù)測(cè)，到 2025 年，50% 以上由企業(yè)管理的數(shù)據(jù)，將在數(shù)據(jù)中心或云之外進(jìn)行創(chuàng)建和處理。

換言之，就是到 2025 年，在端側(cè)的數(shù)據(jù)量將超過(guò) 50%。在這個(gè)過(guò)程中，隨著邊緣側(cè)數(shù)據(jù)量越來(lái)越大，數(shù)據(jù)傳輸?shù)膸捯彩瞧髽I(yè)需要面對(duì)的一大挑戰(zhàn)，" 雖然國(guó)內(nèi)在整個(gè)基礎(chǔ)建設(shè)傳輸帶寬建設(shè)上是全球最領(lǐng)先的，但當(dāng)大量數(shù)據(jù)在邊緣產(chǎn)生時(shí)，仍然可能引發(fā)網(wǎng)絡(luò)風(fēng)暴，我們?nèi)孕枰M(jìn)一步優(yōu)化網(wǎng)絡(luò)管理和數(shù)據(jù)傳輸策略。" 郭威告訴鈦媒體 APP。

展望未來(lái)，Sachin Katti 告訴鈦媒體 APP，AI 在驅(qū)動(dòng)數(shù)據(jù)提升質(zhì)量的同時(shí)，這些數(shù)據(jù)也將反過(guò)來(lái)支持 AI 變得更好，最終會(huì)實(shí)現(xiàn)良性循環(huán)。

顯然，大模型已經(jīng)進(jìn)入了在行業(yè)落地的快速發(fā)展期，在這個(gè)過(guò)程中，企業(yè)要遵循 " 數(shù)據(jù)驅(qū)動(dòng)，場(chǎng)景為王 " 的原則，才能讓大模型更好地在行業(yè)側(cè)落地。

來(lái)源：鈦媒體