芯耀
839
作者 |??云鵬，編輯?|??漠影
端側AI變革加速，模型進化正顛覆行業(yè)認知。
DeepSeek的出現(xiàn)可以說引爆了整個科技產(chǎn)業(yè)，在科技賽道的各個領域掀起波瀾。成本更低、性能更高、規(guī)模更小，“不可能三角”被徹底打破。這樣的表現(xiàn)可以說顛覆了AI大模型行業(yè)的傳統(tǒng)認知。
隨之而來的，是各行各業(yè)迅速接入DeepSeek，由DeepSeek蒸餾而來的各類小模型也開始在端側設備中廣泛落地。Meta首席AI科學家楊立昆就提到過，蒸餾技術可以讓模型快速應用到產(chǎn)品中，這也是開源的優(yōu)勢所在，每個人都能從技術進步中獲益。
模型訓練成本不斷下降、邊緣AI推理變得越來越普遍，單純以比拼模型規(guī)模為核心的競爭已經(jīng)成為過去式，根據(jù)權威市研機構Epoch AI數(shù)據(jù)，2024年AI大模型中75%以上規(guī)模都在千億參數(shù)以下。
如今行業(yè)聚焦的是如何在邊緣和端側高效地落地AI、如何在實際的生產(chǎn)中去部署AI，進而帶來實質(zhì)性的效益提升。高質(zhì)量的小規(guī)模模型愈發(fā)受到熱捧。與此同時，端側AI的加速發(fā)展，也帶動著相關芯片的規(guī)?；瘮U展，芯片需求顯著增長。
端側AI低時延、高實時性、高隱私性、高安全性，可以更好地實現(xiàn)本地個性化AI體驗的諸多優(yōu)勢特性都愈發(fā)凸顯。在這樣的產(chǎn)業(yè)背景下，移動芯片巨頭高通公司儼然已成為加速端側AI發(fā)展的核心推手，從硬件、軟件到生態(tài)，高通技術生態(tài)版圖正加速擴展。高通是行業(yè)內(nèi)最早一批聚焦端側AI、強調(diào)端側AI重要性的廠商，其很早就提出了混合AI架構。
近期，作為端側AI核心玩家的高通發(fā)布了最新AI白皮書，深入分析了AI大模型的激增和演進如何給AI格局帶來改變并釋放新的價值。與此同時，高通在今年的MWC上亮出一系列端側AI相關產(chǎn)品，與榮耀、小米、OPPO等國內(nèi)頭部手機廠商合作展示了不少亮眼的端側AI技術和AI智能體新應用。
可以說，隨著高通AI產(chǎn)品技術生態(tài)在手機、PC、汽車、工業(yè)IoT、網(wǎng)絡等終端和邊緣加速賦能、廣泛落地，高通已成為后DeepSeek時代AI產(chǎn)業(yè)的核心變量。
01.“小模型”爆發(fā)大能量智能硬件端側AI或迎井噴
今天，在AI技術快速迭代發(fā)展之下，AI產(chǎn)業(yè)格局正迎來轉(zhuǎn)變。AI模型的訓練方式正在發(fā)生顛覆性變革，大規(guī)模推理浪潮來勢洶洶，新的邊緣側推理計算創(chuàng)新和升級周期已經(jīng)到來。基于蒸餾和一系列優(yōu)化技術而生的更小型、更高效的模型正在快速落地行業(yè)，并加速在終端側的規(guī)?；伞?/p>
從手機、PC、智能穿戴、智能家居到汽車，端側和邊緣運行的AI模型在質(zhì)量、性能和效率方面都有顯著提升。終端側可以運行越來越多高質(zhì)量的AI模型、高質(zhì)量小語言模型和多模態(tài)推理模型數(shù)量激增，隨之而來的是越來越多AI應用和用例的涌現(xiàn)。與此同時，AI也在重新定義終端的用戶界面，AI正在成為終端側新的UI。諸多手機、PC巨頭都已經(jīng)發(fā)布AI OS相關技術，AI深度融入的操作系統(tǒng)成為終端行業(yè)的關鍵技術發(fā)展方向之一。
而實現(xiàn)這一切，加速端側AI落地，離不開底層一系列模型優(yōu)化相關技術的支撐。比如蒸餾（Distillation）技術能讓大模型“教學”小模型，在保持準確性的同時遷移知識，這也催生了諸多面向垂直行業(yè)特定領域調(diào)優(yōu)的專用小模型。
基于這樣的技術，DeepSeek作為教師模型，已經(jīng)幫助不少“學生”模型在性能表現(xiàn)上得到顯著提升。此外，量化、壓縮和剪枝等模型優(yōu)化技術，同樣有助于縮小模型規(guī)模，尤其是有助于降低運行模型的功耗，算力、功耗的節(jié)省對于端側AI的發(fā)展可以說是關鍵因素之一。
得益于這些技術，小模型的實際表現(xiàn)已經(jīng)逐漸接近前沿大模型。比如使用DeepSeek蒸餾后的Qwen-7B模型，已經(jīng)能夠在性能上與去年推出的GPT-4o云端模型持平，而蒸餾后的Llama 700億模型在推理、編程、數(shù)學、數(shù)據(jù)分析等多方面的表現(xiàn)都已經(jīng)超越了原始模型。
在一系列技術的加持下，大型基礎模型縮減為更小、更高效的版本，具備更快的推理速度、更少的內(nèi)存占用和更低的功耗，這無疑顯著加速了AI模型在智能手機、PC和汽車等智能終端上的部署落地，大幅降低了設備的算力門檻。
02.提前押寶端側AI領跑行業(yè)，從硬件、軟件到生態(tài)全鏈路布局
在這樣的行業(yè)趨勢下，高通已經(jīng)走到了端側AI落地核心推手的位置。從ChatGPT火爆之初，高通就已經(jīng)開始重點聚焦端側AI，并在諸多產(chǎn)品和技術發(fā)布中強調(diào)端側AI的優(yōu)勢。近年，高通連續(xù)發(fā)布AI技術白皮書，其提出的混合AI架構點明了端云結合將是未來行業(yè)發(fā)展到主流趨勢，而端側AI是高通作為全球移動芯片技術生態(tài)巨頭所核心專注的領域。
如今DeepSeek的火爆，恰恰驗證了高通對AI發(fā)展的趨勢判斷，端側AI的未來已經(jīng)十分明確。從NPU的持續(xù)迭代、硬件和算法層面的創(chuàng)新到對大模型的深度優(yōu)化適配，高通在端側AI領域有著長期深耕，其產(chǎn)品、技術和解決方案布局涵蓋了數(shù)十億臺智 能手機、汽車、XR頭顯和眼鏡、PC以及工業(yè)物聯(lián)網(wǎng)終端，這是高通的核心優(yōu)勢所在。
底層芯片方面，高通在CPU、NPU、GPU和低功耗子系統(tǒng)領域已經(jīng)陸續(xù)發(fā)布了諸多產(chǎn)品，尤其在系統(tǒng)級芯片（SoC）產(chǎn)品領域有著扎實的基礎。芯片的高性能、高能效、低功耗特性可以說是端側設備能夠高效處理復雜AI任務，同時兼顧續(xù)航、能效的根本保障。打好硬件基礎后，高通進一步構建了AI軟件棧來賦能開發(fā)者，讓各類智能終端更高效地得到硬件加速，進而提升端側AI體驗。
簡單來說，高通AI軟件棧包括庫、SDK和優(yōu)化工具，可簡化模型部署并提升性能、縮短AI應用開發(fā)的時間。此外，高通還在與全球AI模型廠商積極合作、提供高通AI Hub等服務，推動終端側AI應用的開發(fā)和規(guī)?；瘮U展。
在高通AI Hub上，開發(fā)者只需要簡單的三步就可以基于大模型開發(fā)AI應用并最終完成商業(yè)化部署。最近，高通正式宣布IBM watsonx.governance和Granite LLM大語言模型可以在搭載驍龍8至尊版的終端以及搭載高通躍龍AI的本地設備上運行。同時高通Cloud AI系列推理加速器已通過OpenShift認證，支持IBM的軟件應用程序套件在高通Cloud AI平臺進行部署?？梢哉f，從硬件、軟件到生態(tài)，高通端側AI優(yōu)勢凸顯，高通毫無疑問已經(jīng)成為后DeepSeek AI推理時代的領跑者之一。
03.從手機、PC、汽車到工業(yè)IoT，高通端側AI生態(tài)無處不在
基于端側AI領域過硬的產(chǎn)品性能、完善的軟件生態(tài)，高通正在多個賽道賦能行業(yè)，與廠商一起實現(xiàn)用戶體驗的革新，進而釋放新的商業(yè)價值。
比如在PC領域，我們能看到基于驍龍X系列平臺的筆記本電腦產(chǎn)品支持了諸多Windows 11 AI+ PC新特性，生成式AI推理真正落地在了端側，實現(xiàn)了本地運行。剪映、達芬奇、Zoom等各類流行三方應用都可以基于高通驍龍X平臺，本地化實現(xiàn)一些特定的AI功能。
在智能手機領域，三星、華碩、小米、OPPO、vivo和榮耀等頭部廠商的最新旗艦智能手機均搭載了最新驍龍旗艦移動芯片平臺。就在最近火爆科技圈的世界移動通信大會（MWC）上，高通亮出了一系列端側AI新進展，這些產(chǎn)品和技術也令人感受到端側AI加速發(fā)展帶來的巨大變革潛力?，F(xiàn)場我們能看到多種先進多模態(tài)生成式模型和智能體AI在智能手機上原生運行，AI助手能在不同溝通模式間切換，并生成多模態(tài)輸出。
與此同時，AI與系統(tǒng)的深度融合，也讓手機在通信、圖像編輯、個性化和無障礙方面有了進一步提升。比如高通最新發(fā)布的X85 5G調(diào)制解調(diào)器及射頻就內(nèi)置搭載了第四代專用AI處理器，AI在信號增強方面作用顯著。
隨著AI與系統(tǒng)的融合加深，AI已逐漸成為智能設備新的UI，通過自然語言和基于圖像、視頻與手勢的交互，極大簡化了我們與智能設備交互、使用應用、享受服務的方式。值得一提的是，在當下最為火爆的AI眼鏡領域，我們看到搭載高通芯片的智能手機可以與TCL雷鳥的智能眼鏡連接，AI眼鏡會根據(jù)眼前的健身器械來給用戶推薦具體的健身方式，AI提供的建議和回復都是個性化的。
此外，在汽車領域，高通驍龍數(shù)字底盤已經(jīng)使用端側AI來增強汽車安全和駕駛體驗，而對于工業(yè)物聯(lián)網(wǎng)和企業(yè)應用，高通推出了AI本地設備解決案和AI推理套件，增強隱私性、可控性，提高能效并降低時延。可以看到，從手機、PC、汽車到工業(yè)物聯(lián)網(wǎng)及網(wǎng)絡，終端和邊緣側AI推理正在快速落地、智能體等AI應用快速普應用，AI正加速融入我們生活的方方面面。在后DeepSeek時代，高通端側AI技術和產(chǎn)品對智能終端行業(yè)賦能起著關鍵作用。
04.結語：端側AI激變，高通已跑在前面
在端側AI高速發(fā)展的今天，高通的高能效芯片、AI軟件棧和各類開發(fā)層面的技術支持，都讓高通成為端側AI變革中的領跑者，有其獨有優(yōu)勢。
從手機、PC、汽車到工業(yè)IoT，從CPU、GPU到NPU，從硬件軟件到生態(tài)，高通正用AI全家桶幫行業(yè)武裝到牙齒。展望未來，AI在邊緣側和端側的爆發(fā)仍將繼續(xù)，各領域與AI的融合必將進一步加深，各類智能終端對芯片層的需求仍將繼續(xù)提高，高通端側AI無疑將成為智能終端行業(yè)變革的關鍵技術底座。
（本文系網(wǎng)易新聞?網(wǎng)易號特色內(nèi)容激勵計劃簽約賬號【智東西】原創(chuàng)內(nèi)容，未經(jīng)賬號授權，禁止隨意轉(zhuǎn)載。）
