近日，高通發(fā)布了年度旗艦芯片，公司相關(guān)負責(zé)人在演講中，頻頻提到一個關(guān)鍵詞——端側(cè)AI（人工智能）。
端側(cè)AI是將AI模型部署在終端設(shè)備上，讓終端設(shè)備具備本地的智能處理能力，無需依賴云端服務(wù)器就能完成一些AI任務(wù)。與之相對應(yīng)的是云側(cè)AI，云側(cè)AI是指將人工智能的模型訓(xùn)練和推理任務(wù)放在云端服務(wù)器進行處理。
從名稱上就可以感受到端側(cè)與云側(cè)兩種AI處理模式的差異。在端側(cè)處理，省去了信息在終端與云端的交互時間，處理速度更快，同時，個人數(shù)據(jù)也只保留在本地，不存在云端泄漏的風(fēng)險，更有利于數(shù)據(jù)安全。不過，端側(cè)處理的不足也是顯而易見的，特別是在計算資源與存儲能力方面，端側(cè)要明顯遜色，相比云端部署的大模型，端側(cè)往往只能部署單一應(yīng)用的小模型。
那么，為什么端側(cè)AI成為芯片大廠關(guān)注的焦點？
按照高通公司總裁兼CEO安蒙的說法，UI（用戶界面）現(xiàn)在已經(jīng)是以人為核心，能適應(yīng)用戶的需求，并在端側(cè)進行處理。同時，用戶體驗的核心已轉(zhuǎn)向智能體AI，這一變革正在重塑社會對所有智能終端的認知：無論是智能手表、無線耳機還是智能眼鏡，它們不再只是手機功能的延伸，而是開始直接與智能體交互。他判斷，智能手機不會消失，但是將迎來以智能體AI為核心的時代，包括智能手機在內(nèi)的不同品類的智能終端將共同定義全新的移動體驗。
記者從業(yè)內(nèi)了解到，一些端側(cè)AI應(yīng)用已經(jīng)嶄露頭角。例如，當你想要利用AI為你制作一份旅游計劃表時，傳統(tǒng)的AI會為你提供一份大眾化攻略，但通過端側(cè)AI，它可以自動識別你的日歷表中哪些日期、哪些時段已經(jīng)安排了其他行程，在制作攻略時會主動避開這些時段，從而提供更合理的出行建議。
無獨有偶，聯(lián)發(fā)科剛剛在發(fā)布旗艦芯片時對端側(cè)AI功能著墨不少。該公司聲稱，其最新發(fā)布的旗艦芯片率先支持Bitnet 1.58 bit推理框架，端側(cè)AI能力獲得了史詩級的提升，大幅減少AI計算、圖像識別及自然語言處理能力運算對于云的需求，讓以往需要依賴云端才能做到的4K超高分辨率文生圖、128K長文本處理、AI寫真等功能得以在端側(cè)實現(xiàn)。
記者注意到，為了支撐端側(cè)AI，高通還提到了計算架構(gòu)的變化。安蒙稱，需要構(gòu)建一個全新的計算架構(gòu)體系，包括操作系統(tǒng)、軟件、芯片都需要重新設(shè)計以支持這些新體驗。他認為，在由智能體主導(dǎo)的未來，智能體擁有豐富的情境理解能力，能記住用戶的習(xí)慣，還能理解用戶看到的內(nèi)容，而高通正面向這樣的需求打造全新的處理器。
值得一提的是，除了消費級的終端，未來工業(yè)級的終端也將具備AI能力。在業(yè)內(nèi)人士看來，各行各業(yè)中采用的大量傳感器會產(chǎn)生海量數(shù)據(jù)(16.440, -0.69, -4.03%)，這些數(shù)據(jù)往往尚未被充分利用，攝像頭就是典型的例子，它們遍布各個角落，是否可以讓每一個攝像頭都具備AI能力，使其能夠基于輸入的數(shù)據(jù)流進行分析并做出決策？
因此，端側(cè)AI的故事才剛剛開始，不僅僅是如今的智能手機、智能手表以及智能汽車，甚至未來每一臺工業(yè)級邊緣終端、各行各業(yè)的傳感器——無論是制造工廠、配送中心，還是零售場景，這些領(lǐng)域中的傳感器都將具備AI能力。
當然，強調(diào)端側(cè)AI的能力并不意味著云側(cè)AI不重要。未來，最好的局面是，無論在終端還是云端進行AI處理，二者都將無縫協(xié)同，實現(xiàn)邊緣側(cè)“云+端”的協(xié)同，這將使推理計算等任務(wù)得到更高效的分配。
