英偉達獨占AI“入口”，微軟也想分羹，邊緣AI芯片成重要“催化劑”

據北京大學官網，該校人工智能研究院在面向邊緣AI的可轉置存內計算芯片方向研究取得重要進展，該研究團隊提出了一種可同時實現高能效模型推斷前饋計算與訓練反向傳播計算的可轉置存內計算電路設計，該方案能夠直接在邊緣端完成神經網絡的重訓練。

報道表示，研究團隊在基于28nm標準的芯片原型驗證該技術，前饋計算時的能效和反向傳播計算能效均達到世界先進水平，該技術為邊緣端智能提供了低功耗、高魯棒性的AI加速器解決方案。

邊緣AI是傳統云端算力的補充

隨著以ChatGPT為代表的AIGC（人工智能技術生成內容）應用大量興起，算力需求大增，同時需要更多的網絡帶寬成本。此前由于算力資源缺口問題，ChatGPT官網一度停止Plus付費項目的購買，還頻頻下調提問限制次數。

傳統的云計算模型通常將大量的數據傳輸到數據中心進行處理，然后再將結果返回到用戶設備。這種傳統的云計算模型可能存在延遲高、網絡帶寬消耗大、對隱私和安全性的擔憂等問題。

邊緣AI運行在邊緣設備上，不需要將數據上傳云端來計算。相較于云端AI，邊緣AI具有低延遲、高安全性、高可靠性、保護用戶隱私等優勢。國盛證券表示，由于算力爆發下產生的海量數據傳輸需求，完全依靠IDC（互聯網數據中心）提供中心化算力支撐乃是效率較低的選擇，在此背景下，邊緣計算便成為了傳統云端算力的很好補充。

由于邊緣AI的優勢，科技巨頭已將目光盯上。華為、高通均推出邊緣AI產品。今年3月，高通中國在安卓手機上首次演示了模型參數超過10億的Stable Diffusion；華為將發布智慧搜圖功能，該功能通過對模型進行小型化處理 。

中信證券表示，華為與高通一定程度上驗證了高性能邊緣AI的可行性，并且表明通過模型壓縮+聯網智能的方式有望在邊緣端實現AI大模型的體驗。

除了巨頭角逐，邊緣AI應用場景持續豐富。4月初，天貓精靈接入GPT大模型；4月11日，美國智能眼鏡開發商推出可以為智能眼鏡用戶提供ChatGPT的語音服務。

國盛證券表示，大模型將大幅提升智能硬件的使用體驗，同時智能硬件本身也將成為愈發重要的AI入口。當前隨著物聯網模組邁入“智能化”時代，集成了邊緣算力的“智能模組”，正在逐漸成為支撐硬件智能化與邊緣算力的核心形式。


微軟與AMD聯手對抗英偉達

在AI熱潮中，微軟正籌備和AMD聯手，自研AI芯片。

據媒體援引知情人士的話說，微軟正在提供財務支持以加強AMD研發AI芯片的努力，并與之合作開發代號為Athena的自研AI芯片，這是微軟在自研AI芯片方面多管齊下、多重下注的一部分。

有分析認為，此舉反映了微軟對芯片行業的介入持續深化。在過去幾年里，該公司一直在英特爾前高管Rani Borkar的領導下建立一個芯片部門，該部門目前擁有近1000名員工。據其中一位知情人士稱，其中數百名員工正在從事Athena項目，微軟已在該項目上投入了約20億美元。

但這并不預示著微軟和英偉達的分裂。微軟打算與英偉達保持密切合作，該公司的芯片是訓練和運行AI系統的主力軍。微軟還試圖獲得更多英偉達芯片，這凸顯了微軟和其他公司面臨的AI芯片的緊迫短缺。

4月中旬，據媒體援引兩位知情人士的話說，微軟早在2019年就開始開發內部代號為Athena的AI芯片。其中一位知情人士稱，一些微軟和OpenAI的員工已經開始測試并使用這些芯片。微軟希望該芯片的性能優于目前從其他供應商處購買的芯片，從而節省其在昂貴的AI業務上的時間和成本。

微軟的這些芯片專為大型語言模型等訓練軟件而設計。在當前，市場上所使用的AI芯片幾乎全部來自英偉達，而受制于產能的限制，英偉達的AI芯片時常短缺而且價格昂貴，這迫使微軟等公司生產自己的AI芯片。微軟曾表示，為了支撐ChatGPT，需要數千塊英偉達的AI芯片。

AMD如今已經是微軟以及其他云服務商，如谷歌和甲骨文的芯片供應商。AI芯片領域也是AMD的一個關鍵優先事項。

AMD首席執行官Lisa Su在本周二的電話會上說：我們對AI領域的機會感到非常興奮——這是我們的首要戰略重點，我們正處于AI計算時代的早期階段，其采用和增長速度比近代以來任何其他技術都要快。

Su還表示，AMD有機會為其大客戶制造部分定制的芯片，以用于他們的AI數據中心。

知情人士說，即使該項目制定了時間表，日后推出的第一版芯片也只是一個起點。制造一個好的芯片需要數年時間，而英偉達已經取得了巨大的領先優勢。英偉達是許多生成式AI供應商的首選芯片供應商，包括亞馬遜公司的AWS和谷歌云，馬斯克也已經為其剛剛起步的AI業務買下了一萬個英偉達的AI芯片。

微軟并不是唯一一家嘗試開發自己的AI芯片的公司。微軟在云計算領域的競爭對手亞馬遜于2016年收購了Annapurna Labs，并開發了兩種不同的AI芯片；谷歌母公司Alphabet也有自己的訓練芯片。


AI芯片分工生變，云端推理加速轉移

據外媒semianalysis報道，ChatGPT每天在計算硬件方面的運營成本為694444美元，Open AI需要大約3617臺HGX A100服務器（28936個GPU）為ChatGPT提供服務。真正需要用云端芯片進行推理的需求增加，云端無法承受如此龐大的數據和工作量，如果能夠將AI云端芯片的處理工作向邊緣側轉移，或許將為大模型的訓練和推理釋放更多的計算空間。

與此同時，用戶需求也在改變著典型的AI芯片分工方式，一方面消費者希望保護個人數據隱私，即將終端數據保留在終端設備上，另一方面，消費者又需要可靠的數據，并即時獲得處理結果，數據不斷從邊緣側產生，AI處理的重心正在持續向邊緣轉移。

因此，將推理工作轉移至邊緣側終端完成也成為不少企業為之努力的目標和趨勢。高通就在推升終端側的推理能力方面有著出色表現。

雷峰網了解到，高通正在采取不同的方式實現終端側的學習能力，對包括小樣本學習、無監督持續學習、聯邦學習和低復雜度的終端側訓練等方向的研究，且已經取得了一些成效。

通過小樣本學習，在關鍵詞識別方面，AI能夠“看完”某一人的筆跡或書面文字之后快速進行辨認，也能在用戶錄入數據時進行局部模型適應，憑借少量樣本數據和數據標記能力，提升關鍵詞識別能力。

在聯邦學習方面，云端創造的模型被下發到邊緣側終端之后，基于一定程度的離線學習，終側端就可以根據消費者實際情況調整模型，由于終端側學習的過程會產生噪音，因此還能將其回傳到云端進一步提升模型的泛化能力。在實際的應用場景中，如果一輛汽車不斷在多個國家的不同路況上行駛，云端模型就可以持續進行適應，假以時日模型經過優化，就能打造出更加優秀的自動駕駛汽車模型。

為了讓AI在終側端發揮最大作用，高通也有針對性的技術創新。

例如，高通支持INT4的精度推理。INT4相比INT8能夠實現60% 的能效提升和90%的AI推理速度提升，如果從INT8轉化到INT4、或從浮點計算轉化到整數計算，在同樣的算力下能夠處理更多的數據。如果將32位浮點模型轉化為INT4模型，能效甚至能夠提升到64倍。


國產芯片水平提高，推動行業高速增長

人工智能是引領新一輪科技革命和產業變革的戰略性技術。我國把人工智能放在國家戰略層面，出臺了一系列重要政策鼓勵支持人工智能的發展。《新一代人工智能發展規劃》明確指出了到2030年我國新一代人工智能發展“三步走”的戰略目標。十四五規劃中明確提出“推動互聯網、大數據、人工智能等同各產業深度融合”。因此，在國家戰略引領與政策支持下，我國人工智能行業正面臨重要的發展機遇，將推動AI芯片行業不斷發展。

當前，我國正加速推進5G基站、人工智能、工業互聯網等新型基礎設施建設，由于AI芯片是人工智能技術和產業發展的重要支撐，預計未來將催生大量高端芯片、專用芯片的需求，AI芯片行業將迎來新一輪的高速增長階段。同時，國產AI芯片發展水平的不斷提高將為中國企業人工智能頂層應用的算法效果及落地成本賦能。

中國公司的數字化轉型將帶動AI芯片需求的增長，以支持高效處理海量數據，從而推動AI芯片行業的快速發展和持續創新。目前，隨著數字化時代的到來，高級AI芯片、專用AI芯片將存在廣闊的應用市場，需求不斷增加，預計AI芯片行業將迎來又一個快速發展階段。