人工智能芯片效率大比拼：高通以 2:1 擊敗英偉達(dá)

4月11日消息，全球人工智能研究機(jī)構(gòu) MLCommons公布了最新的測(cè)試數(shù)據(jù)，高通的人工智能芯片在三個(gè)衡量電源效率的指標(biāo)中以 2 比 1 擊敗了英偉達(dá)。

人工智能模型需要用大量的數(shù)據(jù)進(jìn)行訓(xùn)練，以提高其準(zhǔn)確性和性能。訓(xùn)練完成后，人工智能模型就可以用于推理，即執(zhí)行一些具體的任務(wù)，比如根據(jù)輸入生成文本回復(fù)，或者判斷一張圖片是否包含貓。推理是人工智能技術(shù)在產(chǎn)品中廣泛應(yīng)用的環(huán)節(jié)，但也會(huì)增加企業(yè)的成本，其中一個(gè)主要成本就是電力。

高通公司利用其在為手機(jī)等低功耗設(shè)備設(shè)計(jì)芯片的經(jīng)驗(yàn)，推出了一款專(zhuān)為云端和邊緣端提供高性能、低功耗人工智能處理的芯片，名為 Cloud AI 100。該芯片在周三公布的由 MLCommons（一個(gè)維護(hù)人工智能芯片行業(yè)測(cè)試標(biāo)準(zhǔn)的工程聯(lián)盟）發(fā)布的測(cè)試數(shù)據(jù)中，在兩項(xiàng)功率效率指標(biāo)上擊敗了英偉達(dá)的旗艦芯片 H100。

功率效率指標(biāo)是指每瓦特電力可以執(zhí)行多少次服務(wù)器查詢(xún)。高通的 Cloud AI 100 在圖像分類(lèi)方面達(dá)到了 227.4 次查詢(xún)每瓦特，而英偉達(dá)的 H100 只有 108.4 次查詢(xún)每瓦特，圖像分類(lèi)可以用于識(shí)別圖片中的物體或場(chǎng)景。高通還在物體檢測(cè)方面領(lǐng)先于英偉達(dá)，分別達(dá)到了 3.8 次查詢(xún)每瓦特和 2.4 次查詢(xún)每瓦特。物體檢測(cè)可以用于分析零售店的監(jiān)控視頻，了解顧客最常去哪些地方。

然而，在自然語(yǔ)言處理方面，英偉達(dá)卻占據(jù)了絕對(duì)優(yōu)勢(shì)，無(wú)論是在性能還是功率效率方面都排名第一。自然語(yǔ)言處理是人工智能技術(shù)中最廣泛應(yīng)用于聊天機(jī)器人等系統(tǒng)的技術(shù)，英偉達(dá)達(dá)到了 10.8 次查詢(xún)每瓦特，而高通排名第二，為 8.9 次查詢(xún)每瓦特。

目前，人工智能專(zhuān)用芯片已經(jīng)成為芯片公司關(guān)注的重點(diǎn)，能耗與散熱將會(huì)成為該領(lǐng)域發(fā)展的重要方向。