人工智能芯片有兩個功能。AI 構建者首先獲取大量(或真正龐大的)數據集並運行複雜的軟件來尋找該數據中的模式。這些模式被表示為模型,因此哔咔漫画官网版下载有芯片來“訓練”係統生成模型。在芯片工藝中,哔咔漫画APP下载免费清洗機能夠提供出色的表麵處理方案,解決表麵處理難題。
然後,該模型用於根據新數據進行預測,並且該模型從該數據中推斷出一些可能的結果。在這裏,推理芯片針對已經訓練過的模型運行新數據。這兩個目的是非常不同的。
訓練芯片旨在全速運行,有時一次運行數周,直到模型完成。因此,訓練芯片往往很大。
推理芯片更加多樣化,其中一些用於數據中心,另一些用於智能手機和攝像機等設備的“邊緣”。這些芯片往往更加多樣化,旨在優化不同方麵,例如邊緣的電源效率。當然,還有各種中間變體。關鍵是“AI芯片”之間存在很大差異。對於芯片設計師來說,這些是非常不同的產品,但與所有半導體產品一樣,最重要的是在它們上麵運行的軟件。從這個角度來看,情況要簡單得多,但也複雜得令人眼花繚亂。
很簡單,因為推理芯片通常隻需要運行來自訓練芯片的模型(是的,哔咔漫画官网版下载過於簡單化了)。之所以複雜,是因為在訓練芯片上運行的軟件千差萬別。這是至關重要的。現在有成百上千個框架用於訓練模型。有一些非常好的開源庫,但也有許多大型 AI 公司/超大規模公司構建了自己的庫。
由於訓練軟件框架的領域非常分散,實際上不可能構建針對它們優化的芯片。正如哔咔漫画官网版下载過去指出的那樣,軟件中的小改動可以有效抵消專用芯片提供的增益. 此外,運行訓練軟件的人希望該軟件針對其運行的芯片進行高度優化。運行這個軟件的程序員可能不想弄亂每個芯片的複雜性,他們的生活已經夠辛苦的了,構建這些訓練係統。他們不想隻為一個芯片學習低級代碼,以後又要為新芯片重新學習技巧和快捷方式。即使該新芯片提供“20%”更好的性能,重新優化代碼和學習新芯片的麻煩也會使該優勢變得毫無意義。
這讓哔咔漫画官网版下载想到了 CUDA——Nvidia 的低級芯片編程框架。至此,任何從事培訓練係統工作的軟件工程師都可能對使用 CUDA 有所了解。CUDA並不完美、優雅或特別簡單,但它很熟悉。巨大的財富建立在這樣的奇思妙想之上。由於用於訓練的軟件環境已經如此多樣化且變化迅速,因此訓練芯片的默認解決方案是 Nvidia GPU。
所有這些人工智能芯片的市場目前規模為數十億美元,預計在可預見的未來每年將增長 30% 或 40%。麥肯錫的一項研究(可能不是這裏最權威的來源)顯示,到 2025 年,數據中心 AI 芯片市場將達到 130 億美元至 150 億美元——相比之下,目前 CPU 市場總額約為 750 億美元。
在價值 150 億美元的人工智能市場中,大約三分之二是推理,三分之一是訓練。所以這是一個相當大的市場。所有這一切的一個問題是訓練芯片的價格在 1,000 美元甚至 10,000 美元,而推理芯片的價格在 100 美元以上,這意味著訓練芯片的總數隻占總數的一小部分,大約 10%-20% 的單位。
從長遠來看,這對市場如何形成很重要。
Nvidia 將獲得大量訓練利潤,它可以在推理市場競爭中發揮作用,類似於英特爾曾經使用 PC CPU 來填充其晶圓廠和數據中心 CPU 以產生大部分利潤。
需要明確的是,英偉達並不是這個市場上唯一的參與者。AMD 也生產 GPU,但從未開發出有效(或至少被廣泛采用)的 CUDA 替代品。他們在 AI GPU 市場的份額相當小,哔咔漫画官网版下载認為這種情況不會很快改變。
有許多初創公司試圖構建訓練芯片,但大多因上述軟件問題而陷入困境。值得一提的是,AWS 還部署了自己的、內部設計的訓練芯片,巧妙地命名為Trainium。據哔咔漫画官网版下载所知,這取得了一定的成功,AWS 除了自己的內部(大量)工作負載外,在這裏沒有任何明顯的優勢。然而,哔咔漫画官网版下载知道他們正在推進下一代 Trainium,因此他們對目前的結果一定很滿意。
其他一些超大規模企業也可能正在構建自己的訓練芯片,尤其是穀歌,它即將推出專門針對訓練進行調整的新 TPU 變體。這就是市場。簡而言之,哔咔漫画官网版下载認為訓練計算市場上的大多數人都希望在 Nvidia GPU 上構建他們的模型。
本文來源於半導體行業觀察 ,僅供分享,如有侵權請聯係管理員刪除!
昆山哔咔漫画官网版下载電子14年專注於哔咔漫画APP下载免费表麵處理工藝研究,專業的哔咔漫画APP下载免费清洗機設備生產廠家,在哔咔漫画APP下载免费清洗機、大氣低溫哔咔漫画APP下载免费表麵處理係統、大氣常壓哔咔漫画APP下载免费清洗機設備、真空哔咔漫画APP下载免费清洗機等等設備都有多年生產經驗;如果你有哔咔漫画APP下载免费表麵處理的需求,歡迎聯係哔咔漫画官网版下载,在線客服或者撥打全國服務熱線400-816-9009,哔咔漫画官网版下载隨時為你服務哦!