摩爾定律遇到物理極限，但GPU技術(shù)繼續(xù)快速演變

摩爾定律預(yù)測大約每兩年晶體管密度加倍，現(xiàn)在正接近其物理極限。然而，GPU技術(shù)依然在快速演變，架構(gòu)和專用處理單元的創(chuàng)新推動了持續(xù)的性能提升。多芯片模塊、3D芯片堆疊和高級緩存層次結(jié)構(gòu)正在突破單片集成電路的限制。2024年上半年見證了一波技術(shù)進(jìn)步，包括Nvidia推出的Blackwell GPU架構(gòu)、芯粒技術(shù)的廣泛采用以及熱電池和高帶寬內(nèi)存的重大進(jìn)展。本文將探討2024年上半年GPU和半導(dǎo)體技術(shù)的最新趨勢和突破。

Aurora超算實(shí)現(xiàn)百億億次性能，全球排名第二

2024年5月13日，阿貢國家實(shí)驗室在德國漢堡舉行的ISC高性能計算會議上宣布，Aurora超級計算機(jī)突破了百億億次計算能力的門檻，成為全球第二臺百億億次計算機(jī)，并在超級計算機(jī)TOP500排名中位列第二。Aurora的規(guī)模和架構(gòu)擁有63,744個GPU，可能在氣候變化、醫(yī)療治療和材料科學(xué)等領(lǐng)域的科學(xué)研究中帶來潛在的突破。

芯粒技術(shù)在半導(dǎo)體行業(yè)引起轟動

2024年，芯粒技術(shù)（即由多個小型半導(dǎo)體晶片組成的單一集成電路）吸引了AMD、Intel、NVIDIA和三星等主要玩家的關(guān)注。這項技術(shù)也是2024年設(shè)計自動化大會（DAC）上的明星。MIT Technology Review在圣克拉拉將芯粒列為2024年十大突破技術(shù)之一。對芯粒的興趣不僅限于美國，中國公司和政府機(jī)構(gòu)以及日本的公司（如Tenstorrent）也在大力投資芯粒研發(fā)。

熱電池在工業(yè)能源存儲和脫碳應(yīng)用中獲得進(jìn)展

熱能儲存系統(tǒng)（也稱為熱電池）在工業(yè)能源管理和脫碳努力中展現(xiàn)出潛力。這類系統(tǒng)以熱量形式儲存能量，并能在長時間內(nèi)捕獲和保持大量熱能。Rondo Energy、Antora Energy和Electrified Thermal Solutions等公司正在開發(fā)此類系統(tǒng)，利用熔鹽、混凝土、工程磚或碳塊等材料存儲能量。

例如，Rondo Energy使用由普通材料制成的磚塊在高溫下儲存熱量，其熱電池可連續(xù)提供高達(dá)1500攝氏度的高溫?zé)崃俊＿@項技術(shù)已在加州Calgren Renewable Fuels安裝的2兆瓦熱電池中使用，有助于減少生物燃料生產(chǎn)的碳強(qiáng)度。

Antora Energy則采用固體碳塊存儲熱量，其熱電池可以將可再生電力轉(zhuǎn)化為熱能，然后通過熱光電池將熱能再轉(zhuǎn)化為電力。這種雙重功能允許直接的工業(yè)熱應(yīng)用和電力生成。

最后，Electrified Thermal Solutions專注于使用導(dǎo)電磚儲存熱能，利用熱能儲存系統(tǒng)的高效率、低成本和與可再生能源集成的能力。

佐治亞理工大學(xué)研究人員創(chuàng)造出首個功能性石墨烯半導(dǎo)體

幾十年來，研究人員一直看好石墨烯的前景，但在半導(dǎo)體應(yīng)用中一直難以實(shí)現(xiàn)。然而，2024年1月，來自美國佐治亞州亞特蘭大和中國天津的科學(xué)家團(tuán)隊宣布，他們創(chuàng)造了世界上首個完全由石墨烯制成的功能性半導(dǎo)體。該材料的電子遷移率是硅的10倍。研究人員通過克服阻礙石墨烯發(fā)展的“帶隙”障礙，實(shí)現(xiàn)了這一突破。這一成果可能為更快、更高效的設(shè)備鋪平道路，從而推動更小、更快的電子設(shè)備到量子計算等領(lǐng)域的發(fā)展。

Nvidia推出下一代Blackwell GPU架構(gòu)

2024年3月，Nvidia在其GTC大會上推出了Blackwell架構(gòu)。新架構(gòu)將為B200 GPU和GB200 Grace Blackwell Superchip等產(chǎn)品提供動力，性能較其前代產(chǎn)品Hopper大幅提升。Nvidia瞄準(zhǔn)了在集群級別上4倍的訓(xùn)練性能提升，對于特定推理工作負(fù)載，特別是大語言模型，Nvidia聲稱在特定條件下性能提升可達(dá)30倍。標(biāo)準(zhǔn)格式下計算能力提升2.5倍，使用新FP4格式時則可能達(dá)到5倍。新架構(gòu)的一個代表產(chǎn)品是B200 GPU，擁有2080億個晶體管，采用TSMC的4NP工藝制造。另一個例子是GB200 Grace Blackwell Superchip，它將兩個B200張量核心GPU與Nvidia Grace CPU結(jié)合，為AI工作負(fù)載提供顯著的性能提升。例如，在一個具有1750億參數(shù)的GPT-3 LLM基準(zhǔn)測試中，GB200的性能據(jù)報道比H100 GPU高出7倍。

主要云服務(wù)提供商和科技公司，包括AWS、微軟、谷歌和甲骨文，計劃采用基于Blackwell的系統(tǒng)。

HBM3E開啟新內(nèi)存帶寬時代

高帶寬內(nèi)存（HBM）是一種為3D堆疊同步動態(tài)隨機(jī)存取內(nèi)存（SDRAM）設(shè)計的計算機(jī)內(nèi)存接口，三星、AMD和SK Hynix于2013年宣布了這一技術(shù)。2024年，高帶寬內(nèi)存市場見證了顯著的改進(jìn)，特別是在高帶寬內(nèi)存3E（HBM3E）方面。新一代高性能內(nèi)存旨在縮小GPU快速進(jìn)步的處理能力與日益增長的內(nèi)存帶寬需求之間的差距。具體進(jìn)展包括SK Hynix在2024年3月開始量產(chǎn)的一款36GB內(nèi)存產(chǎn)品，其數(shù)據(jù)處理速度可達(dá)每秒1.15TB。公司計劃在2024年第三季度量產(chǎn)12層HBM3E芯片。SK Hynix還開發(fā)了一款16層48GB HBM3E產(chǎn)品，單堆疊速度可達(dá)1280 GB/s。與此同時，三星電子也宣布了其品牌為“Shinebolt”的HBM3E內(nèi)存。

微軟宣布33億美元投資威斯康星州AI數(shù)據(jù)中心，重振擱置的富士康項目

2024年5月8日，微軟宣布將在威斯康星州投資33億美元建設(shè)AI數(shù)據(jù)中心，項目選址為廢棄的富士康項目地。投資將涵蓋云計算和AI基礎(chǔ)設(shè)施的開發(fā)、制造業(yè)AI協(xié)同創(chuàng)新實(shí)驗室的創(chuàng)建以及為超過10萬名威斯康星州居民提供AI技能培訓(xùn)。投資戰(zhàn)略包含四個主要部分：第一是在Mount Pleasant建設(shè)新數(shù)據(jù)中心校園；第二是在威斯康星大學(xué)密爾沃基分校建立AI協(xié)同創(chuàng)新實(shí)驗室；后兩部分包括與當(dāng)?shù)亟M織合作進(jìn)行AI技能培訓(xùn)以及投資社區(qū)教育和青年就業(yè)計劃。微軟預(yù)計該項目將在2025年前創(chuàng)造2300個工會建筑工作崗位。