(資料圖片僅供參考)
近日,商湯科技公布的一份紀(jì)要顯示,只有六家國(guó)內(nèi)公司具備訓(xùn)練像ChatGPT這樣的生成式AI所需的算力,需要至少1萬(wàn)張NVIDIA A100加速卡的支持。
百度、騰訊、字節(jié)、阿里等互聯(lián)網(wǎng)巨頭,都可以承受這樣的硬件投入,同時(shí)他們也已經(jīng)開始發(fā)布自己的AI產(chǎn)品,如百度的文心一言。然而,高性能加速顯卡現(xiàn)在是稀缺資源,國(guó)內(nèi)購(gòu)買NVIDIA高端顯卡更是不容易。
NVIDIA A100計(jì)算卡是2020年推出的首款安培架構(gòu)產(chǎn)品,配備542億個(gè)晶體管、8196個(gè)流處理器和40GB HBM2顯存等強(qiáng)大配置,能夠提供高達(dá)19.5TFlops的單精度浮點(diǎn)性能,但功耗也高達(dá)250W。因此,能夠承受這樣高昂硬件投入的企業(yè),目前還較為有限。
(8152743)