Intel će stvoriti najmoćniji superkompjuter sa hiljadama Gaudi2 AI akceleratora

Korporacija Intel, prema sajtu Datacenter Dynamics, namerava da stvori jedan od najmoćnijih superkompjutera na svetu za rad sa generativnom veštačkom inteligencijom. Resurse platforme koristiće kompanija Stability AI, koja implementira projekte iz relevantne oblasti. LPC platforma je bazirana na Xeon procesorima. Osim toga, kaže se da koristi oko 4000 Gaudi2 akceleratora.

Gaudi procesor se pojavio kao rezultat Intelove akvizicije kompanije Habana Labs od 2019 milijarde dolara 2. godine. U to vrijeme, odbacio je AI čipove iz prethodne akvizicije Nervane u korist izraelskog poslovanja.

Intel je nedavno objavio rezultate testiranja Gaudi2 u GPT-J benchmark-u (uključenom u MLPerf Inference v3.1), koji je baziran na modelu velikog jezika (LLM) sa 6 milijardi parametara. Prema procjenama, Gaudi2 može postati alternativno rješenje NVIDIA H100 na AI tržištu.

Međutim, H100 i dalje nadmašuje konkurenciju kada je u pitanju rukovanje AI aplikacijama. Prije NVIDIA najavio softver TensorRT-LLM open source, posebno dizajniran za ubrzanje izvršavanja velikih jezičkih modela (LLM). Prema procjenama NVIDIA, primjena TensorRT-LLM omogućava udvostručenje performansi akceleratora H100 u GPT-J 6B testu. Kada se koristi model Llama2, povećanje brzine u odnosu na A100 dostiže 4,6x.

Projekat Intel i stabilnost AI pomoći će kompanijama da ojačaju svoje pozicije na generativnom AI tržištu. Ništa se ne izvještava o vremenu puštanja sistema u rad i njegovim očekivanim performansama.

Pročitajte također:

• Intel je najavio da će Meteor Lake procesori biti predstavljeni 14. decembra
• Superkompjuter Crossroads baziran na Intel Xeon Sapphire Rapids predstavljen je u Laboratoriji u Los Alamosu