U press službi AMD objavila je da je kompanija objavila novu verziju ROCm 6.3 softvera otvorenog koda. Ovaj softver je dobio dodatne napredne alate za pojednostavljenje procesa razvoja i pružanje još boljih performansi i skalabilnosti za radna opterećenja AI i računarstva visokih performansi (HPC).
Pratite naš kanal za najnovije vijesti Google News online ili putem aplikacije.
Među glavnim karakteristikama AMD ROCm 6.3, kompanija je istakla sledeće:
- SGLang alat posebno dizajniran za optimizaciju zaključivanja najsavremenijih generativnih modela, kao što su modeli velikih jezika i modeli vizuelnog jezika, na AMD Instinct GPU-ovima. Pomoću njega možete postići do šest puta veću propusnost pri zaključivanju velikih jezičkih modela
- Optimizacija transformatora novog nivoa. FlashAttention-2, optimizovan za ROCm 6.3, ubrzava obuku modela transformatora i zaključivanje za 3 puta. Zahvaljujući tome, moguće je značajno smanjiti vrijeme izlaska na tržište korporativnih sistema umjetne inteligencije
- AMD Fortra kompajler koji pojednostavljuje GPU ubrzanje za stare HPC aplikacije i nudi direktno preuzimanje, kompatibilnost unatrag i jednostavnu integraciju bez značajnih promjena koda
- Novi višečvorni FFT (brzi algoritam za izračunavanje diskretne Fourierove transformacije). Podrška za FFT sa više čvorova omogućava FFT proračune visokih performansi na velikim skupovima podataka. Ovo omogućava povećanje efikasnosti i brzine donošenja odluka u oblastima poput industrije nafte i gasa i naučnih istraživanja.
U novoj verziji softvera proširene su i biblioteke kompjuterskog vida. Napredne biblioteke vizije, uključujući AV1 i rocJPEG, omogućavaju programerima da kreiraju napredne AI rješenja za različita opterećenja kao što su video analitika ili povećanje skupova podataka. Ovaj alat će biti koristan u čitavom nizu industrija, od masovnih medija i zabave do autonomnih sistema.
Sa otvorenim kodom i kontinuiranim razvojem kako bi se zadovoljile potrebe programera, AMD nastavlja da osnažuje kompanije da brže inoviraju, pametnije skaliraju i ostanu ispred svojih konkurentskih industrija.
Ukoliko ste zainteresovani za članke i vesti o vazduhoplovnoj i svemirskoj tehnologiji, pozivamo vas na naš novi projekat AERONAUT.media.
Pročitajte također: