Root NationČlanciKompanijeOd CUDA do AI: Tajne uspjeha NVIDIA

Od CUDA do AI: Tajne uspjeha NVIDIA

-

NVIDIA - prva kompanija u istoriji industrije čipova, čija je kapitalizacija premašila trilion dolara. Koja je tajna uspjeha?

Siguran sam da su mnogi od vas čuli za kompaniju NVIDIA a većina vas to povezuje upravo sa grafičkim procesorima, jer fraza "NVIDIA GeForce" su čuli skoro svi.

NVIDIA

NVIDIA nedavno ušao u finansijsku istoriju u IT industriji. To je prva kompanija za integrisana kola čija je tržišna vrijednost premašila trilion dolara. To je ujedno i peta kompanija koja se bavi tehnologijom u istoriji koja je postigla tako veliki (po tržišnoj kapitalizaciji) uspjeh. Ranije su se samo ljudi mogli pohvaliti tako visokim rejtingom Apple, Microsoft, Alphabet (vlasnik Google-a) i Amazon. Zato su ga finansijeri ponekad nazivali "Klubom četvorice", koji je sada proširen NVIDIA.

Osim toga, po tržišnoj kapitalizaciji daleko je iza AMD-a, Intela, Qualcomma i drugih tehnoloških kompanija. Ovo ne bi bilo moguće bez vizionarske politike kompanije, uvedene prije deset godina.

Pročitajte također: Postoji li budućnost za TruthGPT Elona Muska?

Nevjerovatna potražnja za NVIDIA H100 Tensor Core

Koja je tajna takvog povećanja kapitalizacije? Prije svega, ovo je reakcija berze na uspjeh čipa NVIDIA H100 Tensor Core, koji je veoma tražen među vodećim provajderima cloud infrastrukture i online usluga. Ove čipove kupuju Amazon, Meta i Microsoft (za svoje potrebe i potrebe svog partnera - kompanije OpenAI). Posebno su energetski efikasni u ubrzavanju proračuna tipičnih za generativnu umjetnu inteligenciju, kao što su ChatGPT ili Dall-E. Ovo je nevjerovatan skok reda veličine za ubrzano računanje. Dobijamo performanse bez presedana, skalabilnost i sigurnost za svako radno opterećenje NVIDIA H100 Tensor Core GPU.

NVIDIA-H100-Tenzorska jezgra

Korištenje komutacijskog sistema NVIDIA NVLink se može povezati na do 256 H100 GPU-a kako bi se ubrzala radna opterećenja u exa skali. GPU takođe uključuje namenski Transformer Engine za rešavanje jezičkih modela sa trilionima parametara. Kombinovane tehnološke inovacije modela H100 mogu ubrzati modele velikih jezika (LLM) za nevjerovatnih 30x u odnosu na prethodnu generaciju, pružajući vodeću konverzacijsku umjetnu inteligenciju u industriji. Programeri ga smatraju gotovo idealnim za mašinsko učenje.

- Advertisement -

Međutim, H100 se nije pojavio niotkuda. I, iskreno, nije posebno revolucionarno. NVIDIA, kao nijedna druga kompanija, već dugi niz godina ulaže ogromne resurse u umjetnu inteligenciju. Kao rezultat toga, kompanija koja je prvenstveno povezana sa brendom GeForce grafičkih kartica može tretirati potrošačko tržište gotovo kao hobi. Na kraju krajeva, ovo gradi stvarnu moć na tržištu IT giganata NVIDIA već mogu razgovarati sa njima kao sa jednakim.

Također zanimljivo: Šta su 6G mreže i zašto su potrebne?

Da li je umjetna inteligencija budućnost?

Danas su u to uvjereni gotovo svi, čak i skeptični stručnjaci u ovoj oblasti. Sada je to gotovo aksiom, istina. Iako NViDIA znao za to pre 20 godina. Jesam li te iznenadio?

Tehnički, prvi bliski kontakt NVIDIA sa umjetnom inteligencijom dogodilo se 1999. godine, kada se na tržištu pojavio procesor GeForce 256, sposoban da ubrza proračune mašinskog učenja. kako god NVIDIA počela je ozbiljno ulagati u umjetnu inteligenciju tek 2006. godine, kada je uvela CUDA arhitekturu, koja je omogućila korištenje mogućnosti paralelne obrade grafičkih procesora za obuku i istraživanje.

NVIDIA-CUDA

Šta je CUDA? Najbolje se definiše kao paralelna računarska platforma i interfejs za programiranje aplikacija (API) koji omogućava softveru da koristi grafičke procesne jedinice opšte namene (GPGPU). Ovaj pristup se naziva računarstvo opšte namene na GPU-ovima. Pored toga, CUDA je softverski sloj koji omogućava direktan pristup virtuelnom skupu instrukcija i paralelnim računarskim elementima grafičkog procesora. Dizajniran je za rad sa programskim jezicima kao što su C, C++ i Fortran.

Upravo ova pristupačnost olakšava paralelnim programerima da iskoriste GPU resurse, za razliku od prethodnih API-ja kao što su Direct3D i OpenGL, koji su zahtijevali napredne vještine grafičkog programiranja.

NVIDIA-CUDA

Važan iskorak je bila ponuda od strane kompanije NVIDIA računarska snaga za revolucionarnu AlexNet neuronsku mrežu. Riječ je o konvolucionoj neuronskoj mreži (CNN), koju je razvio Ukrajinac Alex Kryzhevsky u suradnji s Ilyom Sutzkeverom i Jeffreyjem Gintonom.

Konvolucijske neuronske mreže (CNN) su oduvijek bile glavni model za prepoznavanje objekata – oni su moćni modeli koje je lako kontrolisati i još lakše trenirati. Ne doživljavaju pretjerano uklapanje u alarmantnoj mjeri kada se koriste na milionima slika. Njihove performanse su gotovo identične standardnim neuronskim mrežama iste veličine. Jedini problem je što ih je teško primijeniti na slike visoke rezolucije. Razmjer ImageNet-a zahtijevao je inovacije koje bi bile optimizirane za GPU-ove i smanjile vrijeme obuke uz poboljšanje performansi.

AlexNet

30. septembra 2012. AlexNet je učestvovao u ImageNet Large Scale Visual Recognition Challenge-u. Mreža je postigla rezultat od 15,3% u testu najboljih pet grešaka, preko 10,8% niži od rezultata za drugo mjesto.

Glavni zaključak iz originalnog rada bio je da je složenost modela nastala zbog njegovih visokih performansi, koje su bile i veoma skupe u računskom smislu, ali omogućene upotrebom grafičkih procesorskih jedinica (GPU) tokom procesa obuke.

Sama konvoluciona neuronska mreža AlexNet sastoji se od osam slojeva; prvih pet su konvolucijski slojevi, od kojih nekima prethode maksimalno povezani slojevi, a posljednja tri su potpuno povezani slojevi. Mreža je, osim posljednjeg sloja, podijeljena u dvije kopije, od kojih svaka radi na jednom GPU-u.

- Advertisement -

To jest, zahvaljujući tome NVIDIA i dalje većina stručnjaka i naučnika veruje da je AlexNet neverovatno moćan model sposoban da postigne visoku tačnost na veoma složenim skupovima podataka. AlexNet je vodeća arhitektura za bilo koji zadatak detekcije objekata i može imati vrlo široku primjenu u sektoru kompjuterskog vida za probleme s umjetnom inteligencijom. U budućnosti, AlexNet bi se mogao koristiti više od CNN-a u oblasti slikanja.

Također zanimljivo: Fenomen Blueskyja: kakva usluga i da li je na duže vrijeme?

Umjetna inteligencija nije samo u laboratorijama i podatkovnim centrima

В NVIDIA vidio velike izglede za AI iu tehnologijama potrošačkih uređaja i Interneta stvari. Dok konkurenti tek počinju da razmišljaju o širem ulaganju u novi tip integrisanog kola, NVIDIA već radi na njihovoj minijaturizaciji. Verovatno je posebno važan Tegra K1 čip, razvijen u saradnji sa Teslom i drugim automobilskim kompanijama.

NVIDIA-Tegra-K1

Tegra K1 procesor je jedan od prvih procesora NVIDIA, dizajniran posebno za AI aplikacije u mobilnim i ugrađenim uređajima. Tegra K1 koristi istu GPU arhitekturu kao serija grafičkih kartica i sistema NVIDIA GeForce, Quadro i Tesla, koji pruža visoke performanse i kompatibilnost sa grafičkim i računarskim standardima kao što su OpenGL 4.4, DirectX 11.2, CUDA 6.5 i OpenCL 1.2. Zahvaljujući tome, Tegra K1 procesor može podržati napredne algoritme umjetne inteligencije kao što su duboke neuronske mreže, učenje s pojačanjem, prepoznavanje slike i govora i analiza podataka. Tegra K1 ima 192 CUDA jezgra.

U 2016 NVIDIA objavio je seriju Pascal procesora optimiziranih za podršku dubokih neuronskih mreža i drugih modela umjetne inteligencije. U roku od godinu dana na tržištu se pojavio niz Volta procesora za aplikacije vezane za umjetnu inteligenciju, koji su još efikasniji i štedljiviji. U 2019 NVIDIA kupuje Mellanox Technologies, proizvođača računarskih mreža visokih performansi za data centre i superračunare.

NVIDIA

Kao rezultat toga, svi koriste procesore NVIDIA. Na potrošačkom tržištu, na primjer, igrači koriste revolucionarni DLSS algoritam za rekonstrukciju slike, koji im omogućava da uživaju u oštrijoj grafici u igricama bez trošenja puno novca na grafičku karticu. Na poslovnom tržištu prepoznato je da čips NVIDIA na mnogo načina iznad onoga što konkurenti nude. Iako nije da su Intel i AMD u potpunosti prespavali intelektualnu revoluciju.

Također zanimljivo: Najbolji alati zasnovani na vještačkoj inteligenciji

Intel i AMD u oblasti veštačke inteligencije

Hajde da pričamo o direktnim konkurentima NVIDIA u ovom segmentu tržišta. Intel i AMD rade ovdje sve aktivnije, ali sa velikim zakašnjenjem.

Intel je kupio nekoliko kompanija sa umjetnom inteligencijom kao što su Nervana Systems, Movidius, Mobileye i Habana Labs kako bi ojačao svoj portfelj AI tehnologija i rješenja. Intel takođe nudi hardverske i softverske platforme za veštačku inteligenciju, kao što su Xeon procesori, FPGA, NNP čipovi i biblioteke za optimizaciju. Intel takođe radi sa partnerima iz javnog i privatnog sektora na unapređenju AI inovacija i obrazovanja.

Intel i AMD

AMD je razvio seriju Epyc procesora i Radeon Instinct grafičkih kartica koje su optimizovane za AI i aplikacije dubokog učenja. AMD takođe radi sa kompanijama kao što su Google, Microsoft, IBM i Amazon, koji pružaju rješenja u oblaku za AI. AMD takođe nastoji da učestvuje u istraživanju i razvoju veštačke inteligencije kroz partnerstvo sa akademskim institucijama i industrijskim organizacijama. Ipak je sve jako dobro NVIDIA već daleko ispred njih, a njen uspeh na polju razvoja i podrške AI algoritama je neuporedivo veći.

Također zanimljivo: Sažetak Google I/O 2023: Android 14, Pixel i puno AI

NVIDIA decenijama se povezuje sa video igricama

Ni ovo ne treba zaboraviti. NVIDIA ne daje tačan raspored svojih prihoda između potrošačkog i poslovnog tržišta, ali se oni mogu procijeniti na osnovu poslovnih segmenata koje kompanija objavljuje u svojim finansijskim izvještajima. NVIDIA razdvaja četiri operativna segmenta: igre, profesionalna vizualizacija, data centri i automobilska industrija.

NVIDIA

Može se pretpostaviti da je segment igara uglavnom fokusiran na potrošačko tržište, budući da uključuje prodaju GeForce video kartica i Tegra čipova za igraće konzole. Segment profesionalne vizualizacije uglavnom je fokusiran na poslovno tržište, jer uključuje prodaju Quadro video kartica i RTX čipova za radne stanice i profesionalne aplikacije. Segment centara podataka je također uglavnom fokusiran na poslovno tržište, jer uključuje prodaju GPU-a i NPU-a (odnosno čipova sljedeće generacije – više nisu GPU-i, već dizajnirani isključivo za AI) za servere i usluge u oblaku. Automobilski segment cilja i na potrošačka i na poslovna tržišta, jer uključuje prodaju Tegra i Drive sistema za infotainment i autonomnu vožnju.

NVIDIA

Na osnovu ovih pretpostavki moguće je procijeniti udio prihoda od potrošačkih i poslovnih tržišta u ukupnim prihodima NVIDIA. Prema posljednjem finansijskom izvještaju za 2022. godinu, prihodi kompanije NVIDIA po operativnim segmentima bili su sljedeći:

  • Igre: 12,9 milijardi dolara
  • Profesionalna vizualizacija: 1,3 milijarde dolara
  • Data centri: 9,7 milijardi dolara
  • Automobili: 0,8 milijardi dolara
  • Svi ostali segmenti: 8,7 milijardi dolara

Ukupan prihod NVIDIA iznosio je 33,4 milijarde dolara Ako pretpostavimo da je automobilski segment podijeljen približno podjednako između potrošačkog i poslovnog tržišta, mogu se izračunati sljedeće proporcije:

  • Prihodi sa potrošačkog tržišta: (12,9 + 0,4) / 33,4 = 0,4 (40%)
  • Prihodi sa poslovnog tržišta: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60%)

To znači da je oko 40% prihoda NVIDIA dolazi sa potrošačkog tržišta, a oko 60% sa poslovnog tržišta. Odnosno, glavni pravac je poslovni segment. Ali industrija igara također donosi prilično dobar prihod. Najvažnije je da rastu svake godine.

Također zanimljivo: Dnevnik mrzovoljnog starog štrebera: Bing protiv Googlea

Šta će nam budućnost donijeti?

Očigledno je da NVIDIA već postoji plan za učešće u razvoju algoritama veštačke inteligencije. I mnogo je širi i perspektivniji od bilo kojeg od svojih direktnih konkurenata.

Samo u zadnjih mjesec dana NVIDIA najavio brojna nova ulaganja u umjetnu inteligenciju. Jedan od njih je GET3D mehanizam, koji je u stanju da generiše složene trodimenzionalne modele različitih objekata i likova koji verno odražavaju stvarnost. GET3D može generirati oko 20 objekata u sekundi koristeći jedan grafički čip.

Treba spomenuti još jedan zanimljiv projekat. O Izraelu-1 je superkompjuter za programe veštačke inteligencije, koji NVIDIA nastaje u saradnji sa Ministarstvom nauke i tehnologije Izraela i kompanijom Mellanox. Očekuje se da će mašina imati više od 7 petaflopsa računarske snage i koristiti više od 1000 GPU-a NVIDIA A100 Tensor Core. Izrael-1 će se koristiti za istraživanje i razvoj u oblastima kao što su medicina, biologija, hemija, fizika i sajber sigurnost. A to su već vrlo obećavajuće kapitalne investicije, s obzirom na dugoročne izglede.

NVIDIA

Takođe, već postoji još jedan projekat - NVIDIA ACE. To je nova tehnologija koja će revolucionirati industriju igara tako što će igraču omogućiti interakciju s likom koji nije igrač (NPC) na prirodan i realističan način. Ovi likovi će moći voditi otvoren dijalog s igračem, reagirati na njegove emocije i geste, pa čak i izraziti vlastita osjećanja i misli. NVIDIA ACE koristi napredne jezičke modele i AI-bazirane generatore slika.

Prvi trilion dolara NVIDIA. Čini se da će ih uskoro biti još. Obavezno ćemo pratiti napredak kompanije i obavijestiti vas.

Pročitajte također:

Yuri Svitlyk
Yuri Svitlyk
Sin Karpata, nepriznati genije matematike, "advokat"Microsoft, praktični altruista, lijevo-desno
- Advertisement -
Prijaviti se
Obavijesti o
gost

0 Komentari
Embedded Reviews
Pogledaj sve komentare