Tajanstveno Projekt Q* iz OpenAI izaziva zabrinutost među stručnjacima. Može li on zaista biti opasan za čovječanstvo? Šta se zna o njemu? Nakon što je Sam Altman prvobitno otpušten prošle sedmice i on i tim su se skoro preselili Microsoft, a zatim se vratio na svoje radno mjesto (o tome pisali smo ovde), OpenAI je ponovo u vijestima. Ovaj put zbog onoga što neki istraživači nazivaju mogućom prijetnjom čovječanstvu. Da, dobro ste pročitali, pretnja čovečanstvu.
Pravi preokret u svijetu tehnologije izazvao je Project Q* - neotkriveni projekat opće umjetne inteligencije (AGI) - izgovara se Q-Star. Iako je ovaj projekat u ranoj fazi, smatra se da je zaista revolucionaran u razvoju AGI. Međutim, neki to vide kao opasnost za čovječanstvo.
Tajni projekat umjetne inteligencije koji je razvio poznata laboratorija za umjetnu inteligenciju OpenAI ima potencijal da revolucionira tehnologiju i društvo općenito. Ali to također postavlja neka etička pitanja o rizicima. Kako se pojavljuju detalji o zadivljujućim sposobnostima Projekta Q*, pojavljuje se sve više spekulacija o tome šta bi to moglo značiti za budućnost čovječanstva.
Također zanimljivo: Istorija OpenAI: Šta je to bilo i šta je pred kompanijom
Šta je umjetna opća inteligencija (AGI)?
Da bismo razumeli pompe oko Projekta Q* (Q-Star), hajde da prvo pokušamo da shvatimo šta je koncept veštačke opšte inteligencije (AGI). Dok se trenutni sistemi veštačke inteligencije ističu u uskim, specifičnim zadacima kao što su igranje šaha ili generisanje slika, opšta veštačka inteligencija se odnosi na mašine koje mogu da uče i razmišljaju na ljudskom nivou u mnogim domenima. Odnosno, mogu učiti kao mala djeca u školi, na primjer, osnove matematike, hemije, biologije itd.
Opća umjetna inteligencija (AGI) je vrsta mašinske inteligencije koja hipotetički može oponašati ljudsku inteligenciju ili ponašanje, sa sposobnošću učenja i primjene tog potencijala za rješavanje raznih problema. AGI se također naziva jaka umjetna inteligencija, potpuna umjetna inteligencija ili umjetna inteligencija na nivou čovjeka. Generalna AI razlikuje se od slabe ili uske AI, koja je sposobna da obavlja samo specifične ili specijalizovane zadatke unutar datih parametara. ZHI će moći samostalno rješavati različite složene probleme iz različitih oblasti znanja.
Stvaranje umjetne inteligencije glavni je fokus istraživanja umjetne inteligencije od strane kompanija kao što su DeepMind i Anthropic. CSI je vrlo popularna tema u naučnofantastičkoj literaturi i može oblikovati buduća istraživanja. Neki tvrde da je moguće stvoriti UCI u roku od nekoliko godina ili decenija, dok drugi tvrde da bi to moglo potrajati stoljeće ili više. Ali ima onih koji vjeruju da se to nikada neće postići. Neki su vidjeli početke URI-ja u GPT-3, ali izgleda da je još uvijek daleko od ispunjavanja osnovnih kriterija.
Istraživači smatraju da je stvaranje umjetne opće inteligencije (AGI) sveti gral umjetne inteligencije, teorijske mogućnosti koja je dugo zaokupljala njihovu maštu. Stoga je pojava projekta kao što je OpenAI Project Q* izazvala veliki odjek u svijetu istraživanja algoritama umjetne inteligencije. Iako svi shvaćaju da su ovo samo prvi koraci, gotovo slijepo, u svijet u kojem će umjetna inteligencija imati iste sposobnosti kao ljudi, ili čak i više.
Također zanimljivo: Sve o tome Microsoft Kopilot: budućnost ili pogrešan put?
Šta je Project Q*?
Projekat Q* nije tipičan algoritam jer se radi o modelu umjetne inteligencije koji se sve više približava modelu umjetne opće inteligencije (AGI). To znači da, za razliku od ChatGPT-a, Project Q* pokazuje bolje razmišljanje i kognitivne vještine u odnosu na druge algoritme. ChatGPT trenutno odgovara na upite zasnovane na ogromnoj količini činjeničnog materijala, ali uz AGI, AI model će naučiti rasuđivanje i sposobnost razmišljanja i razumijevanja za sebe. Već je poznato da je Projekat Q* sposoban da rješava jednostavne matematičke probleme koji nisu bili dio njegovog materijala za obuku. U tome neki istraživači vide značajan korak ka stvaranju opšte veštačke inteligencije (AGI). OpenAI definiše AGI kao sisteme veštačke inteligencije koji su pametniji od ljudi.
Razvojem projekta Q* rukovodi glavni naučnik OpenAI Ilya Sutzkever, a njegovu osnovu su potkrijepili istraživači Jakub Pakhotsky i Shimon Sidor.
Sposobnost algoritma da samostalno rješava matematičke probleme, čak i ako ti problemi nisu dio skupa podataka za obuku, smatra se probojom u polju umjetne inteligencije. Nesuglasice u timu oko ovog projekta povezane su sa privremenom smjenom generalnog direktora OpenAI-a, Sama Altmana. Poznato je da je prije nego što je Altman otpušten, grupa istraživača kompanije poslala pismo upravnom odboru upozoravajući na otkriće AI koji bi mogao predstavljati prijetnju čovječanstvu. To pismo, u kojem se navodno govori o algoritmu projekta Q*, navedeno je kao jedan od faktora koji je doveo do Altmanovog otpuštanja. Međutim, mogućnosti Projekta Q* i potencijalni rizici koji on može predstavljati nisu u potpunosti shvaćeni jer su detalji nepoznati. Ništa nije objavljeno široj javnosti.
U svojoj srži, Project Q* je metoda učenja bez modela, koja odstupa od tradicionalnih modela tako što ne zahtijeva prethodno poznavanje okoline. Umjesto toga, uči kroz iskustvo, prilagođavajući radnje zasnovane na nagradama i kaznama. Tehnički stručnjaci vjeruju da će Project Q* moći steći izvanredne sposobnosti sticanjem sposobnosti sličnih ljudskim kognitivnim sposobnostima.
Međutim, upravo je ova karakteristika najimpresivnija u novom modelu umjetne inteligencije koja zabrinjava istraživače i kritičare i izaziva njihove strahove u vezi s primjenom tehnologije u stvarnom svijetu i uključenim rizicima. Čega se naučnici i istraživači toliko boje? Hajde da to shvatimo.
Također zanimljivo: Kako ažurirati svoje kućne uređaje da podržavaju Wi-Fi 6
Plaše se nepoznatog
Ljudi su se oduvek plašili nepoznatog, nespoznatljivog. To je ljudska suština, odlika našeg karaktera i načina života.
Svijet tehnologije saznao je za Project Q* u novembru 2023. nakon Reutersa prijavljen o internom pismu koje su napisali zabrinuti OpenAI istraživači. Sadržaj pisma je bio nejasan, ali je navodno ozbiljno analizirao mogućnosti projekta Q*. Kao što sam već spomenuo, čak se spekuliše da je upravo ovo pismo izazvalo ostavku Sama Altmana.
Ovo eksplozivno otkriće dovelo je do različitih hipoteza o prirodi projekta Q*. Naučnici su sugerirali da bi ovo mogao biti revolucionarni model prirodnog jezika za AI. Neka vrsta izumitelja novih algoritama koji će ih kreirati za druge oblike AI, ili nešto sasvim drugo u ovoj oblasti.
Altmanovi provokativni komentari o općoj umjetnoj inteligenciji kao "prosječnom zaposleniku" već su izazvali zabrinutost za sigurnost posla i nezaustavljivo širenje utjecaja umjetne inteligencije. Ovaj misteriozni algoritam je definisan kao prekretnica u razvoju veštačke opšte inteligencije (AGI). Međutim, svi razumiju da je ova prekretnica skupa. I ne radi se sada o novcu. Nivo kognitivnih vještina koji obećava novi AI model nosi sa sobom neizvjesnost. Naučnici OpenAI obećavaju da će AI razmišljati na nivou čovjeka. A to znači da ne možemo znati mnoge stvari i predvidjeti posljedice. I što je nepoznatiji, to je teže pripremiti se za kontrolu ili popravku. Odnosno, novi algoritam je sposoban za samopoboljšanje i razvoj. Ovo smo već negde videli...
Također zanimljivo: Windows 12: Šta će biti novi OS
Nevjerovatni detalji o mogućnostima Project Q*
Kada se počelo pojavljivati više informacija, to je šokiralo mnoge istraživače. Rane indikacije su bile da je Project Q* imao neverovatan talent za matematiku. Za razliku od kalkulatora koji izvodi mehaničke proračune, Project Q* navodno može koristiti logiku i rasuđivanje za rješavanje složenih matematičkih problema. Ova matematička sposobnost generalizacije nagoveštava razvoj široke inteligencije.
Autonomna obuka projekta Q*, bez specifičnih skupova podataka koji se koriste za obuku tipičnih AI, također će biti veliki korak naprijed. Ostaje nepoznato da li je Project Q* savladao neke druge vještine. Ali njegove matematičke sposobnosti su same po sebi toliko nevjerovatne da zbunjuju čak i iskusne istraživače.
Pročitajte također: Projekat ljudskog mozga: Pokušaj imitacije ljudskog mozga
Put projekta Q* do dominacije?
Po ovom pitanju postoje i optimistični i pesimistični scenariji. Optimisti će reći da bi projekat Q* mogao biti varnica koja vodi do tehnološkog proboja. Kako se sistem rekurzivno samopoboljšava, njegova natprirodna inteligencija mogla bi pomoći u rješavanju nekih od najvažnijih problema čovječanstva, od klimatskih promjena do kontrole bolesti. Project Q* može automatizirati dosadan rad i osloboditi naše slobodno vrijeme za druge aktivnosti.
Iako postoji mnogo pesimističnijih opcija. Ponekad su prilično razumni i imaju određeno značenje.
Gubitak poslova
Brzi pomaci u razvoju tehnologije mogu nadmašiti individualnu adaptaciju ljudi. To će dovesti do gubitka jedne ili više generacija koje neće moći steći potrebne vještine ili znanja da se prilagode novoj stvarnosti. To znači da će manje ljudi moći zadržati posao. Umjesto toga će ga izvoditi mašine, automatizirani sistemi i roboti. Međutim, odgovor nije tako jasan kada su u pitanju kvalifikovani stručnjaci. Osim toga, mogu se pojaviti nova zanimanja vezana za razvoj algoritama umjetne inteligencije. Ali još uvijek postoje rizici i čovječanstvo ih nema pravo ignorirati.
Opasnost od nekontrolisane moći
Ako veštačka inteligencija moćna kao što je Project Q* padne u ruke onih sa podlim namerama, rizikuje katastrofalne posledice po čovečanstvo. Čak i bez potencijalno zlonamjerne namjere, nivo donošenja odluka projekta Q* može dovesti do štetnih ishoda, naglašavajući kritičnu važnost pažljive procjene njegove primjene.
Ako je projekat Q* loše optimiziran za ljudske potrebe, može uzrokovati štetu svojom sposobnošću da maksimizira neke proizvoljne metrike. Ili može imati političku dimenziju, kao što je korištenje za državni nadzor ili represiju. Otvorena debata oko analize uticaja Projekta Q* pomoći će da se definišu mogući scenariji za razvoj ZHI.
Da li nas čeka obračun "Čovjek protiv mašine"?
Holivud je u svojim filmovima već osmislio mnoge scenarije takve konfrontacije. Svi se sjećamo čuvenog SkyNeta i posljedica takvog otkrića. Možda bi istraživači OpenAI trebali ponovo pogledati ovaj film?
Čovječanstvo treba prihvatiti signale i izazove i biti spremno za ono što se može dogoditi. Model umjetne inteligencije sposoban da razmišlja kao čovjek može jednog dana postati naš neprijatelj. Mnogi bi tvrdili da će u budućnosti naučnici tačno znati kako da drže situaciju pod kontrolom. Ali kada su u pitanju mašine, ne možete potpuno isključiti mogućnost da će pokušati da preuzmu ljude.
Također zanimljivo: Nije sve što nazivamo AI zapravo umjetna inteligencija. Evo šta treba da znate
Zašto OpenAI šuti?
Uprkos velikom interesu javnosti za Project Q*, rukovodstvo OpenAI-ja ćuti o specifičnostima algoritma. Ali interno curenje pokazuje rastuće tenzije u laboratoriji oko prioriteta i otvorenosti razvoja. Iako mnogi insajderi OpenAI podržavaju stvaranje projekta Q*, kritičari tvrde da je transparentnost zauzela pozadinu ubrzavanju naučnog napretka po svaku cijenu. Neki istraživači su zabrinuti da se nevjerovatna moć daje sistemima čiji se ciljevi ne poklapaju nužno s ljudskim vrijednostima i etikom. Ovi istraživači vjeruju da su debate oko nadzora i odgovornosti postale opasno prigušene. Oni zahtijevaju više publiciteta i detalja.
Kao kreatori projekta Q*, OpenAI mora shvatiti da imaju tehnologiju koja može ili uvelike proširiti mogućnosti razvoja društva, ili ga nemilosrdno uništiti. Ovako značajne inovacije zaslužuju mnogo više transparentnosti kako bi se izgradilo povjerenje javnosti. Svi prognostičari u doba mašina moraju pažljivo odvagnuti rizike uz koristi. A programeri projekta Q* moraju pokazati dovoljno mudrosti i brige da bezbedno uvedu društvo u novu eru opšte veštačke inteligencije koja bi mogla da dođe ranije nego što smo ikad zamislili.
Da bi opća umjetna inteligencija bila korisna i sigurna za čovječanstvo, mora se osigurati da djeluje sigurno, etički iu skladu s vrijednostima i ciljevima čovječanstva. Ovo zahtijeva razvoj i implementaciju odgovarajućih regulatornih akata, standarda, pravila i protokola koji će kontrolisati i ograničavati radnje i ponašanje CSI. Osim toga, moraju se eliminirati potencijalne prijetnje i rizici povezani sa zloupotrebama, nezgodama, nekompatibilnostima, manipulacijama i sukobima koji bi mogli dovesti do uništenja čovječanstva. U međuvremenu, investitori i Microsoft željno iščekujući tržišni proizvod koji bi mogao generirati profit, što je nesumnjivo u suprotnosti s potrebom da se ponašamo odgovorno. Nadajmo se da će zdrav razum pobijediti.
Pročitajte također: