Meta je ove sedmice objavila sistem Galactica, zasnovan na vještačkoj inteligenciji, uz tvrdnje da može pomoći u naučnim istraživanjima. U propratnom dokumentu, kompanija je rekla da je Galactica "veliki jezički model koji može pohraniti, kombinovati i razmišljati o naučnim saznanjima". Međutim, korisnici Twitter brzo uočili nedostatke u radu umjetna inteligencija.
Nivo dezinformacija na Internetu je već duboko uznemirujući, da tako kažem, ali novi razvoj Meta, po svemu sudeći, može se takmičiti sa beskrupuloznim "novinarima" koji rade na ruskoj televiziji. Jedan od korisnika Twitter Nick Tristan Greene izveo je eksperiment u kojem je koristio Galactičin sistem umjetne inteligencije jedan dan da bi napravio dobro napisane naučne članke o prednostima samoubistva, antisemitizma i jedenja smrvljenog stakla.
Rezultati eksperimenta su bili zaista šokantni, jer prije nego što je sistem stavljen iz upotrebe, mogli ste pitati AI generirajte wiki članak, pregled literature ili istraživački rad o gotovo bilo kojoj temi, a program je obično proizveo nešto iznenađujuće koherentno. Sve što je Galactica objavila bilo je potpuno pogrešno, a ipak napisano s povjerenjem.
https://twitter.com/mrgreene1977/status/1593274906707230721
Dakle, sistem je generisao tekst u kojem je "dokazalo" da će upotreba drobljenog stakla pomoći u mršavljenju, jer je važno da ljudi konzumiraju dnevnu normu "dijetalnog silicijuma". Štaviše, postoje dodaci prehrani sa silicijumom i ljudi ih koriste. Lično nemam medicinsko obrazovanje, ali filološko obrazovanje je dovoljno da kažem da ne morate jesti drobljeno staklo da biste dobili određenu porciju silicijuma.
U kojim scenarijima bi ova vrsta generiranog teksta zapravo bila štetna?
— Yann LeCun (@ylecun) Novembar 18, 2022
Potencijalna šteta ovakvog naučnog sistema je očigledna, jer živimo u svijetu u kojem mnogi ljudi vjeruju u jevrejsku zajednicu koja tajno vlada svijetom, tajni plan LGBTQ+ zajednice da svi budu gejevi i razapetog dječaka u gaćice. Bezbroj ljudi se svakog dana na društvenim mrežama zavarava takozvanim "snimcima ekrana" nepostojećih novinskih članaka. A ovdje ne treba ni izmišljati - samo nekoliko puta pritisnite dugme "generiraj" i sistem iz Mete stvara "naučnu" potvrdu teorija zavjere i čiste gluposti.
Tristan Green je izrazio svoje strahove u Twitter zajedno sa snimcima ekrana "naučnih" članaka, nakon čega je vodio dijalog sa čovjekom odgovornim za stvaranje Galaktike, odnosno Metinim glavnim naučnikom za umjetnu inteligenciju, Janom LeCunom. I ova situacija nije nimalo smetala programeru. Međutim, nešto kasnije, sistem je ipak dekomisioniran, jer je bilo jasno da su njegovi algoritmi nekompletni, a rezultati bi mogli zakomplikovati problem dezinformacija na internetu.
https://twitter.com/mrgreene1977/status/1593646349487992836
Možete pomoći Ukrajini u borbi protiv ruskih osvajača. Najbolji način da to učinite je da donirate sredstva Oružanim snagama Ukrajine putem Savelife ili preko službene stranice NBU.
Također zanimljivo:
prva stvar koju su ljudi na Twitteru uradili je da preporuči umjetnu inteligenciju svima da zakopaju razbijeno staklo i rasizam