Običan igrač, pa čak ni na najvišem nivou, savladao je vodeći sistem umjetna inteligencija u društvenoj igri Go, što je bilo iznenađenje, jer se pobeda koju je kompjuter izvojevao 2016. godine smatrala važnom prekretnicom u razvoju veštačke inteligencije.
Kellyn Pelrin, američka amaterska igračica, iskoristila je grešku u sistemu koju je prethodno otkrio... drugi kompjuter i pobijedio u 14 od 15 utakmica. Ova pobjeda je istakla slabost najboljih kompjuterskih programa za igru Go koje većina modernih AI sistema ima, uključujući i zloglasnog chatbot-a Chat GPT, kreiran od strane OpenAI.
Pobedničku taktiku ponudio je, ironično, drugi kompjuterski program koji je istraživao sisteme veštačke inteligencije u potrazi za slabim tačkama. "Bilo nam je iznenađujuće lako koristiti sistem", rekao je Adam Gleave, izvršni direktor istraživačke firme FAR AI iz Kalifornije, koja je razvila program. Program je morao da odigra više od milion igara protiv jednog od najpopularnijih Go sistema, KataGo, da bi pronašao takozvanu "slepu tačku", rekao je on. Prema Pelrinovim riječima, strategija koju je program otkrio "nije sasvim trivijalna, ali nije ni super teška", tako da je prosječna osoba sasvim sposobna da je savlada.
Pobjeda dolazi sedam godina nakon što se činilo da AI dokazuje svoju neospornu superiornost nad ljudima u onome što se često smatra najtežom strateškom igrom na ploči. AlphaGo sistem koji je razvila kompanija DeepMind, u vlasništvu Googlea, pobijedio je svjetskog prvaka Leeja Sedola sa 2016-4 1. godine. Južnokorejski igrač je 2019. prestao da učestvuje u takmičenjima upravo zbog razvoja veštačke inteligencije - izjavio je da ga osoba više neće moći pobediti. Pa, Lee Sedol je malo prebrzo zaključio.
U igri go, dva igrača se naizmjenično postavljaju crne i bijele figure na ploču označenu mrežom 19x19, pokušavajući opkoliti protivničke figure i zauzeti najveću površinu. Ogroman broj kombinacija znači da kompjuter nije u stanju da proceni sve potencijalne buduće poteze. Taktika koju je koristio Pelrin bila je da polako naniže veliku "petlju" kamenja da okruži jednu od protivničkih grupa, odvlačeći pažnju AI pomiče se u drugim uglovima ploče. A bot nije primijetio ranjivost čak ni kada je opkoljenje bilo gotovo potpuno. "Ali bilo bi prilično lako da osoba to primijeti", dodao je igrač.
Također zanimljivo:
Otkriće slabosti u nekim od najmodernijih Go mašina ukazuje na fundamentalnu grešku u sistemima dubokog učenja koji podupiru najmodernije AI. Kako kaže Stjuart Rasel, profesor računarstva na Kalifornijskom univerzitetu u Berkliju, sistemi mogu samo da "razumeju" specifične situacije sa kojima su se susreli u prošlosti, a nisu u stanju da generalizuju sve na način na koji to može čovek. "Ovo još jednom pokazuje da smo bili prenagli u pripisivanju nadljudske inteligencije mašinama", rekao je Rasel.
Vjerovatno je da se taktike koje koristi Pelrin rijetko koriste, što znači da AI sistemi nisu obučeni za dovoljno sličnih igara da bi "razumjeli" njihove ranjivosti.
Također zanimljivo: