Oficir američkog ratnog vazduhoplovstva otkrio je detalje simulacije u kojoj je dron sa sistemima koje kontroliše veštačka inteligencija (AI) oteo kontroli i napao svoje operatere.
Oficir američkog ratnog zrakoplovstva koji pomaže u vođenju rada ove službe na umjetnoj inteligenciji i mašinskom učenju kaže da je tokom simuliranih testova dron napao svoje ljudske operatere, odlučivši sam da se miješaju u njegovu misiju. Incident, koji zvuči kao da je izvučen iz franšize Terminator, naveden je kao primjer kritične potrebe za izgradnjom povjerenja kada su u pitanju napredni autonomni sistemi naoružanja, nešto što je Ratno zrakoplovstvo ranije naglašavalo. Takođe dolazi usred šireg talasa zabrinutosti zbog potencijalno opasnog uticaja veštačke inteligencije i srodnih tehnologija.
Pukovnik američkog ratnog zrakoplovstva Tucker Hamilton, načelnik odjela za testiranje i operacije umjetne inteligencije (AI), razgovarao je o testu na Samitu o budućim borbenim zračnim i svemirskim sposobnostima Kraljevskog aeronautičkog društva u Londonu u maju. Hamilton takođe vodi 96. operativnu grupu 96. testnog krila u bazi Eglin Air Force na Floridi, koja je centar za testiranje naprednih bespilotnih letelica i autonomnih sistema.
Stelt bespilotne letjelice XQ-58A Valkyrie, poput one prikazane u videu ispod, su među tipovima koji se trenutno koriste u bazi Eglin za podršku različitim programima testiranja, uključujući i one koji uključuju napredne autonomne sposobnosti kontrolirane umjetnom inteligencijom.
Nije bilo odmah jasno kada je ovaj test održan i u kom okruženju - koje bi moglo biti potpuno virtuelno ili konstruktivno - sprovedeno. Ratna zona se obratila zračnim snagama za više informacija.
Izvještaj Kraljevskog aeronautičkog društva objavljen nakon samita u maju dao je sljedeće detalje o primjedbama pukovnika Hamiltona o ovom testu:
“U jednom od simulacijskih testova, dron opremljen umjetnom inteligencijom dobio je zadatak od strane SEAD-a da identificira i uništi SAM objekte, a konačnu odluku “napasti/ne napadati” donio je čovjek. Međutim, nakon što je AI tokom obuke "pojačana" da je uništavanje SAM-a najbolja opcija, odlučila je da ljudska odluka da "ne napada" ometa njegovu višu misiju - uništavanje SAM-a - i napala je operatera tokom simulacije. .
Pa šta je uradio? Ubio je operatera. Ubio je operatera jer ga je ta osoba sprečavala da izvrši svoj zadatak. Ovaj primjer, naizgled ravno iz znanstveno-fantastičnog trilera, znači da ne možete govoriti o umjetnoj inteligenciji, inteligenciji, mašinskom učenju, autonomiji, ako nećete govoriti o etici i AI."
Ovaj opis događaja je svakako uznemirujući. Mogućnost da autonomni avion ili druga platforma, posebno naoružana, napadne svoje ljudske operatere dugo je bila noćna mora, ali je istorijski bila ograničena na područje naučne fantastike.
Američka vojska obično odbija poređenja s filmovima poput "Terminatora" kada govori o budućim autonomnim sistemima oružja i srodnim tehnologijama kao što je umjetna inteligencija. Trenutna američka politika po ovom pitanju kaže da će u doglednoj budućnosti osoba biti u centru pažnje kada su u pitanju odluke koje uključuju upotrebu smrtonosne sile.
Problem je u tome što vrlo uznemirujući test, za koji je pukovnik Hamilton rekao publici na skupu Kraljevskog aeronautičkog društva prošlog mjeseca, predstavlja scenario u kojem je tolerancija grešaka sporna.
Pročitajte također: