Meta je u utorak objavila svoj plan da počne označavati slike generisane umjetnom inteligencijom iz drugih kompanija kao što su OpenAI i Google. Ovaj potez ima za cilj povećanje transparentnosti na platformama kao što su Facebook, Instagram i Threads, obavještavajući korisnike da je sadržaj koji gledaju sintetizirani digitalni medij, a ne autentična fotografija ili video.
Metino rješenje dio je šireg napora tehnološke industrije da se postave standardi za označavanje sadržaja kreiranog generativnim AI modelima koji mogu stvoriti lažni, ali realističan zvuk, slike i video na osnovu pisanih upita.
Metin predsjednik za globalne poslove, Nick Clegg, objavio je to u blog postu na Metinoj web stranici. "Nastavit ćemo slijediti ovaj pristup tokom sljedeće godine, kada će se održati niz važnih izbora širom svijeta", napisao je Clegg. "Tokom ovog vremena, nadamo se da ćemo naučiti mnogo više o tome kako ljudi stvaraju i dijele sadržaj s umjetnom inteligencijom, koju transparentnost ljudi najviše cijene i kako se ove tehnologije razvijaju."
Clegg je napomenuo da će Metina inicijativa za označavanje sadržaja generisana umjetnom inteligencijom proširiti postojeću praksu označavanja sadržaja kreiranog vlastitim AI alatima kako bi uključila slike kreirane korištenjem usluga drugih kompanija.
„Radimo vodeće alate u industriji koji mogu identificirati nevidljive markere u velikom obimu – posebno informacije koje je generirala AI u tehničkim standardima C2PA i IPTC – tako da možemo označiti slike s Googlea, OpenAI, Microsoft, Adobe, Midjourney i Shutterstock dok implementiraju svoje planove za dodavanje metapodataka slikama kreiranim njihovim alatima.”
Meta kaže da će tehnologija za označavanje sadržaja generirana umjetnom inteligencijom biti zasnovana na nevidljivim vodenim žigovima i metapodacima ugrađenim u datoteke. Meta dodaje mali vodeni žig „Imagined with AI“ slikama kreiranim pomoću svog javnog generatora AI slika.
U postu, Clegg je izrazio uvjerenje u sposobnost kompanija da pouzdano označe slike generisane umjetnom inteligencijom, iako je napomenuo da su alati za označavanje audio i video sadržaja još uvijek u razvoju. U međuvremenu, Meta će zahtijevati od korisnika da označe modificirani audio i video sadržaj, uz nespecificirane kazne ako to ne urade.
"Zahtijevat ćemo od ljudi da koriste ovaj alat za otkrivanje i označavanje kada objavljuju organski sadržaj s fotorealističnim videom ili realističnim zvukom koji je digitalno kreiran ili izmijenjen, a možemo izreći kazne ako to ne urade", napisao je.
Međutim, Clegg je napomenuo da trenutno ne postoji efikasan način za označavanje teksta generiranog umjetnom inteligencijom, sugerirajući da je prekasno za implementaciju takvih mjera za pisani sadržaj. Ovo je u skladu s našim izvještajima da detektori teksta AI ne rade.
Najava je uslijedila dan nakon što je nezavisni nadzorni odbor Mete kritizirao politiku kompanije o lažno izmijenjenim video zapisima kao preusku i preporučio da se takav sadržaj označi umjesto uklanjanja. Clegg se složio s kritikama, priznajući da su postojeće Meta politike neadekvatne za upravljanje rastućom količinom sintetičkog i hibridnog sadržaja na Internetu. On vidi novu inicijativu za označavanje kao korak ka implementaciji preporuka nadzornog organa i podsticanju zamaha u cijeloj industriji za slične mjere.
Meta potvrđuje da neće moći detektovati sadržaj generisan AI kreiran bez vodenih žigova ili metapodataka, kao što su slike kreirane nekim alatima za sintezu AI slika otvorenog koda. Meta istražuje tehnologiju vodenog žiga slike pod nazivom Stable Signature za koju se nada da će se moći ugraditi u generatore slika otvorenog koda. Ali sve dok su pikseli pikseli, oni se mogu kreirati na načine koji nisu pod kontrolom tehnološke industrije, a to ostaje izazov za detekciju AI sadržaja jer alati AI otvorenog koda postaju sofisticiraniji i realističniji.
Pročitajte također: