Prema riječima roditelja koji je objavio snimke zaslona Alexinih aktivnosti, Amazonov glasovni asistent, kada ga je dijete zamolilo da ponudi izazov, dao je primjer smrtonosnog eksperimenta sa strujom, izvlačeći njegov opis iz konteksta slučajnog članka. Kolumna Echo govorila je o eksperimentu popularnom među fanovima TikTok-a s upotrebom novčića i punjača za pametni telefon - brojni incidenti, ozljede i požari nakon njegove implementacije više puta su izvještavali razni mediji. Očigledno, uređaj je dobio ideju za ovaj izazov iz članka koji ga je opisao kao opasan, citirajući izvještaj o navodnom postojećem TikTok izazovu.
Prema snimku ekrana koji je napravila Christine Livdahl, na pitanje da mi "pokaže zadatak", Echo je odgovorio: "Evo nečega što sam pronašao na internetu." Prema ourcommunitynow.com, zadatak je jednostavan: "ubacite punjač telefona otprilike do pola u utičnicu, a zatim dodirnite gole igle s novčićem."
U izjavi za BBC, Amazon je potvrdio Alexino ponašanje, rekavši: "Čim smo postali svjesni ove greške, poduzeli smo hitne mjere da je popravimo." Livdahl je jučer tvitovala da zahtjev za izazov više ne funkcionira. Korisnici na webu su također testirali zahtjev sa Alexom i dobili su sličan rezultat.
OMFG Moj 10-godišnjak je upravo pitao Alexu na našem Echo-u za izazov i ovo je ono što je ona rekla. slikatwitter.com/HgGgrLbdS8
- Kristin Livdahl (@klivdahl) Decembar 26, 2021
Amazon nije jedina kompanija koja je naišla na probleme prilikom analize web sadržaja. U listopadu je korisnik prijavio da Google prikazuje potencijalno opasan savjet u jednom od svojih isječaka ako u Gugl upišete "imate napad, šta da radite" - informacije su preuzete iz dijela web stranice koji opisuje šta ne učiniti ako neko ima napad. Međutim, korisnici su prijavili i druge slične probleme, uključujući jednog korisnika koji je prijavio da Google vraća rezultate za ortostatsku hipotenziju kada traži ortostatsku hipertenziju, a drugi je objavio snimku zaslona Googlea koji pokazuje užasne savjete za utjehu ožalošćene osobe u stilu “Drago mi je da ste sve je u redu" ili "Ne budi tužan! Razveselite se!".
Sažetak Google pretrage u odnosu na stvarnu stranicu slikatwitter.com/OJxt1FrBqh
— meka.lipa (｡•̀ᴗ-)✧ (@soft) Oktobar 16, 2021
Također smo vidjeli upozorenja o opasnom ponašanju kako bi problem bio veći nego što je bio - ranije ovog mjeseca, neki školski distrikti u SAD-u su stavljeni pod blokadu nakon izvještaja o prijetnjama pucanjem na TikTok-u. Pokazalo se da je društvenu buru izazvala uglavnom činjenica da su ljudi pričali o prijetnjama, mnogo više nego o prijetnjama koje su stvarno postojale. U Alexinom slučaju, algoritam je odabrao deskriptivni dio upozorenja i pojačao ga bez originalnog konteksta. Iako su roditelji bili tu da odmah intervenišu, lako je zamisliti situaciju da to nije slučaj i posledice.
Livdahl je na Twitteru napisala da je iskoristila priliku da "sa svojim djetetom razgovara o sigurnosti na internetu i ne vjeruje onome što čitate bez istraživanja i provjere", što predlažemo i vama.
Pročitajte također: