5 neistina u podacima za umjetnu inteligenciju

Ljudi su u mnogim slučajevima navikli vidjeti podatke kakvi jesu: mišljenje. Zapravo, u nekim slučajevima ljudi iskrivljuju podatke do točke u kojoj oni postaju beskorisni, neistina. Računalo ili AI aplikacija ne može razlikovati istinite i neistinite podatke – sve što vidi su podaci. Jedan od problema koji otežava, ako ne i nemogućim, stvaranje umjetne inteligencije koja zapravo razmišlja poput čovjeka jest da ljudi mogu raditi s neistinama, a računala ne. Najbolje čemu se možete nadati je vidjeti pogrešne podatke kao izvanredne podatke i zatim ih filtrirati, ali ta tehnika nužno ne rješava problem jer bi čovjek i dalje koristio podatke i pokušavao utvrditi istinu na temelju neistina koje su tamo.

Uobičajena misao o stvaranju manje kontaminiranih skupova podataka je da bi umjesto dopuštanja ljudima da unesu podatke, trebalo biti moguće prikupljanje podataka putem senzora ili drugih sredstava. Nažalost, senzori i druge metodologije mehaničkog unosa odražavaju ciljeve svojih ljudskih izumitelja i granice onoga što određena tehnologija može otkriti. Posljedično, čak i podaci dobiveni strojem ili senzorima također su podložni generiranju neistina koje je AI prilično teško otkriti i prevladati.

Sljedeća rasprava koristi prometnu nesreću kao glavni primjer za ilustraciju pet vrsta neistina koje se mogu pojaviti u podacima. Koncepti koje nesreća pokušava prikazati možda se neće uvijek pojaviti u podacima i mogu se pojaviti na različite načine od onih o kojima se raspravljalo. Ostaje činjenica da se obično trebate nositi s ovakvim stvarima kada pregledavate podatke.

Neistine o proviziji

Neistine o proviziji su one koje odražavaju otvoren pokušaj zamjene istinitih informacija neistinitim informacijama. Na primjer, prilikom ispunjavanja izvješća o nesreći, netko bi mogao izjaviti da ga je sunce na trenutak zaslijepilo, zbog čega je nemoguće vidjeti nekoga koga je udario. U stvarnosti, možda je osoba bila ometena nečim drugim ili zapravo nije razmišljala o vožnji (možda s obzirom na finu večeru). Ako nitko ne može opovrgnuti ovu teoriju, osoba bi mogla proći uz manju naknadu. Međutim, stvar je u tome da bi i podaci bili kontaminirani. Učinak je da bi sada osiguravajuće društvo temeljilo premije na pogrešnim podacima.

Iako se čini da se neistine o proviziji mogu u potpunosti izbjeći, često nisu. Ljudi govore "male bijele laži" kako bi spasili druge neugodnosti ili kako bi se nosili s problemom uz najmanje osobnog truda. Ponekad se neistina o proviziji temelji na pogrešnim podacima ili pričama iz druge ruke. Zapravo, izvora za pogreške u proviziji je toliko da je zaista teško smisliti scenarij u kojem bi ih netko mogao u potpunosti izbjeći. Sve ovo rečeno, neistine o proviziji su jedna vrsta neistine koju netko češće može izbjeći.

Neistine o propustu

Neistine o propuštanju su one u kojima osoba govori istinu u svakoj navedenoj činjenici, ali izostavlja važnu činjenicu koja bi promijenila percepciju incidenta u cjelini. Razmišljajući ponovno o izvješću o nesreći, recite da je netko udario jelena, uzrokujući značajnu štetu na njegovom automobilu. Iskreno kaže da je put bio mokar; bilo je blizu sumraka pa svjetlo nije bilo onoliko dobro koliko bi moglo biti; malo je zakasnio s pritiskom na kočnicu; a jelen je jednostavno istrčao iz šipražja uz cestu. Zaključak bi bio da je incident jednostavno nesreća.

Međutim, osoba je izostavila važnu činjenicu. U to je vrijeme slao poruke. Kada bi policija znala za slanje poruka, to bi promijenilo razlog nesreće u nepažljivu vožnju. Vozač bi mogao biti kažnjen, a nadzornik osiguranja bi koristio drugačiji razlog kada bi unio incident u bazu podataka. Kao i kod neistine provizije, rezultirajući pogrešni podaci promijenili bi način na koji osiguravajuće društvo prilagođava premije.

Gotovo je nemoguće izbjeći neistinu o propustu. Da, netko bi mogao namjerno izostaviti činjenice iz izvješća, ali jednako je vjerojatno da će netko jednostavno zaboraviti uključiti sve činjenice. Uostalom, većina ljudi je nakon nesreće prilično uznemirena, pa je lako izgubiti fokus i izvijestiti samo one istine koje su ostavile najznačajniji dojam. Čak i ako se osoba kasnije sjeti dodatnih detalja i prijavi ih, malo je vjerojatno da će baza podataka ikada sadržavati cijeli niz istina.

Neistine perspektive

Neistine u perspektivi javljaju se kada više strana promatra incident s više stajališta. Na primjer, razmatrajući nesreću u kojoj je sudjelovao udareni pješak, osoba koja vozi automobil, osoba koju je automobil udario i slučajni prolaznik koji je svjedočio događaju, svi bi imali različite perspektive. Službenik koji uzima izvještaje od svake osobe bi razumljivo od svake osobe dobio različite činjenice, čak i pod pretpostavkom da svaka osoba govori istinu onako kako je svaka zna. Zapravo, iskustvo pokazuje da je to gotovo uvijek slučaj i ono što policajac podnese kao izvješće je sredina onoga što svaki od uključenih navodi, nadopunjeno osobnim iskustvom. Drugim riječima, izvješće će biti blizu istine, ali nedovoljno za AI.

Kada se bavite perspektivom, važno je uzeti u obzir točku gledanja. Vozač automobila može vidjeti kontrolnu ploču i zna u kakvom je stanju automobil u trenutku nesreće. To su informacije koje nedostaju ostalim dvjema stranama. Isto tako, osoba koju udari automobil ima najbolju točku za vidjeti vozačev izraz lica (namjeru). Prolaznik bi mogao biti u najboljoj poziciji da vidi je li vozač pokušao stati i procijeniti probleme kao što je je li vozač pokušao skrenuti. Svaka će strana morati napraviti izvješće na temelju viđenih podataka bez koristi od skrivenih podataka.

Perspektiva je možda najopasnija zabluda jer će svatko tko pokuša izvući istinu u ovom scenariju, u najboljem slučaju, završiti s prosjekom različitih priča, koje nikada neće biti potpuno točne. Ljudsko gledanje informacija može se osloniti na intuiciju i instinkt kako bi potencijalno dobilo bolju aproksimaciju istine, ali AI će uvijek koristiti samo prosjek, što znači da je AI uvijek u značajnom nedostatku. Nažalost, nemoguće je izbjeći pogrešnu perspektivu jer bez obzira na to koliko svjedoka događaja imate, najbolje što se možete nadati je približavanje istini, a ne stvarnoj istini.

Postoji i druga vrsta neistine koju treba razmotriti, a to je perspektiva. Razmislite o ovom scenariju: Vi ste gluha osoba 1927. Svaki tjedan idete u kazalište pogledati nijemi film i sat vremena ili više osjećate se kao i svi drugi. Film možete doživjeti na isti način kao i svi ostali; nema razlike. U listopadu te godine vidite natpis da se kazalište nadograđuje kako bi podržalo zvučni sustav kako bi moglo prikazivati zvučnike— filmovi sa zvučnim zapisom. Znak kaže da je to najbolja stvar ikad, i čini se da se gotovo svi slažu, osim vas, gluhe osobe, koja se sada osjeća kao građanin drugog reda, drugačija od svih ostalih, pa čak i prilično isključena iz kazališta . U očima gluhe osobe, taj znak je neistina; dodavanje ozvučenja je najgora moguća stvar, a ne najbolja moguća stvar. Poanta je u tome da ono što se općenito čini istinitim nije istina za svakoga. Ideja opće istine - one koja je istinita za sve - je mit. Ne postoji.

Neistine o pristranosti

Zablude o pristranosti javljaju se kada je netko u stanju vidjeti istinu, ali zbog osobnih briga ili uvjerenja nije je u stanju vidjeti. Na primjer, kada razmišlja o nesreći, vozač bi mogao toliko usredotočiti pozornost na sredinu ceste da jelen na rubu ceste postaje nevidljiv. Posljedično, vozač nema vremena reagirati kada jelen iznenada odluči izletjeti na sredinu ceste u pokušaju da prijeđe.

Problem s pristranošću je taj što ju može biti nevjerojatno teško kategorizirati. Na primjer, vozač koji ne vidi jelena može doživjeti pravu nesreću, što znači da je jelen bio skriven od pogleda grmljem. Međutim, vozač može biti kriv i za nepažljivu vožnju zbog pogrešnog fokusa. Vozač također može doživjeti trenutnu smetnju. Ukratko, činjenica da vozač nije vidio jelena nije pitanje; umjesto toga, radi se o tome zašto vozač nije vidio jelena. U mnogim slučajevima, potvrda izvora pristranosti postaje važna pri izradi algoritma dizajniranog da izbjegne izvor pristranosti.

Teoretski, izbjegavanje neistina o pristranosti je uvijek moguće. U stvarnosti, međutim, svi ljudi imaju predrasude različitih vrsta i te pristranosti će uvijek rezultirati neistinama koje iskrivljuju skupove podataka. Samo natjerati nekoga da stvarno pogleda, a zatim nešto vidi - da se to registrira u mozgu osobe - težak je zadatak. Ljudi se oslanjaju na filtre kako bi izbjegli preopterećenje informacijama, a ti su filtri također izvor pristranosti jer sprječavaju ljude da stvarno vide stvari.

Referentni okvir

Od pet zabluda, referentni okvir zapravo ne mora biti rezultat bilo kakve vrste pogreške, već shvaćanja. Neistina u referentnom okviru događa se kada jedna strana opisuje nešto, kao što je događaj poput nesreće, a budući da druga strana nema iskustva s događajem, detalji postaju zbrkani ili potpuno pogrešno shvaćeni. Komedije obiluju rutinama koje se oslanjaju na pogreške referentnog okvira. Jedan poznati primjer je iz knjige Abbott i Costello, Tko je prvi? . Natjerati jednu osobu da razumije što druga osoba govori može biti nemoguće kada prva osoba nema iskustveno znanje – referentni okvir.

Još jedan primjer neistine u referentnom okviru događa se kada jedna strana nikako ne može razumjeti drugu. Na primjer, pomorac doživi oluju na moru. Možda je monsun, ali pretpostavite na trenutak da je oluja velika - možda opasna po život. Čak i uz korištenje videa, intervjua i simulatora, iskustvo boravka na moru u oluji opasnoj bilo bi nemoguće prenijeti nekome tko takvu oluju nije doživio iz prve ruke; ta osoba nema referentni okvir.

Najbolji način da se izbjegnu neistine o referentnom okviru jest osigurati da sve uključene strane mogu razviti slične referentne okvire. Da bi izvršili ovaj zadatak, različite strane zahtijevaju slična iskustvena znanja kako bi osigurali točan prijenos podataka s jedne osobe na drugu. Međutim, kada se radi sa skupom podataka, koji je nužno snimljen, statičnim podacima, pogreške referentnog okvira i dalje će se pojaviti kada budući gledatelj nema potrebno iskustveno znanje.

AI će uvijek imati problema s referentnim okvirom jer AI nužno nema sposobnost stvaranja iskustva. Baza podataka stečenog znanja nije sasvim ista stvar. Baza podataka bi sadržavala činjenice, ali iskustvo se temelji ne samo na činjenicama nego i na zaključcima koje trenutna tehnologija nije u stanju duplicirati.