5 chýb v údajoch pre umelú inteligenciu

Ľudia sú zvyknutí vidieť údaje v mnohých prípadoch za to, čo to je: názor. V skutočnosti v niektorých prípadoch ľudia skresľujú údaje do bodu, kedy sa stávajú zbytočnými, nepravdou. Počítač alebo aplikácia AI nedokáže rozlíšiť medzi pravdivými a nepravdivými údajmi – všetko, čo vidí, sú údaje. Jedným z problémov, ktorý sťažuje, ak nie znemožňuje, vytvoriť AI, ktorá skutočne myslí ako človek, je, že ľudia môžu pracovať s nepravdami a počítače nie. Najlepšie, čo môžete dosiahnuť, je vidieť chybné údaje ako odľahlé hodnoty a potom ich odfiltrovať, ale táto technika nemusí nevyhnutne vyriešiť problém, pretože človek by stále používal údaje a pokúšal sa určiť pravdu založenú na nepravdách, ktoré sú tam.

Bežnou myšlienkou o vytváraní menej kontaminovaných súborov údajov je, že namiesto toho, aby ľudia mohli vkladať údaje, malo by byť možné zbierať údaje prostredníctvom senzorov alebo iných prostriedkov. Bohužiaľ, senzory a iné metodológie mechanického vstupu odrážajú ciele ich ľudských vynálezcov a limity toho, čo je konkrétna technológia schopná odhaliť. V dôsledku toho aj údaje získané zo stroja alebo zo snímača tiež podliehajú vytváraniu nepravd, ktoré je pre AI dosť ťažké odhaliť a prekonať.

Nasledujúca diskusia používa ako hlavný príklad dopravnú nehodu na ilustráciu piatich typov neprávd, ktoré sa môžu objaviť v údajoch. Pojmy, ktoré sa nehoda snaží vykresliť, sa nemusia vždy objaviť v údajoch a môžu sa objaviť inak, ako sa diskutovalo. Faktom zostáva, že s takýmito vecami sa bežne musíte zaoberať pri prezeraní údajov.

Mistruths of Commission

Mistruth of Commission sú tie, ktoré odrážajú priamy pokus nahradiť pravdivé informácie nepravdivými informáciami. Napríklad pri vypĺňaní správy o nehode mohol niekto uviesť, že ho na chvíľu oslepilo slnko, takže nebolo možné vidieť niekoho, koho zasiahol. V skutočnosti bola osoba možno rozptyľovaná niečím iným alebo v skutočnosti nepremýšľala o šoférovaní (možno zvažovala príjemnú večeru). Ak nikto nemôže vyvrátiť túto teóriu, človek si môže vystačiť s menším poplatkom. Ide však o to, že by boli kontaminované aj dáta. Výsledkom je, že teraz by poisťovňa zakladala poistné na chybných údajoch.

Hoci by sa zdalo, že nepravdám o provízii sa dá úplne vyhnúť, často to tak nie je. Ľudia hovoria „malé biele klamstvá“, aby ušetrili ostatným rozpaky alebo aby sa s problémom vysporiadali s čo najmenším osobným úsilím. Niekedy je nepravda o provízii založená na chybných vstupoch alebo počutiach. V skutočnosti je zdrojov chýb v provízii toľko, že je naozaj ťažké prísť so scenárom, v ktorom by sa im niekto mohol úplne vyhnúť. Toto všetko znamená, že nepravda o provízii je jedným z typov nedôvery, ktorej sa niekto môže vyhnúť častejšie.

Mistruths of Omission

Nepravdivé opomenutia sú tie, pri ktorých osoba hovorí pravdu v každom uvedenom fakte, ale vynecháva dôležitý fakt, ktorý by zmenil vnímanie incidentu ako celku. Keď sa znova zamyslíte nad správou o nehode, povedzte, že niekto narazí na jeleňa a spôsobí značné škody na jeho aute. Po pravde hovorí, že cesta bola mokrá; bolo blízko súmraku, takže svetlo nebolo také dobré, ako by mohlo byť; trochu meškal v stláčaní brzdy; a jeleň jednoducho vybehol z húštiny na kraji cesty. Záver by bol, že incident je jednoducho nehoda.

Osoba však vynechala dôležitý fakt. V tom čase písal SMS. Ak by muži zákona o esemeske vedeli, dôvod nehody by zmenil na nepozornú jazdu. Vodič by mohol dostať pokutu a likvidátor poistenia by pri zadávaní incidentu do databázy použil iný dôvod. Podobne ako pri nepravde o provízii by výsledné chybné údaje zmenili spôsob, akým poisťovňa upravuje poistné.

Vyhnúť sa nepravdám o vynechaní je takmer nemožné. Áno, niekto by mohol zámerne vynechať v správe fakty, ale je rovnako pravdepodobné, že niekto jednoducho zabudne uviesť všetky fakty. Väčšina ľudí je totiž po nehode dosť otrasená, takže je ľahké stratiť pozornosť a hlásiť len tie pravdy, ktoré zanechali najvýraznejší dojem. Aj keď si človek neskôr spomenie na ďalšie podrobnosti a nahlási ich, je nepravdepodobné, že by databáza niekedy obsahovala úplný súbor právd.

Mistruths of Perspective

Zlé perspektívy sa vyskytujú, keď viaceré strany sledujú incident z viacerých uhlov pohľadu. Napríklad pri zvažovaní nehody zahŕňajúcej zrazeného chodca, osoba, ktorá riadi auto, osoba, ktorú auto zrazilo, a náhodný okoloidúci, ktorý bol svedkom udalosti, by všetci mali rôzne perspektívy. Dôstojník prijímajúci správy od každej osoby by pochopiteľne získal od každej iné fakty, dokonca aj za predpokladu, že každá osoba hovorí pravdu tak, ako ju každý pozná. Prax v skutočnosti ukazuje, že je to tak takmer vždy a to, čo policajt predloží ako správu, je strednou cestou toho, čo každý zo zainteresovaných uvádza, rozšírený o osobnú skúsenosť. Inými slovami, správa bude blízka pravde, ale nie dostatočne blízka AI.

Keď sa zaoberáte perspektívou, je dôležité zvážiť výhodný bod. Vodič auta vidí na prístrojovú dosku a pozná stav auta v čase nehody. Ide o informácie, ktoré ďalším dvom stranám chýbajú. Podobne osoba, ktorú auto zrazí, má najlepší výhľad na to, aby videla výraz tváre vodiča (zámer). Okoloidúci môže byť v najlepšej pozícii, aby zistil, či sa vodič pokúsil zastaviť, a vyhodnotil problémy, ako napríklad to, či sa vodič pokúsil uhnúť. Každá strana bude musieť vytvoriť správu na základe videných údajov bez výhod skrytých údajov.

Perspektíva je možno najnebezpečnejšia z nepravd, pretože každý, kto sa v tomto scenári pokúsi odvodiť pravdu, v najlepšom prípade skončí s priemerom rôznych príbehov, ktoré nikdy nebudú úplne správne. Človek, ktorý si prezerá informácie, sa môže spoľahnúť na intuíciu a inštinkt, aby potenciálne získal lepšiu aproximáciu pravdy, ale AI vždy použije len priemer, čo znamená, že AI je vždy vo významnej nevýhode. Bohužiaľ, vyhnúť sa nepravdám o perspektíve je nemožné, pretože bez ohľadu na to, koľko svedkov udalosti máte, najlepšie, čo môžete dosiahnuť, je priblíženie sa pravde, nie skutočnej pravde.

Je potrebné zvážiť aj iný druh nepravdy, a to z hľadiska perspektívy. Zamyslite sa nad týmto scenárom: Ste nepočujúci v roku 1927. Každý týždeň si zájdete do divadla pozrieť si nemý film a na hodinu alebo viac sa cítite ako všetci ostatní. Film môžete zažiť rovnako ako všetci ostatní; neexistujú žiadne rozdiely. V októbri toho roku vidíte znamenie, že divadlo sa modernizuje, aby podporovalo zvukový systém, aby mohlo zobrazovať hovory— filmy so zvukovou stopou. Nápis hovorí, že je to najlepšia vec, a zdá sa, že takmer všetci súhlasia, okrem teba, nepočujúceho, ktorý sa teraz cíti ako občan druhej kategórie, iný ako všetci ostatní a dokonca takmer vylúčený z divadla. . V očiach nepočujúceho je toto znamenie nepravda; pridať zvukový systém je najhoršia možná vec, nie najlepšia možná vec. Ide o to, že to, čo sa zdá byť všeobecne pravdivé, v skutočnosti neplatí pre každého. Myšlienka všeobecnej pravdy – takej, ktorá platí pre každého – je mýtus. to neexistuje.

Mistruths of Bias

K chybám zaujatosti dochádza, keď je niekto schopný vidieť pravdu, ale kvôli osobným obavám alebo presvedčeniam ju nie je schopný skutočne vidieť. Napríklad pri premýšľaní o nehode môže vodič sústrediť pozornosť tak úplne na stred cesty, že jeleň na okraji cesty sa stane neviditeľným. V dôsledku toho vodič nestihne zareagovať, keď sa jeleň zrazu rozhodne vyraziť do stredu cesty v snahe prejsť.

Problém so zaujatosťou je, že môže byť neuveriteľne ťažké kategorizovať. Napríklad vodič, ktorý neuvidí jeleňa, môže mať skutočnú nehodu, čo znamená, že jeleň bol skrytý pred zrakom kríkov. Vodič sa však môže dopustiť aj nepozornej jazdy z dôvodu nesprávneho zaostrenia. Vodič môže tiež zažiť chvíľkové rozptýlenie. Skrátka, to, že vodič nevidel jeleňa, nie je otázka; namiesto toho ide o to, prečo vodič nevidel jeleňa. V mnohých prípadoch sa potvrdenie zdroja skreslenia stáva dôležitým pri vytváraní algoritmu navrhnutého tak, aby sa vyhlo zdroju skreslenia.

Teoreticky je vždy možné vyhnúť sa nepravdám o zaujatosti. V skutočnosti však všetci ľudia majú predsudky rôznych typov a tieto predsudky budú vždy viesť k nepravdám, ktoré skresľujú súbory údajov. Len prinútiť niekoho, aby sa skutočne pozrel a potom niečo videl – aby sa to zaregistrovalo v mozgu osoby – je náročná úloha. Ľudia sa spoliehajú na filtre, aby sa vyhli preťaženiu informáciami, a tieto filtre sú tiež zdrojom zaujatosti, pretože bránia ľuďom skutočne vidieť veci.

Referenčný rámec

Z piatich neprávd nemusí byť referenčný rámec v skutočnosti výsledkom žiadneho druhu omylu, ale výsledkom porozumenia. Nepravda v rámci referenčného rámca nastane, keď jedna strana niečo opisuje, napríklad udalosť, akou je nehoda, a keďže druhá strana nemá s touto udalosťou skúsenosti, detaily sa zamotajú alebo sú úplne nepochopené. Množstvo komediálnych rutín, ktoré sa spoliehajú na chyby referenčného rámca. Jeden slávny príklad je od Abbotta a Costella, Kto je prvý? . Dosiahnuť, aby jedna osoba pochopila, čo druhá osoba hovorí, môže byť nemožné, keď prvej osobe chýbajú skúsenostné znalosti – referenčný rámec.

Ďalší príklad nepravdy v rámci referenčného rámca nastáva, keď jedna strana nemôže pochopiť druhú. Napríklad námorník zažije búrku na mori. Možno je to monzún, ale na chvíľu predpokladajme, že búrka je silná – možno život ohrozujúca. Dokonca aj s použitím videí, rozhovorov a simulátora by zážitok z pobytu na mori v život ohrozujúcej búrke nebolo možné sprostredkovať niekomu, kto takúto búrku na vlastnej koži nezažil; táto osoba nemá žiadny referenčný rámec.

Najlepším spôsobom, ako sa vyhnúť nepravdám v referenčnom rámci, je zabezpečiť, aby všetky zúčastnené strany mohli vytvoriť podobné referenčné rámce. Na splnenie tejto úlohy si rôzne strany vyžadujú podobné skúsenostné znalosti, aby sa zabezpečil presný prenos údajov z jednej osoby na druhú. Pri práci so súborom údajov, ktoré sú nevyhnutne zaznamenané, statické údaje, sa však chyby v rámci referenčného rámca stále vyskytnú, keď potenciálnemu divákovi chýbajú požadované skúsenostné znalosti.

AI bude mať vždy problémy s referenčným rámcom, pretože AI nevyhnutne nemá schopnosť vytvoriť zážitok. Databanka nadobudnutých vedomostí nie je úplne to isté. Databanka by obsahovala fakty, ale skúsenosti sú založené nielen na faktoch, ale aj na záveroch, ktoré súčasná technológia nedokáže duplikovať.