5 klaidingos dirbtinio intelekto duomenų klaidos

Žmonės įpratę matyti duomenis tuo, kas daugeliu atvejų yra: nuomonę. Tiesą sakant, kai kuriais atvejais žmonės iškreipia duomenis tiek, kad jie tampa nenaudingi, klaidinga. Kompiuteris arba AI programa negali atskirti teisingų ir neteisingų duomenų – viskas, ką ji mato, yra duomenys. Viena iš problemų, dėl kurių sunku, o gal net neįmanoma, sukurti dirbtinį intelektą, kuris iš tikrųjų mąstytų kaip žmogus, yra ta, kad žmonės gali dirbti su klaidinga tiesa, o kompiuteriai – ne. Geriausia, ką galite tikėtis pasiekti, yra matyti klaidingus duomenis kaip nuokrypius ir tada juos išfiltruoti, tačiau ši technika nebūtinai išsprendžia problemą, nes žmogus vis tiek naudosis duomenimis ir bandys nustatyti tiesą, remdamasis klaidingais faktais. yra ten.

Įprasta mintis apie mažiau užterštų duomenų rinkinių kūrimą yra ta, kad užuot leidus žmonėms įvesti duomenis, turėtų būti įmanoma rinkti duomenis jutikliais ar kitomis priemonėmis. Deja, jutikliai ir kitos mechaninės įvesties metodikos atspindi jų žmonių išradėjų tikslus ir ribas, ką konkreti technologija gali aptikti. Vadinasi, net mašinų ar jutiklių gauti duomenys taip pat gali generuoti klaidingą informaciją, kurią DI gana sunku aptikti ir įveikti.

Tolesnėje diskusijoje kaip pagrindinis pavyzdys naudojamas automobilio avarija, iliustruojantis penkių tipų neteisingumą, kuris gali atsirasti duomenyse. Sąvokos, kurias bandoma pavaizduoti nelaimingo atsitikimo metu, ne visada gali pasirodyti duomenyse ir gali pasirodyti kitaip nei aptarta. Lieka faktas, kad paprastai žiūrint duomenis reikia spręsti tokius dalykus.

Komisijos neteisingumas

Neteisybės dėl komisinių yra tie, kurie atspindi atvirą bandymą teisingą informaciją pakeisti melaginga. Pavyzdžiui, pildydamas pranešimą apie nelaimingą atsitikimą, kas nors galėtų teigti, kad saulė akimirksniu juos apakino, todėl neįmanoma pamatyti žmogaus, į kurį jie atsitrenkė. Tiesą sakant, galbūt asmuo buvo atitrauktas dėl kažko kito arba iš tikrųjų negalvojo apie vairavimą (galbūt svarstė gražią vakarienę). Jei niekas negali paneigti šios teorijos, asmuo gali išsiversti su mažesniu mokesčiu. Tačiau esmė ta, kad duomenys taip pat būtų užteršti. Rezultatas yra tas, kad dabar draudimo bendrovė įmokas skaičiuoja pagal klaidingus duomenis.

Nors atrodytų, kad komisinių neteisingų dalykų galima visiškai išvengti, dažnai taip nėra. Žmonės sako „mažą baltą melą“, kad apsaugotų kitus nuo gėdos arba išspręstų problemą įdedant kuo mažiau asmeninių pastangų. Kartais neteisingas komisinis atlyginimas yra pagrįstas klaidinga informacija arba nuogirdomis. Tiesą sakant, užsakymo klaidų šaltinių yra tiek daug, kad tikrai sunku sugalvoti scenarijų, pagal kurį kas nors galėtų jų visiškai išvengti. Visa tai pasakius, komisinių netiesos yra viena iš netiesos rūšių, kurių kas nors gali išvengti dažniau nei ne.

Neteisybės nutylėjimas

Neteisybės nutylėjimas yra toks, kai žmogus sako tiesą kiekviename išsakytame fakte, bet nutyli svarbų faktą, kuris pakeistų viso įvykio suvokimą. Dar kartą galvodami apie eismo įvykio pranešimą, pasakykite, kad kažkas atsitrenkia į elnią ir padarė didelę žalą jų automobiliui. Jis nuoširdžiai sako, kad kelias buvo šlapias; buvo arti prieblandos, todėl šviesa nebuvo tokia gera, kokia galėtų būti; jis šiek tiek vėlavo paspausti stabdį; o elnias tiesiog išbėgo iš pakelės tankmės. Išvada būtų tokia, kad incidentas yra tiesiog nelaimingas atsitikimas.

Tačiau asmuo nutyli svarbų faktą. Jis tuo metu rašė žinutes. Jeigu teisėsauga žinotų apie susirašinėjimą žinutėmis, tai avarijos priežastį pakeistų į neatidų vairavimą. Vairuotojas gali būti nubaustas bauda, ​​o draudimo specialistas, įvesdamas įvykį į duomenų bazę, nurodys kitą priežastį. Kaip ir dėl komisinių neteisingumo, gaunami klaidingi duomenys pakeistų tai, kaip draudimo bendrovė koreguoja įmokas.

Išvengti klaidingų nutylėjimo beveik neįmanoma. Taip, kažkas gali sąmoningai palikti faktus ataskaitoje, bet taip pat tikėtina, kad kažkas tiesiog pamirš įtraukti visus faktus. Juk dauguma žmonių po nelaimingo atsitikimo būna gana sutraiškyti, todėl lengva prarasti dėmesį ir pranešti tik tas tiesas, kurios paliko reikšmingiausią įspūdį. Net jei vėliau žmogus prisimins papildomas detales ir jas praneš, vargu ar duomenų bazėje kada nors bus pilnas tiesų.

Perspektyvos klaidingumas

Neteisinga perspektyva atsiranda, kai kelios šalys į incidentą žiūri iš kelių taškų. Pavyzdžiui, nagrinėjant nelaimingą atsitikimą, kai nukentėjo pėsčiasis, automobilį vairavęs asmuo, automobilio partrenktas asmuo ir įvykį matęs pašalinis asmuo turėtų skirtingus požiūrius. Pareigūnas, priimantis ataskaitas iš kiekvieno asmens, suprantama, iš kiekvieno iš jų gautų skirtingus faktus, net ir darant prielaidą, kad kiekvienas žmogus sako tiesą taip, kaip kiekvienas ją žino. Tiesą sakant, patirtis rodo, kad taip yra beveik visada ir tai, ką pareigūnas pateikia kaip pranešimą, yra vidurys to, ką teigia kiekvienas dalyvaujantis asmuo, papildytas asmenine patirtimi. Kitaip tariant, ataskaita bus arti tiesos, bet nepakankamai arti AI.

Kalbant apie perspektyvą, svarbu atsižvelgti į perspektyvą. Automobilio vairuotojas mato prietaisų skydelį ir žino automobilio būklę eismo įvykio metu. Tai informacijos, kurios trūksta kitoms dviem partijoms. Lygiai taip pat žmogus, nukentėjęs nuo automobilio, geriausiai mato vairuotojo veido išraišką (ketinimą). Pašalinis asmuo gali geriausiai matyti, ar vairuotojas bandė sustoti, ir įvertinti tokias problemas, kaip, pavyzdžiui, ar vairuotojas bandė nuvažiuoti. Kiekviena šalis turės sudaryti ataskaitą, pagrįstą matytais duomenimis, nenaudodama paslėptų duomenų.

Perspektyva yra bene pavojingiausia neteisinga tiesa, nes kiekvienas, kuris bando išvesti tiesą pagal šį scenarijų, geriausiu atveju gaus įvairių istorijų vidurkį, kuris niekada nebus visiškai teisingas. Žmogus, žiūrintis informaciją, gali pasikliauti intuicija ir instinktu, kad galbūt geriau suprastų tiesą, tačiau dirbtinis intelektas visada naudos tik vidurkį, o tai reiškia, kad AI visada yra labai nepalankioje padėtyje. Deja, išvengti klaidingos perspektyvos neįmanoma, nes nesvarbu, kiek įvykio liudininkų turite, geriausia, ką galite tikėtis pasiekti, yra tiesos, o ne tikrosios tiesos apskaičiavimas.

Taip pat reikia atsižvelgti į kitą netiesą, ir tai yra perspektyvos. Pagalvokite apie šį scenarijų: 1927 m. esate kurčias. Kiekvieną savaitę einate į teatrą pažiūrėti nebylaus filmo ir valandą ar ilgiau jaučiatės kaip visi. Galite patirti filmą taip pat, kaip ir visi kiti; nėra skirtumų. Tų metų spalį matote ženklą, kad teatras atnaujinamas, kad palaikytų garso sistemą, kad galėtų rodyti pokalbius- filmai su garso takeliu. Ženklas sako, kad tai geriausias dalykas, ir atrodo, kad su tuo sutinka beveik visi, išskyrus tave, kurčiąjį, kuriam dabar jaustis antrarūšiu piliečiu, kitokiu nei visi kiti ir netgi beveik išstumtam iš teatro. . Kurčio žmogaus akyse tas ženklas yra netiesa; garso sistemos pridėjimas yra pats blogiausias, o ne geriausias dalykas. Esmė ta, kad tai, kas atrodo iš esmės tiesa, iš tikrųjų nėra tiesa visiems. Idėja apie bendrą tiesą – tokią, kuri tinka visiems – yra mitas. Tai neegzistuoja.

Neteisybės dėl šališkumo

Neteisybės dėl šališkumo atsiranda tada, kai kas nors gali pamatyti tiesą, bet dėl ​​asmeninių rūpesčių ar įsitikinimų negali jos iš tikrųjų pamatyti. Pavyzdžiui, galvodamas apie nelaimingą atsitikimą vairuotojas gali taip sutelkti dėmesį į kelio vidurį, kad elnias kelio pakraštyje tampa nematomas. Vadinasi, vairuotojas neturi laiko reaguoti, kai elnias staiga nusprendžia išlėkti į kelio vidurį, norėdamas kirsti.

Šališkumo problema yra ta, kad jį gali būti nepaprastai sunku suskirstyti į kategorijas. Pavyzdžiui, vairuotojas, nepamatęs elnio, gali patirti tikrą avariją, o tai reiškia, kad elnią nuo akių paslėpė krūmai. Tačiau vairuotojas taip pat gali būti kaltas dėl neatidaus vairavimo dėl netinkamo fokusavimo. Vairuotojas taip pat gali akimirksniu atitraukti dėmesį. Trumpai tariant, tai, kad vairuotojas nematė elnio, nėra klausimas; vietoj to klausimas, kodėl vairuotojas elnio nepamatė. Daugeliu atvejų paklaidos šaltinio patvirtinimas tampa svarbus kuriant algoritmą, skirtą išvengti šališkumo šaltinio.

Teoriškai visada įmanoma išvengti klaidingų šališkumo klaidų. Tačiau iš tikrųjų visi žmonės turi įvairių tipų paklaidų ir dėl to visada bus klaidinga, kuri iškreipia duomenų rinkinius. Tiesiog priversti ką nors iš tikrųjų pažvelgti ir tada ką nors pamatyti – užsiregistruoti žmogaus smegenyse – yra sudėtinga užduotis. Žmonės naudojasi filtrais, kad išvengtų informacijos pertekliaus, be to, šie filtrai yra šališkumo šaltinis, nes neleidžia žmonėms iš tikrųjų pamatyti dalykų.

Metmenyse

Iš penkių netiesų atskaitos sistema iš tikrųjų turi būti ne kokios nors klaidos, o supratimo rezultatas. Neteisybė atsiranda, kai viena šalis aprašo ką nors, pavyzdžiui, įvykį, pavyzdžiui, nelaimingą atsitikimą, ir kadangi antrajai šaliai trūksta patirties su įvykiu, detalės tampa painios arba visiškai nesuprantamos. Gausu komedijos rutinos, kuri remiasi nuorodų rėmo klaidomis. Vienas garsus pavyzdys yra iš Abbott ir Costello, Kas yra pirmasis? . Gali būti neįmanoma priversti vieną asmenį suprasti, ką sako antrasis asmuo, kai pirmam asmeniui trūksta patirtinių žinių – atskaitos sistemos.

Kitas klaidingos nuorodos pavyzdys yra tada, kai viena šalis niekaip negali suprasti kitos. Pavyzdžiui, jūreivis jūroje patiria audrą. Galbūt tai musonas, bet trumpam manykite, kad audra yra didelė – galbūt pavojinga gyvybei. Netgi naudojant vaizdo įrašus, interviu ir simuliatorių, buvimo jūroje gyvybei pavojingos audros patirties būtų neįmanoma perteikti žmogui, kuris nėra patyręs tokios audros iš pirmų lūpų; tas asmuo neturi atskaitos sistemos.

Geriausias būdas išvengti klaidingų nuorodų sistemos yra užtikrinti, kad visos dalyvaujančios šalys galėtų sukurti panašias atskaitos sistemas. Norint atlikti šią užduotį, įvairioms šalims reikia panašių patirtinių žinių, kad būtų užtikrintas tikslus duomenų perdavimas iš vieno asmens kitam. Tačiau dirbant su duomenų rinkiniu, kuris būtinai įrašomas, statinių duomenų, atskaitos sistemos klaidų vis tiek pasitaikys, kai būsimam žiūrovui trūksta reikiamų patirties žinių.

DI visada susidurs su atskaitos sistemos problemomis, nes AI būtinai neturi galimybės sukurti patirties. Įgytų žinių duomenų bankas nėra visiškai tas pats. Duomenų banke būtų faktų, tačiau patirtis paremta ne tik faktais, bet ir išvadomis, kurių dabartinės technologijos nepajėgios dubliuoti.