5 mākslīgā intelekta datu nepatiesības

Cilvēki ir pieraduši redzēt datus par to, kas daudzos gadījumos ir: viedoklis. Patiesībā dažos gadījumos cilvēki sagroza datus tiktāl, ka tie kļūst nederīgi, nepatiesi. Dators vai AI lietojumprogramma nevar atšķirt patiesus un nepatiesus datus — viss, ko tā redz, ir dati. Viena no problēmām, kas apgrūtina, ja ne neiespējami, izveidot AI, kas patiesībā domā kā cilvēks, ir tas, ka cilvēki var strādāt ar nepatiesību, bet datori nevar. Labākais, ko varat cerēt sasniegt, ir redzēt kļūdainos datus kā novirzes un pēc tam tos filtrēt, taču šis paņēmiens ne vienmēr atrisina problēmu, jo cilvēks joprojām izmantos datus un mēģinās noteikt patiesību, pamatojoties uz nepatiesību, ko ir tur.

Izplatīta doma par mazāk piesārņotu datu kopu izveidi ir tāda, ka tā vietā, lai ļautu cilvēkiem ievadīt datus, vajadzētu būt iespējai apkopot datus, izmantojot sensorus vai citus līdzekļus. Diemžēl sensori un citas mehāniskās ievades metodes atspoguļo to cilvēku izgudrotāju mērķus un robežas, ko konkrētā tehnoloģija spēj noteikt. Līdz ar to pat ar mašīnu vai sensoru atvasinātie dati ir pakļauti nepatiesībai, ko AI ir diezgan grūti atklāt un pārvarēt.

Nākamajā diskusijā kā galvenais piemērs ir izmantota autoavārija, lai ilustrētu piecus nepatiesības veidus, kas var parādīties datos. Jēdzieni, ko negadījums cenšas attēlot, ne vienmēr var parādīties datos, un tie var parādīties citos veidos, nekā apspriests. Fakts joprojām ir tāds, ka, skatot datus, jums parasti ir jārisina šādas lietas.

Komisijas nepatiesība

Komisijas nepatiesība ir tāda, kas atspoguļo tiešu mēģinājumu aizstāt patiesu informāciju ar nepatiesu informāciju. Piemēram, aizpildot negadījuma ziņojumu, kāds varētu paziņot, ka saule viņu uz brīdi ir apžilbinājusi, padarot neiespējamu saskatīt kādu, kuram viņi trāpa. Patiesībā, iespējams, personas uzmanību bija novērsis kaut kas cits vai viņš patiesībā nedomāja par braukšanu (iespējams, apsverot jaukas vakariņas). Ja neviens nevar atspēkot šo teoriju, persona var iztikt ar mazāku maksu. Tomēr būtība ir tāda, ka arī dati būtu piesārņoti. Rezultāts ir tāds, ka tagad apdrošināšanas kompānija balstītu prēmijas uz kļūdainiem datiem.

Lai gan šķiet, ka komisijas nepatiesība ir pilnībā novēršama, bieži vien tā nav. Cilvēks stāsta “mazus baltus melus”, lai pasargātu citus no apmulsuma vai risinātu problēmu ar vismazāko personīgo piepūli. Dažreiz nepatiesa komisijas maksa ir balstīta uz kļūdainu informāciju vai baumām. Faktiski komisijas kļūdu avotu ir tik daudz, ka patiešām ir grūti izdomāt scenāriju, kurā kāds varētu no tām pilnībā izvairīties. Tas viss ir teikts, ka komisijas nepatiesība ir viens no nepatiesības veidiem, no kuriem kāds var izvairīties biežāk nekā nē.

Izlaidības nepareizums

Nepareizi izlaidumi ir tādi, kad cilvēks pasaka patiesību par katru nosaukto faktu, bet atstāj novārtā svarīgu faktu, kas mainītu priekšstatu par incidentu kopumā. Vēlreiz pārdomājot negadījuma ziņojumu, sakiet, ka kāds notriec stirnu, nodarot būtisku kaitējumu viņa automašīnai. Viņš patiesi saka, ka ceļš bijis slapjš; bija tuvu krēslai, tāpēc gaisma nebija tik laba, cik varētu būt; viņš nedaudz kavējās nospiest bremzi; un briedis vienkārši izskrēja no biezokņa ceļa malā. Secinājums būtu tāds, ka incidents ir vienkārši negadījums.

Tomēr cilvēks ir noklusējis svarīgu faktu. Viņš tajā laikā sūtīja īsziņas. Ja likumsargi zinātu par īsziņu sūtīšanu, tas negadījuma iemeslu mainītu uz neuzmanīgu braukšanu. Šoferim var tikt piemērots naudas sods, un apdrošināšanas regulētājs, ievadot negadījumu datubāzē, izmantos citu iemeslu. Tāpat kā komisijas maksas nepatiesības gadījumā, iegūtie kļūdaini dati mainītu to, kā apdrošināšanas sabiedrība koriģē prēmijas.

Ir gandrīz neiespējami izvairīties no nepareizas noklusēšanas. Jā, kāds varētu tīši ziņojumā atstāt faktus, taču ir tikpat liela iespēja, ka kāds vienkārši aizmirsīs iekļaut visus faktus. Galu galā lielākā daļa cilvēku pēc negadījuma ir diezgan satricināti, tāpēc ir viegli zaudēt uzmanību un ziņot tikai par tām patiesībām, kas atstāja visnozīmīgāko iespaidu. Pat ja cilvēks vēlāk atcerēsies papildu detaļas un ziņo par tām, datu bāze, visticamāk, nekad nesaturēs pilnu patiesību kopumu.

Perspektīvas nepatiesības

Perspektīvas kļūdas rodas, ja vairākas puses skatās uz incidentu no vairākiem skatu punktiem. Piemēram, apsverot negadījumu, kurā iesaistīts notriekts gājējs, gan personai, kas vada automašīnu, gan personai, kuru notriec automašīna, un blakussēdētājam, kas bija notikuma aculiecinieks, ir dažādas perspektīvas. Virsnieks, kas saņem ziņojumus no katras personas, saprotami iegūtu dažādus faktus no katra, pat pieņemot, ka katrs cilvēks stāsta patiesību tā, kā katrs to zina. Faktiski pieredze rāda, ka tas tā notiek gandrīz vienmēr, un tas, ko amatpersona iesniedz kā ziņojumu, ir vidusceļš katras iesaistītās personas teiktajam, ko papildina personīgā pieredze. Citiem vārdiem sakot, ziņojums būs tuvu patiesībai, bet ne pietiekami tuvu AI.

Runājot par perspektīvu, ir svarīgi ņemt vērā skatu punktu. Automašīnas vadītājs var redzēt informācijas paneli un zina automašīnas stāvokli negadījuma brīdī. Tā ir informācija, kuras trūkst pārējām divām partijām. Tāpat personai, kuru notriec automašīna, ir vislabākais skata punkts, lai redzētu vadītāja sejas izteiksmi (nodomu). Iespējams, ka blakussēdētājs vislabāk var redzēt, vai vadītājs ir mēģinājis apstāties, un novērtēt tādus jautājumus kā, piemēram, vai vadītājs ir mēģinājis nobraukt. Katrai pusei būs jāsagatavo ziņojums, pamatojoties uz redzētajiem datiem, neizmantojot slēptos datus.

Perspektīva, iespējams, ir visbīstamākā no nepatiesībām, jo ​​ikviens, kurš mēģina iegūt patiesību šajā scenārijā, labākajā gadījumā nonāks pie dažādu stāstu vidusmēra, kas nekad nebūs pilnībā pareizs. Cilvēks, kurš aplūko informāciju, var paļauties uz intuīciju un instinktu, lai, iespējams, iegūtu labāku patiesības tuvinājumu, taču AI vienmēr izmantos tikai vidējo, kas nozīmē, ka AI vienmēr ir ievērojami neizdevīgā stāvoklī. Diemžēl izvairīties no perspektīvas nepatiesības nav iespējams, jo neatkarīgi no tā, cik daudz liecinieku jums ir notikumam, labākais, ko varat cerēt sasniegt, ir patiesības tuvinājums, nevis patiesā patiesība.

Ir jāņem vērā arī cita veida nepatiesība, un tā ir perspektīva. Padomājiet par šādu scenāriju: 1927. gadā jūs esat nedzirdīgs cilvēks. Katru nedēļu jūs dodaties uz teātri, lai noskatītos mēmo filmu, un stundu vai ilgāk jūtaties kā visi pārējie. Jūs varat izbaudīt filmu tāpat kā visi citi; nav nekādu atšķirību. Tā paša gada oktobrī jūs redzat zīmi, kurā teikts, ka teātris veic modernizāciju, lai atbalstītu skaņas sistēmu, lai tajā varētu rādīt sarunas.— filmas ar skaņu celiņu. Zīme vēsta, ka tas ir visu laiku labākais, un šķiet, ka tam piekrīt gandrīz visi, izņemot tevi, nedzirdīgo, kurš tagad ir likts justies kā otrās šķiras pilsonis, atšķirīgs no visiem un pat diezgan izslēgts no teātra. . Nedzirdīga cilvēka acīs šī zīme ir nepatiesība; skaņas sistēmas pievienošana ir sliktākā iespējamā lieta, nevis labākā iespējamā lieta. Lieta ir tāda, ka tas, kas šķiet kopumā patiess, patiesībā nav taisnība visiem. Ideja par vispārēju patiesību — tādu, kas ir patiesa visiem — ir mīts. Tā neeksistē.

Neobjektivitāte

Nepareizi aizspriedumi rodas, ja kāds spēj saskatīt patiesību, bet personisku bažu vai uzskatu dēļ nespēj to saskatīt. Piemēram, domājot par negadījumu, vadītājs var tik pilnībā koncentrēt uzmanību uz ceļa vidu, ka briedis ceļa malā kļūst neredzams. Līdz ar to autovadītājam nav laika reaģēt, kad briedis pēkšņi nolemj izkļūt ceļa vidū, cenšoties šķērsot.

Neobjektivitātes problēma ir tā, ka to var būt neticami grūti klasificēt. Piemēram, vadītājs, kurš nepamana stirnu, var nonākt īstā negadījumā, kas nozīmē, ka briedi no acīm paslēpuši krūmi. Tomēr vadītājs var būt vainīgs arī neuzmanīgā braukšanā nepareizas fokusēšanas dēļ. Vadītājam var rasties arī īslaicīga uzmanības novēršana. Īsāk sakot, tas, ka šoferis briezi neredzēja, nav jautājums; tā vietā jautājums, kāpēc šoferis stirnu neredzēja. Daudzos gadījumos novirzes avota apstiprināšana kļūst svarīga, veidojot algoritmu, kas paredzēts, lai izvairītos no novirzes avota.

Teorētiski vienmēr ir iespējams izvairīties no neobjektivitātes nepatiesības. Tomēr patiesībā visiem cilvēkiem ir dažāda veida novirzes, un šīs novirzes vienmēr radīs nepatiesību, kas sagroza datu kopas. Vienkārši panākt, lai kāds kaut ko paskatītos un pēc tam ieraudzītu — lai tas reģistrētos cilvēka smadzenēs — ir grūts uzdevums. Cilvēki paļaujas uz filtriem, lai izvairītos no informācijas pārslodzes, un šie filtri ir arī neobjektivitātes avots, jo neļauj cilvēkiem reāli redzēt lietas.

Atsauces rāmis

No piecām nepatiesībām atskaites sistēmai patiesībā nav jābūt kāda veida kļūdas rezultātam, bet gan izpratnei. Atsauces sistēmas nepatiesība rodas, ja viena puse apraksta kaut ko, piemēram, notikumu, piemēram, negadījumu, un, tā kā otrai pusei trūkst pieredzes ar šo notikumu, detaļas kļūst neskaidras vai pilnībā pārprastas. Ir daudz komēdiju rutīnu, kas balstās uz atsauces rāmja kļūdām. Viens slavens piemērs ir no Abbott un Costello, Who's On First? . Var būt neiespējami panākt, lai viena persona saprastu, ko saka otra persona, ja pirmajai personai trūkst pieredzes zināšanu — atskaites sistēmas.

Vēl viens atsauces sistēmas nepatiesības piemērs rodas, ja viena puse nevar saprast otru. Piemēram, jūrnieks piedzīvo vētru jūrā. Iespējams, ka tas ir musons, taču uz brīdi pieņemsim, ka vētra ir nopietna — iespējams, dzīvībai bīstama. Pat izmantojot video, intervijas un simulatoru, dzīvībai bīstamā vētrā jūrā gūto pieredzi nebūtu iespējams nodot kādam, kurš šādu vētru nav pieredzējis pats; šai personai nav atskaites sistēmas.

Labākais veids, kā izvairīties no atsauces sistēmas nepatiesības, ir nodrošināt, ka visas iesaistītās puses var izstrādāt līdzīgus atskaites sistēmu. Lai veiktu šo uzdevumu, dažādām pusēm ir vajadzīgas līdzīgas pieredzes zināšanas, lai nodrošinātu precīzu datu pārsūtīšanu no vienas personas uz otru. Tomēr, strādājot ar datu kopu, kas obligāti ir ierakstīta, statiski dati, atsauces sistēmas kļūdas joprojām radīsies, ja potenciālajam skatītājam trūkst nepieciešamo pieredzes zināšanu.

AI vienmēr saskarsies ar atsauces sistēmas problēmām, jo ​​AI noteikti trūkst iespēju radīt pieredzi. Iegūto zināšanu datu banka nav gluži tas pats. Datu banka saturētu faktus, bet pieredze balstās ne tikai uz faktiem, bet arī secinājumiem, ko pašreizējā tehnoloģija nespēj dublēt.