Tekoälyn tiedoissa 5 vääryyttä

Ihmiset ovat tottuneet näkemään datan sellaisena kuin se on monissa tapauksissa: mielipiteitä. Itse asiassa joissakin tapauksissa ihmiset vääristävät dataa siihen pisteeseen, että siitä tulee hyödytöntä, väärää totuutta. Tietokone tai tekoälysovellus ei pysty erottamaan totuudenmukaista ja väärää dataa – se näkee vain dataa. Yksi ongelmista, jotka tekevät ihmisen tavoin ajattelevan tekoälyn luomisen vaikeaksi, ellei mahdottomaksi, on se, että ihmiset voivat työskennellä valheiden kanssa, mutta tietokoneet eivät. Parasta, mitä voit toivoa saavuttavasi, on nähdä virheelliset tiedot poikkeavina ja sitten suodattaa ne pois, mutta tämä tekniikka ei välttämättä ratkaise ongelmaa, koska ihminen silti käyttäisi tietoja ja yrittäisi määrittää totuuden niiden väärien tietojen perusteella. ovat siellä.

Yleinen ajatus vähemmän saastuneiden tietokokonaisuuksien luomisesta on, että sen sijaan, että ihmisten annettaisiin syöttää tietoja, tietojen keräämisen antureilla tai muilla tavoilla pitäisi olla mahdollista. Valitettavasti anturit ja muut mekaaniset syöttömenetelmät heijastavat ihmisten keksijöiden tavoitteita ja rajoja, joita tietty tekniikka pystyy havaitsemaan. Tästä johtuen jopa koneella tai anturilla johdettu data on myös alttiina valheiden synnyttämiselle, jota tekoälyn on melko vaikea havaita ja voittaa.

Seuraavassa keskustelussa käytetään auto-onnettomuutta pääesimerkkinä havainnollistamaan viittä erilaista väärinkäsitystä, joita tiedoissa voi esiintyä. Käsitteet, joita onnettomuus yrittää kuvata, eivät välttämättä aina näy tiedoissa ja ne voivat ilmaantua eri tavoilla kuin on käsitelty. Tosiasia on, että sinun on tavallisesti käsiteltävä tällaisia ​​​​asioita tarkastellessasi tietoja.

Komission väärinkäsitykset

Väärinkäytökset ovat sellaisia, jotka kuvastavat suoraa yritystä korvata totuudenmukainen tieto valheellisella tiedolla. Esimerkiksi onnettomuusraporttia täytettäessä joku voi todeta, että aurinko sokaisi hänet hetkeksi, jolloin on mahdotonta nähdä jotakuta, johon hän osui. Todellisuudessa ehkä joku muu häiritsi henkilöä tai hän ei oikeastaan ​​ajatellut ajamista (mahdollisesti harkiten mukavaa illallista). Jos kukaan ei voi kumota tätä teoriaa, henkilö saattaa pärjätä pienemmällä maksulla. Asia on kuitenkin siinä, että tiedot myös saastuisivat. Vaikutus on, että nyt vakuutusyhtiö perustaisi vakuutusmaksunsa virheellisiin tietoihin.

Vaikka näyttäisi siltä, ​​​​että provisioiden väärät totuudet ovat täysin vältettävissä, usein ne eivät ole. Ihmiset kertovat "pieniä valkoisia valheita" säästääkseen muiden hämmennykseltä tai käsitelläkseen ongelmaa vähimmällä henkilökohtaisella vaivalla. Joskus välityspalkkion epärehellisyys perustuu virheelliseen syöttöön tai kuulopuheeseen. Itse asiassa toimitusvirheiden lähteitä on niin monia, että on todella vaikea keksiä skenaariota, jossa joku voisi välttää ne kokonaan. Kaiken tämän sanoen, komission valheet ovat yhden tyyppisiä vääriä asioita, joita joku voi useammin välttää.

Laiminlyönnin väärinkäytökset

Laiminlyöntivirheitä ovat ne, joissa henkilö kertoo totuuden jokaisesta todetusta tosiasiasta, mutta jättää huomiotta tärkeän tosiasian, joka muuttaisi käsitystä tapahtumasta kokonaisuutena. Ajattelemalla uudelleen onnettomuusraporttia, sano, että joku iskee peuraan aiheuttaen huomattavia vahinkoja hänen autolleen. Hän sanoo totuudenmukaisesti, että tie oli märkä; se oli lähellä hämärää, joten valo ei ollut niin hyvä kuin se voisi olla; hän oli hieman myöhässä painaessaan jarrua; ja peura yksinkertaisesti juoksi ulos tien varresta olevasta pensaikkosta. Johtopäätös olisi, että tapaus on vain onnettomuus.

Henkilö on kuitenkin jättänyt huomioimatta tärkeän tosiasian. Hän laittoi viestiä tuolloin. Jos lainvalvontaviranomaiset saisivat tietää tekstiviestistä, se muuttaisi onnettomuuden syyn huolimattomaan ajamiseen. Kuljettaja saattaisi saada sakon ja vakuutusasiamies käyttäisi erilaista syytä tallentaessaan tapahtuman tietokantaan. Kuten palkkion virheellisyyden tapauksessa, tuloksena olevat virhetiedot muuttaisivat vakuutusyhtiön vakuutusmaksujen säätämistä.

Laiminlyöntien vääristymien välttäminen on lähes mahdotonta. Kyllä, joku voi tarkoituksella jättää faktat pois raportista, mutta on yhtä todennäköistä, että joku yksinkertaisesti unohtaa sisällyttää kaikki tosiasiat. Loppujen lopuksi suurin osa ihmisistä on onnettomuuden jälkeen melko järkyttynyttä, joten on helppo menettää keskittymiskyky ja raportoida vain niistä totuuksista, jotka jättivät merkittävimmän vaikutelman. Vaikka henkilö myöhemmin muistaisi lisätietoja ja raportoi ne, tietokanta tuskin koskaan sisältää täyttä totuusjoukkoa.

Perspektiivin väärinkäytökset

Näkökulman vääristely tapahtuu, kun useat osapuolet näkevät tapahtuman useista näkökulmista. Esimerkiksi kun ajatellaan onnettomuutta, johon on osallisena osunut jalankulkija, autoa kuljettavalla henkilöllä, auton alle jääneellä henkilöllä ja tapahtuman todistaneella sivustakatsijalla olisi kaikilla eri näkökulmat. Upseeri, joka ottaa raportteja jokaiselta henkilöltä, saisi ymmärrettävästi jokaiselta eri tosiasiat, vaikka olettaisikin, että jokainen henkilö kertoo totuuden sellaisena kuin kukin sen tietää. Itse asiassa kokemus osoittaa, että näin on lähes aina, ja se, mitä upseeri toimittaa raportiksi, on keskitie siihen, mitä kukin asianosainen väittää, täydennettynä henkilökohtaisella kokemuksella. Toisin sanoen raportti on lähellä totuutta, mutta ei tarpeeksi lähellä tekoälyä.

Perspektiiviä käsiteltäessä on tärkeää ottaa huomioon näkökulma. Auton kuljettaja näkee kojelaudan ja tietää auton kunnon onnettomuushetkellä. Nämä tiedot puuttuvat kahdelta muulta puolueelta. Samoin auton alle jäävällä on paras näköala nähdä kuljettajan ilme (aikomus). Sivullisen katsoja saattaa olla parhaassa asemassa näkemään, yrittikö kuljettaja pysähtyä, ja arvioida asioita, kuten yrittäkö kuljettaja väistää. Jokaisen osapuolen on laadittava raportti nähtyjen tietojen perusteella ilman, että piilotiedoista on hyötyä.

Perspektiivi on ehkä vaarallisin vääristä totuuksista, koska jokainen, joka yrittää saada totuuden tässä skenaariossa, päätyy parhaimmillaan eri tarinoiden keskiarvoon, joka ei koskaan ole täysin oikea. Tietoa katseleva ihminen voi luottaa intuitioon ja vaistoon saadakseen mahdollisesti paremman likimääräisen totuuden, mutta tekoäly käyttää aina vain keskiarvoa, mikä tarkoittaa, että tekoäly on aina merkittävässä epäedullisessa asemassa. Valitettavasti näkökulmavirheiden välttäminen on mahdotonta, koska riippumatta siitä, kuinka monta todistajaa sinulla on tapahtumalle, paras, jonka voit toivoa, on totuuden likimääräinen arvio, ei todellinen totuus.

On myös toisenlainen harhaanjohtava pohdiskelu, ja se liittyy näkökulmaan. Ajattele tätä skenaariota: Olet kuuro vuonna 1927. Menet joka viikko teatteriin katsomaan mykkäelokuvaa, ja tunnet olosi kuin kaikki muutkin tunnin tai enemmän. Voit kokea elokuvan samalla tavalla kuin muutkin; ei ole eroja. Saman vuoden lokakuussa näet kyltin, jossa sanotaan, että teatteria päivitetään tukemaan äänijärjestelmää, jotta se voi näyttää puheita— elokuvat, joissa on ääniraita. Kyltti sanoo, että se on parasta ikinä, ja melkein kaikki näyttävät olevan samaa mieltä, paitsi sinä, kuuro, joka on nyt saatettu tuntemaan itsensä toisen luokan kansalaiseksi, erilaiseksi kuin kaikki muut ja jopa melko paljon teatterin ulkopuolelle. . Kuurojen silmissä tuo merkki on valhe; äänijärjestelmän lisääminen on pahin mahdollinen asia, ei paras mahdollinen asia. Asia on siinä, että se, mikä näyttää yleisesti ottaen olevan totta, ei todellisuudessa pidä paikkaansa kaikille. Ajatus yleisestä totuudesta – joka on totta kaikille – on myytti. Sitä ei ole olemassa.

Biasin väärinkäytökset

Väärinkäsitys tapahtuu, kun joku pystyy näkemään totuuden, mutta henkilökohtaisten huolenaiheiden tai uskomusten vuoksi ei pysty näkemään sitä. Esimerkiksi onnettomuutta ajatellessaan kuljettaja saattaa keskittyä niin kokonaan tien keskelle, että tien reunassa oleva peura muuttuu näkymättömäksi. Näin ollen kuljettajalla ei ole aikaa reagoida, kun peura yhtäkkiä päättää pultautua keskelle tietä yrittäessään ylittää.

Erottelun ongelmana on, että sitä voi olla uskomattoman vaikea luokitella. Esimerkiksi kuljettaja, joka ei näe kauria, voi joutua todelliseen onnettomuuteen, mikä tarkoittaa, että peura piiloutui näkyviltä pensaikkoihin. Kuljettaja voi kuitenkin syyllistyä myös huolimattomaan ajamiseen väärän tarkennuksen vuoksi. Kuljettaja saattaa myös kokea hetkellistä häiriötekijää. Lyhyesti sanottuna se tosiasia, että kuljettaja ei nähnyt peuroja, ei ole kysymys; Sen sijaan kyse on siitä, miksi kuljettaja ei nähnyt kauria. Monissa tapauksissa harhan lähteen vahvistaminen tulee tärkeäksi, kun luodaan algoritmi, joka on suunniteltu välttämään harhalähdettä.

Teoriassa on aina mahdollista välttää vääristymiä. Todellisuudessa kaikilla ihmisillä on kuitenkin erityyppisiä harhoja, ja ne johtavat aina vääriin tietoihin. Vain saada joku todella katsomaan ja sitten näkemään jotain – saada se rekisteröitymään henkilön aivoihin – on vaikea tehtävä. Ihmiset luottavat suodattimiin välttääkseen tiedon ylikuormitusta, ja nämä suodattimet ovat myös puolueellisuuden lähde, koska ne estävät ihmisiä näkemästä asioita.

Viitekehys

Viidestä väärästä viitekehyksen ei tarvitse itse asiassa olla minkäänlaista virhettä, vaan ymmärrystä. Vertailukehyksen virhe syntyy, kun toinen osapuoli kuvailee jotain, kuten tapahtumaa, kuten onnettomuutta, ja koska toisella ei ole kokemusta tapahtumasta, yksityiskohdat sotkeutuvat tai ymmärretään kokonaan väärin. Komediarutiineja on runsaasti, jotka perustuvat viitekehyksen virheisiin. Yksi kuuluisa esimerkki on Abbottista ja Costellosta, Who's On First? . Yhden henkilön saaminen ymmärtämään, mitä toinen henkilö sanoo, voi olla mahdotonta, kun ensimmäisellä henkilöllä ei ole kokemuksellista tietoa – viitekehystä.

Toinen esimerkki viitekehyksen epätotuudesta tapahtuu, kun toinen osapuoli ei voi mitenkään ymmärtää toista. Esimerkiksi merimies kokee myrskyn merellä. Ehkä se on monsuuni, mutta oleta hetkeksi, että myrsky on merkittävä - ehkä hengenvaarallinen. Vaikka videoita, haastatteluja ja simulaattoria käytettäisiin, kokemusta merellä olemisesta hengenvaarallisessa myrskyssä olisi mahdotonta välittää sellaiselle, joka ei ole kokenut tällaista myrskyä omakohtaisesti. sillä henkilöllä ei ole viitekehystä.

Paras tapa välttää viitekehyksen virheellisyys on varmistaa, että kaikki osapuolet voivat kehittää samanlaisia ​​viitekehystä. Tämän tehtävän suorittamiseksi eri osapuolet tarvitsevat samanlaista kokemuksellista tietoa varmistaakseen tietojen tarkan siirron henkilöltä toiselle. Kuitenkin työskenneltäessä tietojoukon kanssa, joka on välttämättä tallennettu, staattista dataa, viitekehysvirheitä esiintyy silti, kun mahdolliselta katsojalta puuttuu vaadittu kokemuksellinen tieto.

Tekoälyllä on aina viitekehykseen liittyviä ongelmia, koska tekoälyltä puuttuu välttämättä kyky luoda kokemusta. Tietopankki hankitusta tiedosta ei ole aivan sama asia. Tietopankki sisältäisi tosiasioita, mutta kokemus perustuu tosiasioiden lisäksi myös johtopäätöksiin, joita nykyinen tekniikka ei pysty kopioimaan.