Az 5 félreértés a mesterséges intelligencia számára készült adatokban

Az emberek megszokták, hogy az adatokat sok esetben annak látják, ami: véleménynek. Valójában bizonyos esetekben az emberek odáig torzítják az adatokat, hogy azok haszontalanná, félreértéssé válnak. A számítógép vagy az AI-alkalmazás nem tud különbséget tenni az igaz és a valótlan adatok között – csak adatokat lát. Az egyik probléma, amely megnehezíti, ha nem lehetetlenné teszi egy olyan mesterséges intelligencia létrehozását, amely valójában emberként gondolkodik, az az, hogy az emberek képesek félreértésekkel dolgozni, a számítógépek pedig nem. A legjobb, amit elérhet, ha a hibás adatokat kiugró értékeknek tekinti, majd kiszűri, de ez a technika nem feltétlenül oldja meg a problémát, mert az ember továbbra is felhasználja az adatokat, és megpróbálja megállapítani az igazságot a téves tények alapján. vannak.

A kevésbé szennyezett adatkészletek létrehozásával kapcsolatban általánosan elterjedt gondolat az, hogy ahelyett, hogy lehetővé tennénk az emberek számára az adatok bevitelét, lehetővé kell tenni az adatok érzékelőkkel vagy más módon történő gyűjtését. Sajnos az érzékelők és más mechanikus beviteli módszerek tükrözik emberi feltalálóik céljait és azt, hogy az adott technológia milyen korlátokat képes észlelni. Következésképpen még a gépi vagy szenzorokból származó adatok is ki vannak téve olyan félreértéseknek, amelyeket egy mesterséges intelligencia meglehetősen nehéz észlelni és leküzdeni.

A következő vita egy autóbalesetet használ fő példaként az adatokban megjelenő ötféle félreértés bemutatására. A baleset által ábrázolni kívánt fogalmak nem mindig jelennek meg az adatokban, és a tárgyalttól eltérő módon jelenhetnek meg. Az a tény, hogy az adatok megtekintésekor általában foglalkoznia kell ezekkel a dolgokkal.

A Bizottság tévedései

A megbízás tévedései azok, amelyek azt a nyílt kísérletet tükrözik, hogy az igaz információkat valótlan információkkal helyettesítsék. Például egy baleseti jelentés kitöltésekor valaki kijelentheti, hogy a nap egy pillanatra elvakította, így lehetetlenné tette, hogy lássanak valakit, akit elütött. Valójában előfordulhat, hogy a személy figyelmét valami más elvonta, vagy nem gondolt arra, hogy vezessen (esetleg egy kellemes vacsorát fontolgat). Ha ezt az elméletet senki sem tudja megcáfolni, akkor az illető kisebb váddal is boldogulhat. A lényeg azonban az, hogy az adatok is szennyeződnének. A hatás az, hogy most egy biztosító társaság téves adatokra alapozza a díjakat.

Bár úgy tűnik, hogy a megbízással kapcsolatos félreértések teljesen elkerülhetők, gyakran nem. Az emberek „kis fehér hazugságokat” mondanak, hogy megkíméljenek másokat a zavartól, vagy hogy a legkevesebb személyes erőfeszítéssel kezeljék a problémát. Néha a jutalék félreértése téves bevitelen vagy hallomáson alapul. Valójában az elkövetési hibáknak olyan sok forrása van, hogy valóban nehéz olyan forgatókönyvet találni, amelyben valaki teljesen elkerülhetné őket. Mindezek alapján a megbízással kapcsolatos félreértések a valótlanság egyik fajtája, amelyet valaki gyakrabban el tud kerülni.

A mulasztás tévedései

A mulasztás tévedései azok, amikor az ember minden kimondott tényben igazat mond, de kihagy egy fontos tényt, amely megváltoztatná az esemény egészének megítélését. Ha újra átgondolja a baleseti jelentést, mondja azt, hogy valaki elüt egy szarvast, és ezzel jelentős károkat okoz az autójában. Őszintén azt mondja, hogy az út nedves volt; szürkülethez közeledett, így a fény nem volt olyan jó, mint lehetett; kicsit késve nyomta le a féket; és a szarvas egyszerűen kiszaladt az út szélén lévő bozótból. A következtetés az lenne, hogy az incidens egyszerűen baleset.

A személy azonban kihagyott egy fontos tényt. Ekkor sms-ezett. Ha a rendfenntartók tudnának az sms-ről, a baleset oka figyelmetlen vezetésre változtatna. A sofőrt pénzbírsággal sújthatják, a biztosítási ügyintéző pedig más indokot alkalmazna, amikor az eseményt beírja az adatbázisba. Akárcsak a jutalék tévedése, az ebből eredő téves adatok megváltoztatnák azt, ahogyan a biztosító kiigazítja a díjakat.

Szinte lehetetlen elkerülni a mulasztások félreértéseit. Igen, valaki szándékosan kihagyhat tényeket a jelentésből, de ugyanolyan valószínű, hogy valaki egyszerűen elfelejti feltüntetni az összes tényt. Végtére is, a legtöbb ember meglehetősen zörög egy baleset után, így könnyen elveszítheti a fókuszt, és csak azokról az igazságokról számol be, amelyek a legjelentősebb benyomást hagyták. Még ha valaki később további részletekre is emlékszik, és beszámol róluk, az adatbázis valószínűleg soha nem fogja tartalmazni az igazságok teljes készletét.

Perspektíva félreértései

A perspektíva tévedései akkor fordulnak elő, ha több fél több nézőpontból tekint egy eseményre. Például, ha egy elütött gyalogost érintő balesetet veszünk figyelembe, az autót vezető személy, az autó által elütött személy és egy szemtanú, aki szemtanúja volt az eseménynek, mind-mind más-más nézőpontot lát. Egy tiszt, aki minden egyes személytől jelentést készít, érthető módon mindegyiktől eltérő tényeket kapna, még akkor is, ha feltételezzük, hogy mindenki úgy mond igazat, ahogyan azt mindenki ismeri. Valójában a tapasztalat azt mutatja, hogy ez szinte mindig így van, és amit a tiszt jelentésként benyújt, az az egyes érintettek állításának középpontja, személyes tapasztalatokkal kiegészítve. Más szóval, a jelentés közel áll az igazsághoz, de nem elég közel egy mesterséges intelligencia számára.

Amikor a perspektívával foglalkozunk, fontos figyelembe venni a nézőpontot. Az autó vezetője látja a műszerfalat, és ismeri az autó állapotát a baleset időpontjában. Ez az információ, amely hiányzik a másik két pártnak. Hasonlóképpen, az autó által elütött személynek van a legjobb kilátópontja a sofőr arckifejezésének (szándékának) megtekintésére. A szemlélő lehet a legjobb helyzetben ahhoz, hogy lássa, hogy a sofőr megpróbált-e megállni, és felmérheti az olyan problémákat, mint például, hogy a sofőr megpróbált-e kanyarodni. Mindegyik félnek jelentést kell készítenie a látott adatok alapján, a rejtett adatok előnye nélkül.

A perspektíva talán a legveszélyesebb a félreértések közül, mert bárki, aki megpróbálja levezetni az igazságot ebben a forgatókönyvben, a legjobb esetben is a különféle történetek átlagához jut, ami soha nem lesz teljesen helyes. Az információt szemlélő ember az intuícióra és az ösztönre támaszkodhat, hogy potenciálisan jobban megközelítse az igazságot, de egy mesterséges intelligencia mindig csak az átlagot használja, ami azt jelenti, hogy az MI mindig jelentős hátrányban van. Sajnos lehetetlen elkerülni a perspektíva téves igazságait, mert nem számít, hány tanúja van az eseménynek, a legjobb, amit elérhet, az az igazság közelítése, nem a tényleges igazság.

Van egy másik fajta félreértés is, amelyet figyelembe kell venni, és ez a perspektíva. Gondoljon erre a forgatókönyvre: Ön süket ember 1927-ben. Minden héten elmegy a színházba, hogy megnézzen egy némafilmet, és legalább egy órán keresztül úgy érzi magát, mint mindenki más. Ugyanúgy élheti át a filmet, mint mindenki más; nincsenek különbségek. Annak az évnek októberében egy táblát lát, amely azt jelzi, hogy a színház fejlesztés alatt áll, hogy támogassa a hangrendszert, hogy tudjon beszélni— hangsávos filmek. A tábla azt mondja, hogy ez a valaha volt legjobb dolog, és úgy tűnik, szinte mindenki egyetért vele, kivéve téged, a süketet, aki most másodosztályú állampolgárnak érzi magát, más, mint mindenki, és még a színházból is ki van zárva. . A süket szemében ez a jel tévedés; hangrendszer hozzáadása a lehető legrosszabb dolog, nem a lehető legjobb dolog. A lényeg az, hogy ami általában igaznak tűnik, az valójában nem mindenkire igaz. Az általános igazság gondolata – amely mindenkire igaz – mítosz. Nem létezik.

Elfogultság félreértései

Az elfogultság tévedései akkor fordulnak elő, ha valaki képes meglátni az igazságot, de személyes aggályai vagy hiedelmei miatt nem tudja ténylegesen látni azt. Például, amikor egy balesetre gondol, a sofőr olyannyira összpontosíthatja figyelmét az út közepére, hogy az út szélén lévő szarvas láthatatlanná válik. Következésképpen a sofőrnek nincs ideje reagálni, amikor a szarvas hirtelen úgy dönt, hogy átkelni próbál az út közepén.

Az elfogultsággal az a probléma, hogy hihetetlenül nehéz lehet kategorizálni. Például egy sofőr, aki nem látja a szarvast, valódi balesetet szenvedhet, ami azt jelenti, hogy a szarvast a bozót takarja el. A sofőr azonban vétkes lehet a figyelmetlen vezetésben a helytelen fókuszálás miatt. A sofőr is tapasztalhat egy pillanatnyi figyelemelvonást. Röviden, az a tény, hogy a sofőr nem látta a szarvast, nem kérdés; ehelyett az a kérdés, hogy a sofőr miért nem látta a szarvast. Sok esetben a torzítás forrásának megerősítése fontossá válik, amikor olyan algoritmust hozunk létre, amely a torzítási forrás elkerülésére szolgál.

Elméletileg mindig lehetséges elkerülni az elfogultság félreértéseit. A valóságban azonban minden emberben vannak különböző típusú torzítások, és ezek az elfogultságok mindig olyan félreértésekhez vezetnek, amelyek torzítják az adatkészleteket. Csak rávenni valakit, hogy valóban megnézzen, majd lásson valamit – regisztrálni az ember agyában – nehéz feladat. Az emberek a szűrőkre támaszkodnak, hogy elkerüljék az információs túlterheltséget, és ezek a szűrők torzítások forrásai is, mivel megakadályozzák, hogy az emberek ténylegesen lássák a dolgokat.

Referencia Keret

Az öt félreértés közül a vonatkoztatási rendszernek valójában nem kell semmiféle tévedés eredménye, hanem a megértés eredménye. A referenciakeret tévedése akkor fordul elő, ha az egyik fél leír valamit, például egy eseményt, például egy balesetet, és mivel a másik félnek nincs tapasztalata az eseménnyel kapcsolatban, a részletek zavarossá vagy teljesen félreérthetővé válnak. Bővelkednek a vígjátékok, amelyek a referenciakeret hibáira támaszkodnak. Az egyik híres példa az Abbott és Costello, a Who's On First? . Lehetetlen lehet rávenni az egyik személyt, hogy megértse, mit mond a másik, ha az első személynek hiányzik a tapasztalati tudás – a referenciakeret.

Egy másik példa a referenciakeret valótlanságára, amikor az egyik fél nem tudja megérteni a másikat. Például egy tengerész vihart él át a tengeren. Talán monszun, de egy pillanatra tegyük fel, hogy a vihar jelentős – talán életveszélyes. Még videók, interjúk és szimulátor használatával is lehetetlen lenne átadni valakinek azt az élményt, hogy egy életveszélyes viharban tengeren van, aki még nem tapasztalt ilyen vihart; annak a személynek nincs referenciakerete.

A referenciakeret hamisságának elkerülésének legjobb módja annak biztosítása, hogy minden érintett fél hasonló referenciakeretet alakítson ki. Ennek a feladatnak a végrehajtásához a különböző feleknek hasonló tapasztalati tudásra van szükségük, hogy biztosítsák az adatok pontos átvitelét egyik személyről a másikra. A szükségszerűen rögzített adatkészlettel végzett munka során azonban továbbra is előfordulnak statikus adatok, referenciakeret-hibák, ha a leendő néző nem rendelkezik a szükséges tapasztalati ismeretekkel.

Egy mesterséges intelligencia mindig tapasztalni fogja a referenciakeret-problémákat, mert az AI-ból szükségszerűen hiányzik az élmény létrehozásának képessége. A megszerzett tudás adatbázisa nem egészen ugyanaz. Az adatbank tartalmazna tényeket, de a tapasztalatok nemcsak tényeken, hanem olyan következtetéseken is alapulnak, amelyeket a jelenlegi technológia nem képes megkettőzni.