A Von Neumann szűk keresztmetszetek hatással vannak a mesterséges intelligenciára

A Von Neumann szűk keresztmetszet a processzor, a memória, a hosszú távú tárolás és a perifériás eszközök közötti adatátvitelre szolgáló busz használatának természetes eredménye. Bármilyen gyorsan is teljesíti a busz a feladatát, felülkerekedni – vagyis a sebességet csökkentő szűk keresztmetszetet kialakítani – mindig lehetséges. Az idő múlásával a processzor sebessége tovább növekszik, miközben a memória és az egyéb eszközök fejlesztése a sűrűségre összpontosít – arra, hogy kevesebb helyen több tárolható legyen. Következésképpen a szűk keresztmetszet minden fejlesztésnél nagyobb problémát jelent, ami miatt a processzor sok időt tölt tétlenül.

Ésszerű keretek között leküzdhet néhány problémát, amelyek a Von Neumann szűk keresztmetszetét övezik, és kis, de észrevehető alkalmazási sebességnövekedést produkál. Íme a leggyakoribb megoldások:

• Gyorsítótárazás: Amikor nyilvánvalóvá váltak a Von Neumann Architecture segítségével a memóriából való elég gyors adatgyűjtéssel kapcsolatos problémák, a hardvergyártók gyorsan reagáltak a helyi memória hozzáadásával, amely nem igényel busz hozzáférést. Ez a memória a processzoron kívül, de a processzorcsomag részeként jelenik meg. A nagy sebességű gyorsítótár azonban drága, ezért a gyorsítótár mérete általában kicsi.
• Processzor gyorsítótár: Sajnos a külső gyorsítótárak még mindig nem biztosítanak kellő sebességet. Még a rendelkezésre álló leggyorsabb RAM használata és a buszhozzáférés teljes leállítása sem elégíti ki a processzor feldolgozási kapacitásigényét. Következésképpen a gyártók elkezdték hozzáadni a belső memóriát – a gyorsítótárat, amely kisebb, mint a külső gyorsítótár, de még gyorsabb hozzáféréssel, mivel a processzor része.
• Előzetes letöltés: A gyorsítótárak problémája az, hogy csak akkor bizonyulnak hasznosnak, ha a megfelelő adatokat tartalmazzák. Sajnos a gyorsítótár találatai alacsonynak bizonyulnak azokban az alkalmazásokban, amelyek sok adatot használnak és sokféle feladatot hajtanak végre. A processzorok gyorsabb működésének következő lépése az, hogy kitalálja, mely adatokra lesz szüksége legközelebb, és betölti azokat a gyorsítótárba, mielőtt az alkalmazás igényelné.
• Speciális RAM használata: Eltemetheti a RAM ábécé-leves, mert több fajta RAM létezik, mint azt a legtöbben gondolják. Minden fajta RAM megoldja a Von Neumann szűk keresztmetszet problémájának legalább egy részét, és működnek is – a határokon belül. A legtöbb esetben a fejlesztések azon az elképzelésen alapulnak, hogy az adatok gyorsabban juthassanak a memóriából a buszra. Két fő (és sok kisebb) tényező befolyásolja a sebességet: a memória sebessége (milyen gyorsan mozgatja a memória az adatokat) és a késleltetés (mennyi ideig tart egy adott adat megtalálása). Olvasson többet a memóriáról és az azt befolyásoló tényezőkről.

Mint a technológia sok más területén, a hype is problémát jelenthet. Például a többszálú feldolgozást, az alkalmazás vagy más utasításkészlet diszkrét végrehajtási egységekre bontását, amelyeket a processzor egyenként képes kezelni, gyakran a Von Neumann szűk keresztmetszet leküzdésének eszközeként emlegetik, de valójában nem teszi meg. semmi más, mint hozzáadni az általános költségeket (ez tovább rontja a problémát). A többszálú megoldás egy másik problémára ad választ: az alkalmazás hatékonyabbá tételére. Amikor egy alkalmazás késleltetési problémákat okoz a Von Neumann szűk keresztmetszetében, az egész rendszer lelassul. A többszálú megoldás biztosítja, hogy a processzor ne veszítsen még több időt a felhasználóra vagy az alkalmazásra várva, hanem folyamatosan legyen valami dolga. Az alkalmazás késése bármely processzorarchitektúránál előfordulhat, nem csak a Von Neumann architektúránál. Még akkor is,