Standard maskinvaremangler for kunstig intelligens

Muligheten til å lage et modulært system har betydelige fordeler, spesielt i næringslivet. Muligheten til å fjerne og erstatte individuelle komponenter holder kostnadene lave samtidig som den tillater trinnvise forbedringer i både hastighet og effektivitet. Men som med de fleste ting er det ingen gratis lunsj. Modulariteten levert av Von Neumann-arkitekturen kommer med noen alvorlige mangler:

• Von Neumann-flaskehals: Av alle manglene er Von Neumann-flaskehalsen den mest alvorlige når man vurderer kravene til disipliner som AI, maskinlæring og til og med datavitenskap.
• Enkelte feilpunkter: Ethvert tap av tilkobling til bussen betyr nødvendigvis at datamaskinen svikter umiddelbart, i stedet for elegant. Selv i systemer med flere prosessorer påfører tapet av en enkelt prosess, som ganske enkelt skulle gi tap av kapasitet, i stedet fullstendig systemfeil. Det samme problemet oppstår med tap av andre systemkomponenter: I stedet for å redusere funksjonalitet, svikter hele systemet. Gitt at AI ofte krever kontinuerlig systemdrift, eskalerer potensialet for alvorlige konsekvenser med måten en applikasjon er avhengig av maskinvaren på.
• Ensrettethet: Von Neumann-bussen kan enten hente en instruksjon eller hente dataene som kreves for å utføre instruksjonen, men den kan ikke gjøre begge deler. Følgelig, når datainnhenting krever flere busssykluser, forblir prosessoren inaktiv, noe som reduserer dens evne til å utføre instruksjonsintensive AI-oppgaver enda mer.
• Oppgaver: Når hjernen utfører en oppgave, avfyres et antall synapser samtidig, noe som muliggjør samtidig utførelse av flere operasjoner. Den originale Von Neumann-designen tillot bare én operasjon om gangen, og først etter at systemet hentet både den nødvendige instruksjonen og dataene. Datamaskiner i dag har vanligvis flere kjerner, som tillater samtidig utførelse av operasjoner i hver kjerne. Imidlertid må applikasjonskoden spesifikt adressere dette kravet, så funksjonaliteten forblir ofte ubrukt.