Standard hardwaremangler for kunstig intelligens

Evnen til at skabe et modulært system har betydelige fordele, især i erhvervslivet. Evnen til at fjerne og udskifte individuelle komponenter holder omkostningerne lave, samtidig med at det tillader trinvise forbedringer i både hastighed og effektivitet. Men som med de fleste ting er der ingen gratis frokost. Modulariteten leveret af Von Neumann-arkitekturen kommer med nogle alvorlige mangler:

• Von Neumann flaskehals: Af alle manglerne er Von Neumann flaskehalsen den mest alvorlige, når man overvejer kravene til discipliner som AI, maskinlæring og endda datavidenskab.
• Enkelte fejlpunkter: Ethvert tab af forbindelse til bussen betyder nødvendigvis, at computeren fejler øjeblikkeligt, snarere end yndefuldt. Selv i systemer med flere processorer forårsager tabet af en enkelt proces, som simpelthen skulle give et tab af kapacitet, i stedet fuldstændig systemfejl. Det samme problem opstår med tab af andre systemkomponenter: I stedet for at reducere funktionaliteten fejler hele systemet. Da AI ofte kræver kontinuerlig systemdrift, eskalerer potentialet for alvorlige konsekvenser med den måde, hvorpå en applikation er afhængig af hardwaren.
• Ensindethed: Von Neumann-bussen kan enten hente en instruktion eller hente de data, der kræves for at udføre instruktionen, men den kan ikke begge dele. Når datahentning kræver flere buscyklusser, forbliver processoren derfor inaktiv, hvilket reducerer dens evne til at udføre instruktionsintensive AI-opgaver endnu mere.
• Opgave: Når hjernen udfører en opgave, affyres et antal synapser på én gang, hvilket tillader samtidig udførelse af flere operationer. Det originale Von Neumann-design tillod kun én operation ad gangen, og først efter at systemet havde hentet både den nødvendige instruktion og data. Computere i dag har typisk flere kerner, som tillader samtidig udførelse af operationer i hver kerne. Applikationskoden skal dog specifikt adressere dette krav, så funktionaliteten forbliver ofte ubrugt.