Standard hårdvarubrister för artificiell intelligens

Möjligheten att skapa ett modulärt system har betydande fördelar, särskilt i affärer. Möjligheten att ta bort och byta ut enskilda komponenter håller kostnaderna nere samtidigt som den tillåter stegvisa förbättringar i både hastighet och effektivitet. Men som med det mesta finns det ingen gratis lunch. Modulariteten som tillhandahålls av Von Neumann-arkitekturen kommer med några allvarliga brister:

• Von Neumann-flaskhals: Av alla brister är Von Neumann-flaskhalsen den allvarligaste när man överväger kraven för discipliner som AI, maskininlärning och till och med datavetenskap.
• Enstaka felpunkter: Förlust av anslutning till bussen innebär nödvändigtvis att datorn misslyckas omedelbart, snarare än graciöst. Även i system med flera processorer orsakar förlusten av en enda process, vilket helt enkelt skulle ge en förlust av kapacitet, istället ett fullständigt systemfel. Samma problem uppstår med förlusten av andra systemkomponenter: Istället för att minska funktionaliteten misslyckas hela systemet. Med tanke på att AI ofta kräver kontinuerlig systemdrift, eskalerar risken för allvarliga konsekvenser med det sätt på vilket en applikation förlitar sig på hårdvaran.
• Ensamhet: Von Neumann-bussen kan antingen hämta en instruktion eller hämta data som krävs för att utföra instruktionen, men den kan inte göra båda. Följaktligen, när datahämtning kräver flera busscykler, förblir processorn inaktiv, vilket minskar dess förmåga att utföra instruktionsintensiva AI-uppgifter ännu mer.
• Uppgifter: När hjärnan utför en uppgift avfyras ett antal synapser på en gång, vilket gör att flera operationer kan utföras samtidigt. Den ursprungliga Von Neumann-designen tillät bara en operation åt gången, och först efter att systemet hämtat både den nödvändiga instruktionen och data. Datorer idag har vanligtvis flera kärnor, vilket möjliggör samtidig exekvering av operationer i varje kärna. Applikationskoden måste dock specifikt adressera detta krav, så funktionaliteten förblir ofta oanvänd.