Von Neumann flaskehalse påvirker kunstig intelligens

Von Neumann flaskehalsen er et naturligt resultat af at bruge en bus til at overføre data mellem processor, hukommelse, langtidslagring og perifere enheder. Uanset hvor hurtigt bussen udfører sin opgave, er det altid muligt at overvælde den - det vil sige at danne en flaskehals, der reducerer hastigheden. Over tid fortsætter processorhastighederne med at stige, mens hukommelse og andre enhedsforbedringer fokuserer på tæthed - evnen til at gemme mere på mindre plads. Følgelig bliver flaskehalsen mere et problem med hver forbedring, hvilket får processoren til at bruge meget tid på at være inaktiv.

Inden for rimelighedens grænser kan du overvinde nogle af de problemer, der omgiver Von Neumann-flaskehalsen og producere små, men mærkbare stigninger i applikationshastigheden. Her er de mest almindelige løsninger:

• Caching: Da problemer med at få data fra hukommelsen hurtigt nok med Von Neumann Architecture blev tydelige, reagerede hardwareleverandører hurtigt ved at tilføje lokaliseret hukommelse, der ikke krævede busadgang. Denne hukommelse vises eksternt i forhold til processoren, men som en del af processorpakken. Højhastighedscache er dog dyrt, så cachestørrelser har en tendens til at være små.
• Processor caching: Desværre giver eksterne caches stadig ikke nok hastighed. Selv brug af den hurtigste tilgængelige RAM og fuldstændig afbrydelse af busadgangen opfylder ikke processorens behov for behandlingskapacitet. Som følge heraf begyndte leverandører at tilføje intern hukommelse - en cache, der er mindre end den eksterne cache, men med endnu hurtigere adgang, fordi den er en del af processoren.
• Prefetching: Problemet med caches er, at de kun viser sig nyttige, når de indeholder de korrekte data. Desværre viser cache-hits sig at være lave i applikationer, der bruger meget data og udfører en lang række opgaver. Det næste trin i at få processorer til at arbejde hurtigere er at gætte, hvilke data applikationen vil kræve næste gang og indlæse dem i cachen, før applikationen kræver det.
• Brug af special-RAM: Du kan blive begravet af RAM-alfabetsuppe, fordi der er flere slags RAM, end de fleste mennesker forestiller sig. Hver form for RAM foregiver at løse i det mindste en del af Von Neumann flaskehalsproblemet, og de virker - inden for grænser. I de fleste tilfælde drejer forbedringerne sig om tanken om at få data fra hukommelsen og ind på bussen hurtigere. To store (og mange mindre) faktorer påvirker hastigheden: hukommelseshastighed (hvor hurtigt hukommelsen flytter data) og latens (hvor lang tid det tager at finde et bestemt stykke data). Læs mere om hukommelsen og de faktorer, der påvirker den.

Som med mange andre teknologiområder kan hype blive et problem. For eksempel bliver multithreading, handlingen med at opdele et program eller et andet sæt instruktioner i diskrete udførelsesenheder, som processoren kan håndtere én ad gangen, ofte udråbt som et middel til at overvinde Von Neumann-flaskehalsen, men det gør det faktisk ikke. noget mere end at tilføje overhead (gør problemet værre). Multithreading er et svar på et andet problem: at gøre applikationen mere effektiv. Når en applikation tilføjer forsinkelsesproblemer til Von Neumann-flaskehalsen, bliver hele systemet langsommere. Multithreading sikrer, at processoren ikke spilder endnu mere tid på at vente på brugeren eller applikationen, men i stedet har noget at lave hele tiden. Applikationsforsinkelse kan forekomme med enhver processorarkitektur, ikke kun Von Neumann-arkitekturen. Ikke desto mindre,