Von Neumannova úzká místa ovlivňují umělou inteligenci

Von Neumannovo úzké místo je přirozeným výsledkem použití sběrnice pro přenos dat mezi procesorem, pamětí, dlouhodobým úložištěm a periferními zařízeními. Bez ohledu na to, jak rychle sběrnice plní svůj úkol, je vždy možné ji přemoci – tedy vytvořit úzké hrdlo, které sníží rychlost. Postupem času se rychlost procesoru neustále zvyšuje, zatímco paměť a další vylepšení zařízení se zaměřují na hustotu – schopnost uložit více na menším prostoru. V důsledku toho se s každým vylepšením stává úzké místo větším problémem, což způsobuje, že procesor tráví spoustu času nečinností.

V rozumných mezích můžete překonat některé problémy, které obklopují Von Neumannovo úzké místo, a způsobit malé, ale znatelné zvýšení rychlosti aplikace. Zde jsou nejběžnější řešení:

• Ukládání do mezipaměti: Když se problémy s dostatečně rychlým získáváním dat z paměti pomocí Von Neumannovy architektury projevily, dodavatelé hardwaru rychle zareagovali přidáním lokalizované paměti, která nevyžadovala přístup ke sběrnici. Tato paměť se jeví jako externí procesor, ale jako součást procesorového balíčku. Vysokorychlostní mezipaměť je však drahá, takže velikosti mezipaměti bývají malé.
• Ukládání do mezipaměti procesoru: Bohužel externí mezipaměti stále neposkytují dostatečnou rychlost. Dokonce i použití nejrychlejší dostupné paměti RAM a úplné odstranění přístupu ke sběrnici nesplňuje požadavky na kapacitu procesoru. V důsledku toho začali prodejci přidávat interní paměť – mezipaměť menší než externí mezipaměť, ale s ještě rychlejším přístupem, protože je součástí procesoru.
• Předběžné načítání: Problém s mezipamětí je v tom, že se ukáží jako užitečné pouze tehdy, když obsahují správná data. Bohužel se ukazuje, že počet přístupů do mezipaměti je nízký v aplikacích, které využívají velké množství dat a provádějí širokou škálu úkolů. Dalším krokem, jak zrychlit procesory, je uhodnout, která data bude aplikace dále vyžadovat, a načíst je do mezipaměti dříve, než je aplikace bude vyžadovat.
• Použití speciální paměti RAM: Můžete se nechat pohřbít polévkou z abecedy RAM, protože existuje více druhů RAM, než si většina lidí představuje. Každý druh paměti RAM má za cíl vyřešit alespoň část problému s úzkým hrdlem Von Neumanna a fungují – v rámci limitů. Ve většině případů se vylepšení točí kolem myšlenky rychlejšího získávání dat z paměti a na sběrnici. Rychlost ovlivňují dva hlavní (a mnoho menších) faktorů: rychlost paměti (jak rychle paměť přesouvá data) a latence (jak dlouho trvá nalezení konkrétní části dat). Přečtěte si více o paměti a faktorech, které ji ovlivňují.

Stejně jako v mnoha jiných oblastech technologie se humbuk může stát problémem. Například multithreading, akt rozbití aplikace nebo jiné sady instrukcí do samostatných prováděcích jednotek, které může procesor zpracovat jednu po druhé, je často nabízen jako prostředek k překonání Von Neumannova úzkého hrdla, ale ve skutečnosti to tak není. nic víc než přidat režii (problém ještě zhoršit). Multithreading je odpovědí na další problém: zefektivnění aplikace. Když aplikace přidá problémy s latencí do Von Neumannova úzkého místa, celý systém se zpomalí. Multithreading zajišťuje, že procesor neztrácí další čas čekáním na uživatele nebo aplikaci, ale místo toho má neustále co dělat. Aplikační latence může nastat u jakékoli architektury procesoru, nejen u Von Neumannovy architektury. I tak,