Възможността за създаване на модулна система има значителни предимства, особено в бизнеса. Възможността за премахване и замяна на отделни компоненти поддържа разходите ниски, като същевременно позволява постепенни подобрения както в скоростта, така и в ефективността. Въпреки това, както при повечето неща, няма безплатен обяд. Модулността, осигурена от архитектурата на Von Neumann, идва с някои сериозни недостатъци:
- Тесно място на фон Нойман: От всички недостатъци, тесното място на фон Нойман е най-сериозното, когато се вземат предвид изискванията на дисциплини като AI, машинно обучение и дори наука за данни.
- Единични точки на повреда: Всяка загуба на свързаност с шината непременно означава, че компютърът се поврежда незабавно, а не грациозно. Дори в системи с множество процесори, загубата на един процес, който би трябвало просто да доведе до загуба на способност, вместо това причинява пълен отказ на системата. Същият проблем възниква при загубата на други компоненти на системата: вместо да се намали функционалността, цялата система се проваля. Като се има предвид, че AI често изисква непрекъсната работа на системата, потенциалът за сериозни последици ескалира с начина, по който приложението разчита на хардуера.
- Единомислие: Шината на Фон Нойман може или да извлече инструкция, или да извлече данните, необходими за изпълнение на инструкцията, но не може да направи и двете. Следователно, когато извличането на данни изисква няколко цикъла на шината, процесорът остава неактивен, намалявайки способността му да изпълнява интензивни AI задачи.
- Задача: Когато мозъкът изпълнява задача, няколко синапса се задействат едновременно, което позволява едновременното изпълнение на множество операции. Оригиналният дизайн на фон Нойман позволяваше само една операция в даден момент и само след като системата извлече както необходимата инструкция, така и данните. Компютрите днес обикновено имат множество ядра, които позволяват едновременно изпълнение на операции във всяко ядро. Кодът на приложението обаче трябва специално да отговаря на това изискване, така че функционалността често остава неизползвана.