Von Neumannin pullonkaulat vaikuttavat tekoälyyn

Von Neumannin pullonkaula on luonnollinen seuraus väylän käytöstä tiedon siirtämiseen prosessorin, muistin, pitkäaikaisen tallennustilan ja oheislaitteiden välillä. Riippumatta siitä, kuinka nopeasti linja-auto suorittaa tehtävänsä, sen ylikuormittaminen – eli nopeutta hidastavan pullonkaulan muodostaminen – on aina mahdollista. Ajan myötä prosessorin nopeudet kasvavat edelleen, kun taas muistin ja muiden laitteiden parannukset keskittyvät tiheyteen – kykyyn tallentaa enemmän pienemmässä tilassa. Tämän seurauksena pullonkaulasta tulee enemmän ongelma jokaisen parannuksen yhteydessä, jolloin prosessori viettää paljon aikaa käyttämättömänä.

Voit voittaa jotkin Von Neumannin pullonkaulaa ympäröivät ongelmat ja saada aikaan pieniä, mutta havaittavia lisäyksiä levitysnopeuteen. Tässä on yleisimmät ratkaisut:

• Välimuisti: Kun Von Neumann Architecturella ilmeni ongelmia tietojen hankkimisessa riittävän nopeasti muistista, laitteistotoimittajat reagoivat nopeasti lisäämällä paikallista muistia, joka ei vaatinut väyläkäyttöä. Tämä muisti näyttää prosessorin ulkopuolelta, mutta osana suoritinpakettia. Nopea välimuisti on kuitenkin kallista, joten välimuistin koot ovat yleensä pieniä.
• Prosessorin välimuisti: Valitettavasti ulkoiset välimuistit eivät vieläkään tarjoa tarpeeksi nopeutta. Edes nopeimman saatavilla olevan RAM-muistin käyttäminen ja väylän käytön poistaminen kokonaan ei täytä prosessorin prosessointikapasiteettitarpeita. Tämän seurauksena toimittajat alkoivat lisätä sisäistä muistia - välimuistia, joka oli pienempi kuin ulkoinen välimuisti, mutta jolla on vielä nopeampi pääsy, koska se on osa prosessoria.
• Esihaku: Välimuistien ongelma on, että ne osoittautuvat hyödyllisiksi vain, kun ne sisältävät oikeat tiedot. Valitettavasti välimuistin osumat osoittautuvat vähäisiksi sovelluksissa, jotka käyttävät paljon tietoa ja suorittavat monenlaisia ​​tehtäviä. Seuraava askel saada prosessorit toimimaan nopeammin on arvata, mitä tietoja sovellus tarvitsee seuraavaksi ja ladata ne välimuistiin ennen kuin sovellus vaatii sitä.
• Erikoismuistin käyttö: RAM-aakkoskeitto voi hautautua, koska RAM-muistia on enemmän kuin useimmat ihmiset kuvittelevat. Jokainen RAM-tyyppi pyrkii ratkaisemaan ainakin osan Von Neumannin pullonkaulaongelmasta, ja ne toimivat – rajoissa. Useimmissa tapauksissa parannukset pyörivät ajatuksen ympärillä saada dataa muistista ja väylään nopeammin. Kaksi suurta (ja monet pienet) tekijät vaikuttavat nopeuteen: muistin nopeus (kuinka nopeasti muisti siirtää tietoja) ja latenssi (kuinka kauan kestää tietyn tiedon paikantaminen). Lue lisää muistista ja siihen vaikuttavista tekijöistä.

Kuten monilla muilla tekniikan aloilla, hype voi muodostua ongelmaksi. Esimerkiksi monisäikeistystä, sovelluksen tai muun käskyjoukon hajottamista erillisiksi suoritusyksiköiksi, joita prosessori pystyy käsittelemään yksi kerrallaan, mainostetaan usein keinona voittaa Von Neumannin pullonkaula, mutta se ei itse asiassa tee sitä. muuta kuin lisätä yleiskustannuksia (pahentaa ongelmaa). Monisäikeisyys on vastaus toiseen ongelmaan: sovelluksen tehostamiseen. Kun sovellus lisää latenssiongelmia Von Neumannin pullonkaulaan, koko järjestelmä hidastuu. Monisäikeistys varmistaa, että prosessori ei enää tuhlaa aikaa odottaessaan käyttäjää tai sovellusta, vaan sillä on koko ajan tekemistä. Sovellusviive voi esiintyä missä tahansa prosessoriarkkitehtuurissa, ei vain Von Neumann -arkkitehtuurissa. Jopa niin,