I motsetning til den generelle oppfatningen, er ikke cloud computing et nytt konsept som kom med Microsoft Office 365. Ankomsten av Salesforce.com på slutten av 1990-tallet var virkelig en milepæl, men ideen om et "intergalaktisk datanettverk" ble først introdusert på 1960-tallet av JCR Licklider, en av de mest innflytelsesrike mennene i datavitenskapens historie.
Licklider ledet en gruppe ved Advance Research Projects Agency (ARPA) i 1962 for å forbedre militærets bruk av datamaskiner og brakte tidsdeling og nettverksfunksjoner i forkant av datateknologi og forskning.
Andre mennesker tilskriver fremveksten av skydatabehandling til John McCarthy, en annen dataforsker som på 1960-tallet foreslo at databehandling skulle leveres som et offentlig verktøy som ligner på servicebyråer som leverte tjenester til bedrifter mot en avgift.
Den populære "Visste du/skifte skjer"-serien fra XPLANE hevder at datamaskinen inne i en mobiltelefon er en million ganger billigere, tusen ganger kraftigere og omtrent hundre tusen ganger mindre enn datamaskinene på 1960-tallet.
Den gang ble massiv databehandling utført med superdatamaskiner og stormaskiner som okkuperte hele bygninger. Tusenvis av sentrale prosesseringsenheter (CPUer) ble koblet til for å dele dataoppgavene til superdatamaskiner for å få resultater raskere. De svært høye kostnadene for å lage og vedlikeholde disse superdatamaskinene fremskyndet oppdagelsen av mer økonomiske databehandlingsmidler.