Contràriament a la creença general, la computació en núvol no és un concepte nou que va arribar amb Microsoft Office 365. L'arribada de Salesforce.com a finals dels anys noranta va ser una fita, però la idea d'una "xarxa d'ordinadors intergalàctica" es va introduir per primera vegada a la dècada de 1960. de JCR Licklider, un dels homes més influents de la història de la informàtica.
Licklider va dirigir un grup a l'Agència de Projectes d'Investigació Avanzada (ARPA) el 1962 per millorar l'ús dels ordinadors per part dels militars i va posar les capacitats de temps compartit i de xarxa a l'avantguarda de la tecnologia i la investigació informàtica.
Altres persones atribueixen l'aparició de la informàtica en núvol a John McCarthy, un altre científic informàtic que als anys seixanta va proposar que la informàtica s'oferís com una utilitat pública semblant a les oficines de serveis que proporcionaven serveis a les empreses per una tarifa.
La popular sèrie "Did You Know/Shift Happens" de XPLANE afirma que l'ordinador dins d'un telèfon mòbil és un milió de vegades més barat, mil vegades més potent i unes cent mil vegades més petit que els ordinadors de la dècada de 1960.
Aleshores, la informàtica massiva es realitzava amb superordinadors i mainframes que ocupaven edificis sencers. Es van connectar milers d'unitats centrals de processament (CPU) per dividir les tasques informàtiques dels superordinadors per tal d'obtenir resultats més ràpidament. El cost molt elevat per crear i mantenir aquests superordinadors va precipitar el descobriment de mitjans informàtics més econòmics.