Σε αντίθεση με τη γενική πεποίθηση, το cloud computing δεν είναι μια νέα ιδέα που έφτασε με το Microsoft Office 365. Η άφιξη του Salesforce.com στα τέλη της δεκαετίας του 1990 ήταν πράγματι ένα ορόσημο, αλλά η ιδέα ενός «διαγαλαξιακού δικτύου υπολογιστών» εισήχθη για πρώτη φορά τη δεκαετία του 1960 από τον JCR Licklider, έναν από τους ανθρώπους με τη μεγαλύτερη επιρροή στην ιστορία της επιστήμης των υπολογιστών.
Ο Licklider ηγήθηκε μιας ομάδας στο Advance Research Projects Agency (ARPA) το 1962 για να βελτιώσει τη χρήση των υπολογιστών από τον στρατό και έφερε τις δυνατότητες χρονομερισμού και δικτύωσης στο προσκήνιο της τεχνολογίας και της έρευνας υπολογιστών.
Άλλοι άνθρωποι αποδίδουν την εμφάνιση του υπολογιστικού νέφους στον John McCarthy, έναν άλλο επιστήμονα υπολογιστών που στη δεκαετία του 1960 πρότεινε να παραδοθεί η πληροφορική ως δημόσια χρησιμότητα παρόμοια με τα γραφεία υπηρεσιών που παρείχαν υπηρεσίες σε επιχειρήσεις έναντι αμοιβής.
Η δημοφιλής σειρά "Did You Know/Shift Happens" από το XPLANE ισχυρίζεται ότι ο υπολογιστής μέσα σε ένα κινητό τηλέφωνο είναι εκατομμύριο φορές φθηνότερος, χίλιες φορές πιο ισχυρός και περίπου εκατό χιλιάδες φορές μικρότερος από τους υπολογιστές της δεκαετίας του 1960.
Τότε, οι μαζικοί υπολογιστές πραγματοποιούνταν με υπερυπολογιστές και κεντρικούς υπολογιστές που καταλάμβαναν ολόκληρα κτίρια. Χιλιάδες κεντρικές μονάδες επεξεργασίας (CPU) συνδέθηκαν για να μοιράσουν τις υπολογιστικές εργασίες των υπερυπολογιστών, προκειμένου να ληφθούν πιο γρήγορα αποτελέσματα. Το πολύ υψηλό κόστος για τη δημιουργία και τη συντήρηση αυτών των υπερυπολογιστών επιτάχυνε την ανακάλυψη πιο οικονομικών υπολογιστικών μέσων.