Az általános vélekedésekkel ellentétben a számítási felhő nem egy új koncepció, amely a Microsoft Office 365-tel érkezett. A Salesforce.com megjelenése az 1990-es évek végén valóban mérföldkő volt, de az „intergalaktikus számítógépes hálózat” ötlete először az 1960-as években jelent meg. JCR Licklider, a számítástechnika történetének egyik legbefolyásosabb embere.
Licklider 1962-ben az Advance Research Projects Agency (ARPA) egy csoportját vezette, amelynek célja a hadsereg számítógép-használatának javítása volt, és az időmegosztási és hálózati képességeket a számítástechnika és a kutatás élvonalába emelte.
Mások a számítási felhő megjelenését John McCarthynak, egy másik informatikusnak tulajdonítják, aki az 1960-as években azt javasolta, hogy a számítástechnikát olyan közüzemi szolgáltatásként szállítsák, amely hasonló a szolgáltató irodákhoz, amelyek térítés ellenében nyújtottak szolgáltatásokat a vállalkozásoknak.
Az XPLANE népszerű „Did You Know/Shift Happens” sorozata azt állítja, hogy a mobiltelefonban lévő számítógép milliószor olcsóbb, ezerszer erősebb és körülbelül százezerszer kisebb, mint az 1960-as évek számítógépei.
Akkoriban hatalmas számítástechnikát végeztek szuperszámítógépekkel és nagyszámítógépekkel, amelyek egész épületeket foglaltak el. Több ezer központi feldolgozó egység (CPU) csatlakozott a szuperszámítógépek számítási feladatainak megosztására, hogy gyorsabban érjenek el eredményeket. Az ilyen szuperszámítógépek létrehozásának és karbantartásának igen magas költsége gazdaságosabb számítástechnikai eszközök felfedezését előmozdította.