Základná myšlienka cloud computingu siaha až do roku 1961, kedy John McCarthy vyjadril, že by bolo možné výpočtové úlohy organizovať ako verejnú službu. Názov "mrak" (cloud) bol prevzatý od telefónnych spoločností, do roku 1990 prednostne ponúkajúcich dátové okruhy pre priame spojenie medzi dvoma sieťovými uzlami, ktoré začali propagovať svoje privátne virtuálne siete (VPN) s porovnateľnou kvalitou, ale oveľa nižšou cenou. Odklonením prenosov na vyváženie využitia boli schopní využiť celkovú šírku pásma siete oveľa efektívnejšie. Symbol mraku bol použitý ako znázornenie bodov, medzi ktorými bola oddelená zodpovednosť poskytovateľa od užívateľa. Cloud computing neskôr rozšíril tieto hranice na pokrytie serverov, rovnako tak ako infraštruktúry. (Kotlík, M. 2010).