Arhitektura računalništva v oblaku se nanaša na niz med seboj povezanih strežnikov, sistemov za shranjevanje in nadzornih vozlišč, ki lahko omogočijo porazdeljeno računalništvo. Vsak sistem računalništva v oblaku ima običajno tako sprednji del, odjemalski računalnik kot zadnji del, ki je sestavljen iz aplikacijskih strežnikov, shranjevanja podatkov in neke vrste nadzornega vozlišča. Omrežje, ki povezuje vse, je še en pomemben vidik, ki ga je mogoče povezati z arhitekturo računalništva v oblaku. Komponente v arhitekturi računalništva v oblaku so lahko med seboj povezane lokalno ali prek interneta, odjemalec pa običajno do njih dostopa prek interneta.
Vsaka komponenta strojne opreme, povezana z arhitekturo računalništva v oblaku, običajno komunicira z uporabo aplikacijskih programskih vmesnikov (API), kot so različne spletne storitve. Sprednji del arhitekture, ki je tisto, kar odjemalec ali uporabnik vidi in z njim komunicira, je lahko v različnih oblikah. Nekateri primeri računalništva v oblaku uporabljajo običajne vmesnike, kot so spletni brskalniki, ki lahko dostopajo do e-pošte v oblaku ali drugih storitev. Druge uporabe računalništva v oblaku imajo lastniške sisteme programske opreme, ki so zasnovani za posebne naloge.
Zadnji del arhitekture je običajno sestavljen iz treh glavnih komponent. Ena od teh komponent je shranjevanje podatkov, kamor se lahko shranijo informacije za kasnejše iskanje. Podatke lahko v oblak shranijo odjemalci ali aplikacije v oblaku. Podatkovna zmogljivost sistema v oblaku je običajno precej velika, da omogoča redundanco. To v bistvu pomeni, da je komponenta za shranjevanje podatkov v arhitekturi oblaka običajno zasnovana za shranjevanje več kot ene kopije vsakega nabora podatkov v primeru, da je kateri koli del sistema poškodovan ali nedostopen.
Aplikacijski strežniki so še ena pomembna komponenta, povezana z arhitekturo računalništva v oblaku. Arhitektura v oblaku običajno vključuje več različnih aplikacijskih strežnikov, od katerih je lahko vsak odgovoren za drugačno funkcijo. Vsak od teh strežnikov je običajno zasnovan za izvajanje enega programa ali storitve in mnogi od njih so lahko odjemalcu na voljo prek vmesnika sprednjega dela. Ta vrsta porazdeljene nastavitve lahko omogoči, da sistem deluje na bolj poenostavljen način kot prejšnje monolitne zasnove.
Končne komponente, ki so lahko pomembne pri arhitekturi računalništva v oblaku, so kontrolna vozlišča. Ti specializirani računalniki so lahko povezani s strežniki za shranjevanje podatkov in aplikacij prek interneta ali drugega omrežja. Sprednji del je običajno povezan z nadzornim vozliščem, kar odjemalcu omogoča interakcijo z aplikacijskimi strežniki. Krmilna vozlišča običajno povezujejo tudi aplikacijske strežnike in odjemalce s shranjevanjem podatkov.