Ermitaž je eden najbolj priljubljenih muzejev pri nas, njegova podoba je v naših mislih trdno povezana z elegantnimi sobami Zimske palače. Dejansko je Zimska palača glavna in največja stavba muzeja, njegova vizitka. Toda Zimsko palačo so v razstavne prostore začeli spreminjati šele v 20. stoletju. Ermitaž kot muzej se od tu ni začel.
Za prvo muzejsko stavbo v arhitekturnem ansamblu Zimske palače lahko rečemo Mala puščavnica, arhitekta Felten in Wallen-Delamot. Ta stavba je sestavljena iz dveh paviljonov - severnega in južnega ter dveh galerij ob straneh Visečega vrta. Galerije so bile zgrajene nazadnje, a so bile namenjene razstavljanju umetniških predmetov. Slike v galerijah so bile postavljene z neprekinjenim visečim "tapiserijem".
Glede na namen so stene galerij zelo zadržane. Glavna dekorativna obremenitev pade na platno, okrašeno je z različnimi štukaturnimi letvami in, da bi se izognili monotonosti, so zaradi svoje dolžine tu narejene majhne lažne kupole in valjasti oboki. Pod kupolami so v medaljonih iz cvetličnega okrasja portreti reliefnih profilov znanih zahodnoevropskih in ruskih umetnikov, kiparjev, znanstvenikov in arhitektov - Tiziana, Rubensa, Ghibertija, Martosa, Murilla in drugih. Takšni bi po mnenju njihovih ustvarjalcev morali biti muzejski interierji poznega klasicizma.
Druga stavba, namenjena shranjevanju umetniških predmetov, je bila Velika pustinja, pozneje imenovana Stara. Sprva je bila sestavljena iz dveh stavb - stavbe v skladu z Malo puščavnico ob nabrežju palače in stavbe Loggia Raphael, zgrajene malo kasneje, pravokotno na prejšnjo stavbo, ob Zimskem kanalu. V Veliki puščavnici arhitekta Feltena je bila knjižnica ruske literature, nekatere sobe so bile rezervirane za bivalne prostore.
V ložah Raphaela arhitekta Quarenghija niso bile le kopije vatikanskih slik. Dvorana z okni na dvorišče, severna in južna pisarna na njenih koncih sta bili namenjeni hrambi umetniških zbirk. Njihova zasnova je bila dovolj preprosta. V osrednji dvorani nad okni so bili medaljoni z reliefi, na koncih pa so bile razporejene niše s kasetiranimi polkrogelnimi stropi. V prvem nadstropju, katerega postavitev je skoraj povsem ustrezala zgornjemu, je bila sčasoma postavljena knjižnica tuje literature. Stavba Raphaelovih lož je popolnoma izgubljena, od stene kanala je ostala le stena. V stavbo Nove Hermitage je vgrajena soba s kopijami vatikanskih slik.
Po odprtju Nove puščave se je tja preselila zbirka palače. Sredi 19. stoletja je arhitekt Stackenschneider uredil dnevne sobe, pisarne in svečane dvorane v nekdanjih razstavnih prostorih Stare puščave. Prvo nadstropje so nekaj časa zasedle vladne agencije.
Trenutno je drugo nadstropje spet rezervirano za razstavne dvorane. Tu je ohranjena postavitev dveh vzdolžnih anfilad - ena gleda na nasip, druga na dvorišče in okras, ki ga je Stackenschneider namenil bivalnim prostorom. Še posebej elegantno so urejene dvorane z okni s pogledom na Nevo - sprednja suita. Odpira jo nekdanja sprednja sprejemna soba s stebri iz jaspisa, slikovitimi pilastri, barvnimi lesenimi vrati z barvanimi porcelanskimi medaljoni, pozlačenimi štukaturnimi letvami in poslikanimi ploščami na stropu in nad vrati. Okrasitev največje in najelegantnejše dvonadstropne dvorane v Stari Hermitage je presenetljiva v raznolikosti uporabljenih dekorativnih elementov in materialov. Tu so jaspis in marmor, porfir in lapis lazuli. Druga soba je osmerokotna v tlorisu, prekrita s kupolo. Tako kot v naslednjih prostorih tudi tukaj glavna dekorativna obremenitev pade na strop, bogato okrašen z pozlačenim ometom iz štukature in reliefnimi dessudeportami s slikovitimi vložki.
Dvorane Nove pustinje že imajo poseben muzejski značaj. Za zasnovo je bil vključen nemški arhitekt Leo von Klenze, ki je že imel izkušnje z gradnjo javnega muzeja - münchenske pinakoteke. Gradnjo stavbe in zaključna dela je nadzoroval N. Efimov.
Po Klenzejevi zamisli naj bi v pritličju razstavili skulpture antičnega in modernega časa ter antično umetnost. Zato so nekatere sobe urejene v starinskem slogu. Ena izmed njih, dvajsetkolona, je bila namenjena grškim in etruščanskim vazam. Zgrajena je kot starodavna bazilika. Strop je pokrit z freskami v duhu poslikave s starinsko keramiko, na stenah pa so kompozicije v grškem slogu. Tla so tlakovana z mozaiki z akantovimi okraski in meandrom. Druga dvorana antične skulpture je zasnovana v obliki antičnega dvorišča. Okrašena je z belimi kaneliranimi korintskimi stebri, stene so obložene z umetnim marmorjem v temno lila barvi, tla s ploščicami pa so okrašena z geometrijskimi in cvetnimi vzorci.
Dvorano, v kateri je arhitekt nameraval razstaviti skulpturo moderne dobe, dopolnjujejo medaljoni s profili Michelangela, Canove, Martosa in drugih. Portreti uglednih kiparjev so postavljeni na strop, ki v tej sobi nosi glavno dekorativno obremenitev. Trezor je pokrit s škatlastim trezorjem z odstranjevanjem in obilno pokrit s štukaturnim okrasjem Stene so prekrite z globoko zelenim umetnim marmorjem.
V ostalih dvoranah prvega nadstropja so stene obložene tudi z barvnim umetnim marmorjem, stropi pa so bodisi z okraski, pobarvani s cvetličnim vzorcem v starinskem duhu, bodisi ravni, okrašeni z okrašenimi kesoni.
Drugo nadstropje odpira galerija Zgodovina antičnega slikarstva. Galerija je sestavljena iz štirih kvadratnih sob, od katerih je vsaka prekrita s kupolo. Na jadrih, ki podpirajo kupole, so bareljefni portreti uglednih umetnikov, med njimi tudi Leo von Klenze. Za okrasitev galerije so bile naslikane slike, ki pripovedujejo zgodbo o slikanju.
Najbolj slovesni prostori v drugem nadstropju so apartma s tremi dvoranami z razsvetljavo. Ogromni zaprti oboki z odprtinami so v celoti prekriti z arabesknimi štukaturami. Dvorane so namenjene delom velikega formata. Šotorska dvorana je opazna po tem, da v njenem dvokapnem stropu vidite celoten sistem špirovcev, prekrit s sliko.
Posebnost Nove Hermitage je, da je bila ta stavba zasnovana in utelešena ravno za razstavljanje umetniških predmetov. Sredina 19. stoletja v ruski arhitekturi je čas obračanja na različne arhitekturne sloge iz preteklosti. Leo von Klenze je pri oblikovanju dvoran, namenjenih muzeju, poskušal ustvariti soglasje med razstavljenimi predmeti in notranjostjo, z veseljem uporabil elemente grške, rimske in renesančne arhitekture.