V stavbi na Slomškovem trgu 7 je med letoma 1812 in 1919 delovala celjska gimnazija. Južni trakt ob Savinjski ulici je bil dograjen leta 1851. Zahodni del poslopja je bil močno poškodovan v zavezniškem bombardiranju Celja 14. februarja 1945, zato so ga po vojni odstranili. Na stavbi je nameščena spominska plošča, ki opozarja na njen pretekli namen.


