Začetek 20. stoletja je čas, ko se začne uveljavljati ideja o novem konceptu javnega knjižničarstva, ki si s pomočjo knjig prizadeva dvigniti raven izobrazbe najširših plasti takratnega prebivalstva.
Pri nas so bili pri teh prizadevanjih med dejavnejšimi slovenski dijaki in študentje. Združevali so se v društva, kot sta Klub naprednih slovenskih akademikov v Celju ali celjska podružnica Prosvete ter ustanavljali knjižnice po vzoru drugih narodov podonavske monarhije. Oktobra 1923 je tudi Splošno slovensko žensko društvo iz Celja v prostorih Zvezne tiskarne ustanovilo svojo knjižnico, ki jo je vodila Vera Levstik, sestra pisatelja in prevajalca Vladimirja Levstika, ki je bila sicer predmetna učiteljica matematike in fizike ter velika ljubiteljica knjig. Kmalu je spoznala, da majhne društvene knjižnice v mestu ne zmorejo zadovoljiti potreb ljudi, zato je dala pobudo za združitev takšnih knjižnic v eno veliko ljudsko knjižnico. Pobudi se je pridružila vrsta pomembnih Celjanov in celjski občinski svet je v proračunu zagotovil sredstva za knjižnico ter ustanovil poseben kuratorij, ki je bdel nad pripravami za njeno ustanovitev.
Javna mestna knjižnica se je naposled odprla 3. marca 1927. Svoje prve prostore je imela v pritličju mestnega magistrata, kjer je ostala tri leta. Jedro knjižničnega gradiva so sestavljale knjige iz knjižnice celjskega Splošnega slovenskega ženskega društva in knjižnice Kluba naprednih slovenskih akademikov v Celju, jeseni pa so vanjo prešle še knjige iz čitalnične knjižnice, ki je bila pred tem razpuščena. Vera Levstik je ob tem v časopisu zapisala: »Poln voz knjig so zapeljali konji iz Narodnega doma v vežo mestnega magistrata. Ko so jih delavci zložili v sobo na tla, sem se zazrla v cele gore knjig.« Že v prvem letu delovanja so izposodili več kot deset tisoč knjig, v naslednjih dveh letih pa že več kot osemnajst tisoč. Po treh letih je knjižnica štela že približno sedem tisoč knjig in zaradi prostorske stiske se je morala spomladi 1930 preseliti na današnji Gledališki trg, kjer je od Mestne elektrarne za nekaj časa dobila prostore v brezplačno uporabo. Knjižnica je imela dva oddelka: leposlovnega (s posebnim oddelkom za mladino) in znanstvenega. Knjige so bile razvrščene po številčnem zaporedju (kot so bile kupljene). Knjižnica je bila odprta petkrat na teden od 18. do 20. ure, a tudi ob nedeljah med 10. in 12. uro. Letna vpisnina je znašala pet takratnih dinarjev, obrabnina za vsako knjigo pa pol dinarja (dijaštvo je plačalo 50 odstotkov cene). Knjižnica je bila odprta tudi med poletjem, saj so vanjo zahajali tudi letoviščarji, ki jih je bilo v tistem času polno v Celju in okoliških krajih.
Kar polovico obiskovalcev knjižnice so predstavljali delavci, obrtni in trgovski vajenci, skoraj četrtino je predstavljala mladina celjskih šol in komaj četrtino celjska inteligenca. V knjižnico so zahajali tudi kmetje iz okoliških vasi. Bralci so največ posegali po slovenskem leposlovju in leposlovju v nemškem jeziku, v manjši meri tudi po leposlovju v srbohrvaškem jeziku in znanstvenih ter poučnih delih. Najbolj priljubljena knjiga med bralci je bil Finžgarjev roman Pod svobodnim soncem, med nemškimi knjigami so prevladovali avtorji pustolovskih žanrov.
Knjižničarka Vera Levstik je imela s knjižnico ambiciozne načrte, a jo je ob začetku druge svetovne vojne doletela posebno žalostna usoda, ko je nacistični okupator uničil večji del njene knjižne zaloge in vzpostavil novo ljudsko knjižnico (Volksbücherei der Stadt Cilli) s pretežno v nemščini pisanimi knjigami in časopisi. Vojni in povojni revolucionarni čas sta naposled odpihnila tudi njo, začelo pa se je zbiranje ostanka ostankov slovenskih knjig, ki so vojne vihre preživele in tako postale temelj povojnega knjižničarstva.
