Po odlično opravljeni maturi leta 1923 je Jože Karlovšek takoj dobil službo in sicer pri tesarskem mojstru Francu Ravnikarju, ki je bil tisti čas največji strokovnjak v lesenih konstrukcijah.
Po odlično opravljeni maturi leta 1923 je Jože Karlovšek takoj dobil službo, in sicer pri tesarskem mojstru Francu Ravnikarju, ki je bil tisti čas največji strokovnjak v lesenih konstrukcijah.
Pri Ravnikarju je dobil osnovno prakso v skoraj vseh lesenih konstrukcijah in lesenih stavbah. Tudi Ravnikar je bil navdušen nad domačim narodnim slogom, zato sta skupaj skušala narediti nekaj primerkov v gorenjskem slogu. Pri mojstru se je zelo dobro počutil, postal je tudi družinski prijatelj. Precej dobro je zaslužil in se končno otresel revščine.
Drugo leto je odšel k stricu, dr. Josipu Karlovšku, odvetniku, v Celje na njegovo posestvo na Slom pri Ponikvi, kjer se je rodil tudi dr. Anton Slomšek. Tam je bil glavni oskrbnik posestva z žago in mlinom. Na posestvu se je prideloval hmelj, prirejali so love, na katerih se je zbralo veliko gostov. V velikem hlevu je bilo polno živine. Posestvo je imelo celo svojo opekarno za domače investicije. Okoli prostranega dvorišča so stala gospodarska poslopja, za tem so se pa razprostirali sadovnjaki, njive in travniki. Vendar pa je prišlo na posestvu do gospodarskega poloma zaradi slabo ocenjenih stroškov eksploatacije gozda na Donački gori. Stric ni mogel plačati svojih obveznosti in je moral gozdove in veleposestvo prepustiti celjski posojilnici.
Leta 1926 se je Jože Karlovšek zaposlil v Ljubljanski gradbeni družbi, ki je bila takrat največje gradbeno podjetje v Ljubljani. Postal je tehnični uradnik, projektant in tudi gradbeni vodja. Gradil je predvsem za industrialca Frana Bonača, ki je bil eden največjih slovenskih podjetnikov svojega časa – stremel je k razvoju, imel je ideje in videl je priložnosti. Bil je gospodaren, skromen človek, predan svojemu delu, izrazito razvojno usmerjen. Pomembna je Bonačeva vključitev potenciala domačih kadrov v delo tovarn. Jože Karlovšek je tako sodeloval pri Hidrocentrali na Duplici pri Kamniku in postavitvi tovarniških objektov papirnice na Količevem pri Domžalah. Od leta 1926 je vodil vsa gradbena in tehnična dela ter postal Bonačev prijatelj in zaupnik. Leta 1930 je opravil izpit za stavbenika in se 1932 zaposlil prav pri Franu Bonaču v tovarni »I. Bonač, sin«. Tam je projektiral s pomočjo strokovnjakov in vodil nove objekte za Kartonažno tovarno Ljubljana ter za popolnoma na novo postavljeno celulozno tovarno na Vidmu pri Krškem. Pri Bonaču je z manjšimi premori ostal do začetka druge svetovne vojne, ki je preprečila nadaljnje delo tudi velikemu industrialcu.
Za časa vojne je bil zaposlen v nemškem gradbenem podjetju Platzer, kjer je bil tehnični urednik in gradbeni vodja ter namestnik šefa, kadar je bi le-ta odsoten. Gradili so mestno kanalizacijo, ceste po mestu, podirali stare hiše, ki so ovirale regulacijo, zidali stanovanjska naselja, postavili več bunkerjev, napravili predor pod Malim gradom, obnovili žago v Stahovici in drugo. Med vojno so ga Nemci tudi za en mesec zaprli, ker so ga sumili izdaje, a se je na podlagi izkušenj dobro znašel.. Po vojni so ga na predlog delavstva določili za delegata zaplenjenega gradbenega podjetja Platzer, ki so ga pozneje preimenovali v Pionir in nato v Gradis Kamnik. Do sprejetja petletnega državnega plana so predvsem pomagali obnavljati porušene kmetijske domove kmetom, ki so se vračali iz partizanstva ali taborišč. Nekaj malega so izvršili tudi gradbenih del v Kamniku. Gradis so pozneje preselili v Ljubljano, a se je kmalu izkazalo, da je tudi v Kamniku treba imeti samostojno gradbeno podjetje, zato so na novo organizirali gradbišče pri Titanu v Kamniku, kjer je Jože Karlovšek nekaj časa vodil stanovanjske bloke in obratne objekte za smodnišnico ter nove objekte usnjarne. V Gradisu je ostal do leta 1948. Poleg naštetega je bil v tridesetih letih upravnik tovarne fine keramike Dekor v Zgornji Šiški, ki ga je ustanovil skupaj z družabniki in Ljubljansko gradbeno družbo.
Leta 1948 je dosegel naziv višjega gradbenega tehnika in začel poučevati na Srednji gradbeni šoli Ljubljana, kjer je predaval tehnične predmete in tudi pisal ter izdajal tehnične učbenike vse do leta 1963.
Okoli leta 1926 se je poročil z Julijo Weble, učiteljico, hčerko inšpektorja finančne kontrole, Andreja Webleta. V zakonu se jima je rodilo pet otrok: Eva, Milena, Janez, Alenka in Matjaž. Z družino se je leta 1936 preselil v Domžale, kjer sta si zakonca Karlovšek leta 1947 postavila hišo, ki je bila vse do konca njegovega kratkega življenja topel družinski dom.
