Cerkev je bila postavljena okoli leta 1646, kot lahko sklepamo iz napisa in slike nad zakristijskimi vrati. Na hribu nad Šmarjem so najprej postavili leseno kapelico, v kateri so občasno opravljali službo božjo, da bi ljubi Bog uslišal skesane in vroče molitve, ter strašno kugo pognal iz dežele. Po končani kugi so verniki nanosili toliko darov, da so z njimi na prostoru prejšnje neznatne lesene kapele postavili sedanjo lepo cerkev sv. Roka.
