1730-ban a sajóvárkonyi plébános a falu fölött a dombtetőn Szent Kereszt Felmagasztalása tiszteletére szilárd anyagból egy kis templomot épített. 

1845-ben a Gömör megyei vasgyárosok a Magyarországon meginduló vasútépítés céljaira igényelt vasúti síneknek hazai előállítása céljából új vasgyári részvénytársulatot hoztak létre, a tervezett hengergyár telephelyéül Ózd község határát jelölték meg. 

1849-ig az ózdi templom annyira besüllyedt, hogy az érsekség bezáratta, egyben megbízást adott új templom tervezésére.

          1875-ig a községben 378-ra, a vasgyáritelepen 420-ra, a hozzátartozó Karu-bányában 143-re emelkedett a hívek száma, a várkonyi plébános kezdeményezésére az ózdi iskolahelyiséghez egy kápolnát ragasztottak, de az szűk és alkalmatlan volt. 

Rimamurány-Salgótarjáni Vasmű R.T. Műszaki Vezérigazgatósága a község és a gyártelep között levő téren jelölte ki a templom telkét s az építkezés irányítását magára vállalva, annak lebonyolítására Szvoboda Jakab salgótarjáni építőmesterrel kötött szerződést, ak  1891-től 1893-ig elvégezte a munkálatokat. Oltárképét Sajósy Alajos festette meg. 

    Az érsekség 1919. június 15-én az eddigi helyi lelkészséget a sajóvárkonyi anyaegyháztól véglegesen elválasztva, plébánia rangjára emelte. Az első ózdi plébánossá az érsek Ladányi Pál eddigi helyi káplánt nevezte ki. 1919. július 27-én megalkották az Ózdi Római Katolikus Hitközség alapszabályait.