Parafia św. Józefa należała do parafii św. Barbary w Królewskiej Hucie i została w 1912 r. z niej wydzielona. Inicjatorem budowy kościoła był ks. Paweł Łukaszczyk, proboszcz parafii św. Barbary, który zmarł w 1905 r. Plany architektoniczne sporządził prof. Joseph Schmitz z Norymbergii. 
W dniu 16 października1904 r. położono kamień węgielny pod budowę kościoła, w 1905 r. założono fundamenty i wzniesiono ściany. Budowę prowadzono 3 lata. Koszt całkowity wyniósł 500.000 ówczesnych marek niemieckich. Złożyły się na to Huta Królewska, Freikunksgelderfond, dary księcia biskupa kard. Knoppa z Wrocławia, kopalnia "Król" i składki parafian, natomiast resztę pożyczono. 

    Kościół został poświęcony ku czci Bożej i swego patrona św. Józefa, Opiekuna i Orędownika Kościoła. Nową świątynię pobłogosławił ks. dziekan Wiktor Schmidt z Katowic 
dnia 18 listopada 1907 r. Wtedy też został instalowany jako kuratus parafii ks. Paweł Czaja, 
w 1911 r. mianowany jej pierwszym proboszczem. Od roku 1911 prowadzone były księgi metrykalne, a od 1912 kuracja przy kościele św. Józefa stała się parafią. Parafia kanonicznie erygowana dopiero 9 stycznia 1913 r. Uroczystej konsekracji kościoła dokonał 14 kwietnia 1915 r. ks. Adolf Bertram, biskup wrocławski. 

   Kościół zbudowany został w stylu neoromańskim z cegły miejscowej sprowadzonej z Rudy (cegła duża formatu klasztornego), natomiast wszystkie elementy dekoracyjne wykonano ze sztucznego kamienia zostały sprowadzone z Bawarii. Pierwotnie kościół posiadał polichromię malowaną przez malarza Platzka z Kluczborka. Mozaiki apostołów pochodzą z pracowni Franciszka Hofstaedtera z Monachium. Architekt Joseph Schmitz zaprojektował też całość dekoracji rzeźbiarskich elewacji kościoła, które wykonał rzeźbiarz Josef Kopf z Monachium. Ołtarze wykonane zostały w firmie Schneidera w Regensburgu, organy z pracowni M. Bandera. Dzwony pochodziły z odlewni Ottona z Hemelingen koło Bremy. W wyniku rabunkowych działań wojennych zostały zabrane dzwony: „Maria”, „Paweł” i „Edward”. Zostały tylko dwa: „Józef” i „Jan”. Dwa brakujące dzwony „Barbara” i „Florian” zostały dodane w 1979 r. W wieży mechanizm zegara „J. F. Wuelebockenem 1907”. Witraże w oknach kościoła pochodzą w większości z pracowni Zettlera z Monachium. Zostały one w latach 90-tych odrestaurowane przez firmę Damiana Szyszki z Pszczyny.