Pod koniec 1937 roku na terenie położonym obok dworca PKP Herby Śląskie rozpoczęto budowę obecnej świątyni wg projektu architekta Karola Przybyły z Katowic. Budowę w stanie surowym ukończone przed wybuchem II wojny światowej. Dekretem wikariusza generalnego diecezji katowckiej z dnia 17 września 1942 roku kapelanem w Herbach został mianowany o. Jerzy Joniec OMI. Kościół pw. Najświętszego Serca Pana Jezusa pobłogosławił 23 maja 1943 roku wikariusz generalny z Katowic - ks. prałat Franz Wosnitza, a 1 czerwca tego samego roku wydał dekret ustanawiający Herby lokalią. Do 1945 roku opiekę duszpasterską sprawowali oblaci z Lublińca, którzy częściowo odnowili kościół po zniszczeniach wojennych. W czerwcu 1961 roku ustanowiono w Herbach samodzielnego duszpasterza - ks. Bogusława Ochwała, który wybudował plebanię i zorganizował duszpasterstwo. Parafię erygowano 1 lutego 1976 roku, a jej pierwszym proboszczem został ks. Piotr Jasiok. Każdorazowy proboszcz parafii Herby Śląskie, mianowany przez biskupa katowickiego, otrzymywał równocześnie dekret od biskupa częstochowskiego, powierzający opiece duszpasterskiej wiernych z Herbów Starych, którzy należeli do parafii w Blachowni.
Od 25 marca 1992 roku, po nowym podziale administracyjnym Kościoła w Polsce, obie części miejscowości stanowią parafię Najświętszego Serca Pana Jezusa w Herbach w diecezji gliwickiej. Uroczystość poświęcenia kościoła przez biskupa Jana Wieczorka miała miejsce 20 czerwca 1993 roku.
W 2002 roku, po szczegółowej ekspertyzie budowlanej, skotwione pęknięte ściany wieży kościoła. Zmieniono wówczas jej zwieńczenie sześciometrowym krzyżem, a także naprawiono konstrukcję dachu nawy kościoła, który pokryto miedzianą blachą. W następnych latach wykonano nową elewację kościoła, zmieniono oświetlenie, a w latach 2008-2011 wymieniono okna na aluminiowe z witrażami. Całość zmiany wystroju dopełniły nowe ławki, dwa dębowe konfesjonały i elektroniczne organy.