Herby były niewielką miejscowością graniczną, powstałą pomiędzy dawnym zaborem pruskim i rosyjskim. Część miejscowości, nazywana Herby Polskie (Herby Stare - tak jak dawna stacja kolejowa), należała do parafii w Blachowni (obecnie archidiecezja częstochowska), a druga część, zwana Herby Śląskie i Herby Nowe, należała do parafii w Kochanowicach, później zaś do parafii w Olszynie. Pierwszymi budynkami nadgranicznymi były: drewniana gospoda z 1866 roku oraz budynki celne powstałe po pruskiej stronie w 1887 roku. W 1913 roku w Herbach Śląskich wystawiono pomnik upamiętniający 100-lecie Bitwy Narodów pod Lipskiem, w 1925 roku przebudowano go na pomnik poświęcony Powstańcom Śląskim. W 1954 roku obie miejscowości połączone ze sobą. W latach 1958-1972 Herby posiadały status osiedla, a w 1973 roku nadano im status gminy.

W latach międzywojennych zaadaptowano na małą kaplicę i salkę katechetyczną niewielki dom przy obecnej ul. Lublinieckiej. W 1927 roku w części budynku przyległego do dworca kolejowego w Herbach Polskich powstała druga kaplica z ołtarzem Pana Jezusa Ukrzyżowanego. Na przełomie 1940 i 1941 roku kaplicę zamknięto, a ołtarz zdemontowano, przenosząc go na miejsce bocznego ołtarza w kościele św. Michała w Blachowni.

W listopadzie 1936 roku z inicjatywy ks. proboszcza Franciszka Hyli z Olszyny oraz miejscowych kolejarzy i społeczników zawiązał się w Herbach Komitet Budowy Kościoła. Pod koniec 1937 roku na terenie położonym obok dworca PKP Herby Śląskie rozpoczęto budowę obecnej świątyni wg projektu architekta Karola Przybyły z Katowic. Budowę w stanie surowym ukończone przed wybuchem II wojny światowej. Dekretem wikariusza generalnego diecezji katowckiej z dnia 17 września 1942 roku kapelanem w Herbach został mianowany o. Jerzy Joniec OMI. Kościół pw. Najświętszego Serca Pana Jezusa pobłogosławił 23 maja 1943 roku wikariusz generalny z Katowic - ks. prałat Franz Wosnitza, a 1 czerwca tego samego roku wydał dekret ustanawiający Herby lokalią. Do 1945 roku opiekę duszpasterską sprawowali oblaci z Lublińca, którzy częściowo odnowili kościół po zniszczeniach wojennych. W czerwcu 1961 roku ustanowiono w Herbach samodzielnego duszpasterza - ks. Bogusława Ochwała, który wybudował plebanię i zorganizował duszpasterstwo. Parafię erygowano 1 lutego 1976 roku, a jej pierwszym proboszczem został ks. Piotr Jasiok. Każdorazowy proboszcz parafii Herby Śląskie, mianowany przez biskupa katowickiego, otrzymywał równocześnie dekret od biskupa częstochowskiego, powierzający opiece duszpasterskiej wiernych z Herbów Starych, którzy należeli do parafii w Blachowni. Od 25 marca 1992 roku, po nowym podziale administracyjnym Kościoła w Polsce, obie części miejscowości stanowią parafię Najświętszego Serca Pana Jezusa w Herbach w diecezji gliwickiej. Uroczystość poświęcenia kościoła przez biskupa Jana Wieczorka miała miejsce 20 czerwca 1993 roku.

W 2002 roku, po szczegółowej ekspertyzie budowlanej, skotwione pęknięte ściany wieży kościoła. Zmieniono wówczas jej zwieńczenie sześciometrowym krzyżem, a także naprawiono konstrukcję dachu nawy kościoła, który pokryto miedzianą blachą. W następnych latach wykonano nową elewację kościoła, zmieniono oświetlenie, a w latach 2008-2011 wymieniono okna na aluminiowe z witrażami. Całość zmiany wystroju dopełniły nowe ławki, dwa dębowe konfesjonały i elektroniczne organy.

Dwóch kapłanów mieszkających na miejscu obejmuje troską duszpasterską i katechetyczną parafię, miejscowy Zakład Karny oraz Młodzieżowy Ośrodek Wychowawczy.