Wenig östlich der höchsten Stelle der Basaltkuppe, auf der Herbstein errichtet ist, erhebt sich als historischer und architektonischer Mittelpunkt der Stadt die Kirche St. Jakobus. Urkundlich fassbar ist sie zuerst 1374 durch die Erwähnung eines Altars. Die genaue Bauzeit bleibt unbekannt, Deutungen zum Beispiel nach Wappen an den Gewölbeschlusssteinen vermuten das erste Drittel oder auch das dritte Viertel des 14. Jahrhunderts, das Handbuch der Deutschen Kunstdenkmäler (2008) gibt die zweite Hälfte des 14. Jahrhunderts an. Von einem Vorgängerbau sind bei einer Tieferlegung des Fußbodens um 1960 keine Spuren gefunden worden. Die fast quadratische Stufenhalle zu drei Jochen hat einen vorgebauten Westturm sowie einen Chor in der Breite des Mittelschiffs, bestehend aus zwei Jochen, das östliche mit dreiseitigem Schluss. Turmhalle, Schiff und Chor sind kreuzrippengewölbt, die Rippen wachsen in Chor und Turmhalle aus zum Teil figürlich skulptierten Konsolen, in der Halle aber ohne Übergang aus den achteckigen Arkadenpfeilern beziehungsweise den Wänden. Die Gewölbeschlusssteine sind plastisch ausgebildet. Um 1682 begann eine Erweiterung und zurückhaltende Barockisierung. Die Seitenschiffe wurden dabei nach Osten zu Seiten des Chors um je zwei Joche verlängert und im Westen durch den Turm flankierende Querräume vergrößert. Die zusätzlichen Räume haben Kreuzgratgewölbe und sind zum Chor beziehungsweise zur Turmhalle durch Spitzbogen geöffnet. Die Seitenschiffe erhielten segmentbogige Fenster; nur im Chorpolygon und im Obergeschoss des Turms blieben gotische Fenster – im Chor ohne Maßwerk – erhalten. Aus der Umbauphase stammen die Strebepfeiler außen an den Längswänden der Kirche, daran zu beiden Seiten des Nordportals Wappen des Fürstabts Placidus von Droste und der Stadt Herbstein, letzteres mit der Jahreszahl 1686. Das mächtige, die Schiffe zusammenfassende Satteldach dürfte seine heutige Form ebenfalls in dieser Zeit erhalten haben. 1727 wurde östlich an den Chor eine Sakristei angefügt, sie erhielt 1959/60 eine Erweiterung nach Süden. Die von Fulda beeinflusste markante Zwiebelhaube auf dem Turm stammt aus 1727 oder dem mittleren 18. Jahrhundert. Im Inneren der Kirche haben sich Wandmalereien erhalten. An der Nordseite des östlichen Chorjochs zeigen sie den Erzengel Michael mit Schutzmantel, den Drachen tötend; darunter Leidenswerkzeuge. Diese Bilder entstanden um 1420, wenig später folgten eine Darstellung des Schweißtuchs über dem Chorbogen und eine Kreuzigungsgruppe über einer Arkade im Mittelschiff. Die Ausstattung der Kirche ist zuletzt 1856, 1887 (Altar) und 1959 durchgreifend verändert worden. Von der neugotischen Einrichtung des 19. Jahrhunderts (zu der auch Glasmalereien und in den Seitenschiffen gotisierende Fensterverschlüsse gehörten) blieben im Wesentlichen ein Beichtstuhl und eine Holzskulptur Chris-ti in der Tradition des Herz-Jesu-Bilds. Auf dem Hochaltar von 1960 steht eine um 1700 entstandene große Kreuzigungsgruppe. Von vier Nebenaltären blieben nach 1960 zwei spätbarocke Altarwände, spätes 18. Jahrhundert, in den Seitenschiffen. Von einem Heiligkreuz- und einem Marienaltar stammen zwei Gemälde, Christus an der Martersäule und hl. Katharina, beide in aufwendigen Architekturrahmungen des Knorpelstils, das letztere datiert 1685 und signiert von dem Fuldaer Hofmaler E. Albin. Der Taufstein in Kelchform, 1580 von Andreas Herber geschaffen, ist überzogen mit Reliefs (Taufe Christi, hl. Jakobus, Stifterwappen in Bogenstellung, Akanthus in den Zwickeln und am Fuß). Eine lateinische Umschrift zitiert Matthäus 3 Vers 17. Der Taufstein hat einen kupfernen Deckel aus 1741. Die prächtige Kanzel aus dem ausgehenden 17. Jahrhundert stammt wohl von Johann Bien aus Blankenau, die applizierten Apostelfiguren wahrscheinlich von Joachim Ulrich aus Fulda. Am Schalldeckel prangt das Wappen des Fürstabts Placidus von Droste (†1700). Ältestes plastisches Werk in der Kirche ist das Relief einer Anbetung der Könige aus Holz vom Ende des 14. Jahrhunderts. Zwei spätgotische Holzskulpturen, Petrus und Paulus, stammen aus der ehemaligen Propsteikirche in Petersberg/Fulda. Eine große Mondsichelmadonna und ein hl. Jakobus als bedeutende Werke eines mittelrheinischen Meisters sind um 1525 entstanden. In originaler Fassung blieb ein hl. Josef mit Kind, um 1700. Aus dem früheren Clarissenkloster in Mainz gelangte ein barockes Vesperbild nach Herbstein. In der Kirche werden vier Grabsteine beziehungsweise Epitaphien bewahrt. Als stadtgeschichtliches Dokumente ist darunter das für den 1721 verstorbenen "Nobilis et Clarissimus Domin. Johannes Casparus Staubach in Herbstein et Hosenfeld Praefecto" und für IOHANNES STAVBACH SENATOR CIVITATIS HERBSTEINENSIS, †1725, zu erwähnen. Alle haben außerdem ebenso wie die außen auf dem Kirchplatz aufgestellten zwölf Grabsteine des ausgehenden 17. und des 18. Jahrhunderts künstlerische und volkskundliche Bedeutung. Letztere sind auch auf ihren Rückseiten mit Inschriften und Bildern versehen und stammen vom früheren Friedhof am Hain. Der östliche an der Südseite der Kirche wurde für die 1705 verstorbene Frau des Zimmermeisters Hans Georg Hau[bt]bruch gearbeitet.