In der südöstlichen Ecke der befestigten, ab 1324 mit der Altstadt vereinigten Neustadt stand seit dem 13. Jahrhundert eine dem hl. Paulus geweihte Pfarrkirche, die von einem Kirchhof umgeben war. Südlich dieser Kirche, und mit dieser durch einen gedeckten Gang verbunden, entstand als letztes Kloster Grünbergs das der Augustinerinnen, das 1457 unter dem Namen „Clause der Sustern Ordens sancti Augustini" erstmals erwähnt wird. Auch nach der offiziellen Schließung des Klosters 1537 unterhielten die Nonnen ein Hospital, das bis ins 19. Jahrhundert bestand und später als Altenheim der Stadt diente. Nachdem um 1720 an der alten Pfarrkirche umfangreiche Schäden aufgetreten waren, beschloss der Stadtvorstand den Bau einer neuen Kirche. Bei diesem nun Hospital- oder Spitalkirche genannten Bau, der in den Jahren 1723 bis 1740 entstand, handelt es sich um einen schlichten, längsrechteckigen Saalbau, von dessen geplantem Ostturm wegen anhaltender finanzieller Schwierigkeiten nur der Unterbau als Rechteckchor ausgeführt wurde. Im Dachstuhl dieses Teils wurde die alte Glocke des Vorgängerbaus, die auf das 14. Jahrhundert zurückgeht und somit eine der ältesten Glocken Hessens ist, aufgehängt. Schmale, sehr hohe, durch gusseiserne Sprossen geteilte Segmentbogenfenster und ebenfalls segmentbogenförmige Eingänge auf jeder Seite, denen querliegende Ovalfenster zugeordnet sind, gliedern die massiven schmucklosen, im Bereich der Ecken durch Werksteine verstärkten Wände. Auch der flach gedeckte Innenraum ist bemerkenswert schlicht. Neben dem runden Triumphbogen und dem lebensgroßen Holzkruzifix vom Anfang des 16. Jahrhunderts sind die dreiseitigen, aus der Bauzeit stammenden Emporen, die hölzerne auf das 17. Jahrhundert zu datierende Kanzel mit Schalldeckel und die sekundär aufgestellten Grabdenkmäler aus der Zeit vom 16. bis zum 18. Jahrhundert erwähnenswert. Von den Klostergebäuden hat sich nur ein langgestreckter, südlich von der Kirche gelegener und parallel zu ihr gestellter Bau, das sog. „Spital", ein um 1500 auf einem massiven Kellergeschoss aus dem 15. Jahrhundert errichteter Fachwerkbau erhalten. Das zweigeschossige, in seiner Westhälfte mit einem massiven Erdgeschoss ausgestattete Gebäude, hat einen deutlichen Geschossüberstand. Das heute in viele kleine Räume unterteilte, langgestreckte Gebäude hatte im Erdgeschoss ursprünglich eine zweischiffige große Halle, während die Unterteilung im Obergeschoss auch zur Bauzeit bereits sehr kleinräumig entlang eines Mittelgangs war. Das gut erhaltene Fachwerk zeigt Wandverstrebungen in Form von gekrümmten Fuß- und Kopfstreben an Eck- und Bundständern, eingeblattete Brustriegel und im nördlichen Teil Kopfwinkelhölzer zur Verriegelung über dem Erdgeschossfachwerk. Der teilweise ummauerte Friedhof zeigt neben den meist jüngeren Gräbern das 1896 errichtete Grab der Juliane Jöckel, das als von Pilastern flankierter Eingang mit wappenbekröntem Sturz und hölzerner Tür gestaltet ist, durch welche eine engelsgleiche in Stein gemeißelte Frau hindurchzugehen sich anschickt. Der gesamte stadtgeschichtlich, religionsgeschichtlich und städtebaulich relevante Bezirk ist insgesamt als Kulturdenkmal einzustufen, wobei die Gebäude eigenständigen künstlerischen und baugeschichtlichen Wert beanspruchen.