Das Waldstück auf einer breiten Terrasse über der Aue der Alten Hasel wurde seit dem frühen 19. Jahrhundert gleichsam den Schlossgarten fortsetzend als romantische Parkanlage ausgestaltet. Dazu entstanden auch Bauten: Zum Dorf hin exponiert und axial auf das Schloss bezogen steht eine katholische Grabkapelle, datiert 1937 und dem sepulkralen Bauzweck entsprechend in aufwendigen historisierend-eklektizistischen Formen. Sie hat über einer offenen Vorhalle einen geschweiften Giebel, auf dem Dach sitzt ein kleiner Dachreiter mit Zwiebelhaube. Vor der Kapelle besteht eine breitere, über drei Treppen zu erreichende Terrasse, die rückwärts exedraartig mit Mauern abschließt. Auf der Terrasse sind barockisierende Grabsteine aufgestellt, darunter die Kopie eines historischen Grabzeichens aus Herbstein, Kirchplatz. Pinienzapfen und Muscheln besetzen die Mauern, die Treppen und auch die erhaltenen Portalpfeiler seitlich der Anlage. Die Kapelle entstand möglicherweise aus einem älteren Pavillon, der in den "Handrissen über die Grundstücke und Gebäude in der Gemarkung Stockhausen" als "Conrads-Höhe" eingetragen ist und einen halbkreisförmigen Grundriss hatte. Er trug 1813 eine griechische Inschrift, nach der er "der Erholung, der Eintracht und der Heiterkeit" gewidmet war.

Etwa 350 m westlich erhebt sich als wirkungsvoller Abschluss einer breiten, leicht ansteigenden Waldallee die über abschüssigem Fels errichtete Grabkammer des Johann Conrad Riedesel, ein nach einer Planzeichnung innen gewölbter Rechteckbau von 1812, dem eine dorische Tempelfront mit vier monolithen, schlanken, nicht kannelierten Säulen und gewollt ruinösem Tympanon vorgebaut ist. Sie trägt im Architrav die Bezeichnung "CONRADS-RUHE". Seitlich davor wird ein kleiner Friedhof mit einem in Rokokoformen gehaltenem Grabstein (1941) von einer niedrigen Mauer eingefasst. Die gesamte Anlage mit den beiden Gebäuden und den Grabsteinen ist als Ausdruck des romantischen Klassizismus und seiner späteren Rezeption von hoher kunst- und kulturgeschichtlicher Bedeutung.