Seit dem hohen Mittelalter sind Juden in Limburg ansässig. Wie fast überall in Europa kommt es auch hier zu einem ständigen Wechsel zwischen gewaltsamen Vertreibungen und widerstrebender Duldung mit Auferlegung strenger Rechts- und Lebensbedingungen, wie sie etwa auch im Limburger Stadtbuch "Ordenung der Oberkeit" von 1548 niedergelegt werden. 1278 sind Streitigkeiten mit einem jüdischen Bewohner überliefert. Die Auseinandersetzungen und Anfeindungen nehmen in der ersten Hälfte des 14. Jahrhunderts zu. Schließlich werden die Limburger Juden unter Gerlach II. aus der Stadt vertrieben, mussten jedoch einige Jahre später auf Befehl Kaiser Ludwig des Bayern wieder aufgenommen werden. Die nur wenige Jahre später im Gefolge der großen Pest auftretenden europaweiten Pogrome der Jahrhundertmitte werden in der Chronik des Tilemann Ehlen von Wolfhagen erwähnt, zugleich verschwiegen, ob es auch in Limburg zu Judenverfolgungen kam. 1418 wurden alle Juden im Lande von Kurtrier ausgewiesen, erst in der Neuzeit siedeln wieder vereinzelte jüdische Familien in Limburg: im 18. Jahrhundert sind es sechs bis acht Familien, 1842 sind 60 Juden in der Stadt beheimatet, 1895 206. Im Jahre 1925 werden 270 jüdische Mitbürger gezählt. Die jüdische Gemeinde, die 1902/03 eine geräumige Synagoge an der Schiede errichtet hatte, wird während des nationalsozialistischen Regimes vollständig ausgelöscht.

Der 1880 angelegte jüdische Friedhof liegt zu Füßen der nördlichen Seite des Schafsberges auf einem kleinen, zum Teil bewaldeten Grundstück. Die ältesten Grabsteine stammen noch von der früheren Begräbnisstätte an der "Judenschiede", die wahrscheinlich bereits im Mittelalter benutzt worden war. Die letzte Bestattung fand 1971 statt. Vor 1985 war die Einfriedung erneuert worden, 1985 die Eingangstore.

Auf dem Friedhof befinden sich zahlreiche, besonders schutzwürdige bis in das 19. Jahrhundert datierende Grabsteine, die ältesten um 1840. Dort auch der schlichte Grabstein aus schwarzem Marmor von Adolph Sternberg, einem angesehenen Limburger Kaufmann und Vater von Leo Sternberg, der etliche Heimatbücher über das Nassauer Land und Limburg verfasste. Auf einem Rasenplatz Gedenkstele an die während des Dritten Reichs ermordeten Limburger Juden.

Der gesamte jüdische Friedhof ist mit den Resten der alten Einfriedung und allen Grabmalen Kulturdenkmal aus geschichtlichen Gründen.