Der Friedhof an der Rat-Beil-Straße wurde 1828 angelegt. Heute wird das Friedhofsfeld von drei Seiten vom Frankfurter Hauptfriedhof eingeschlossen. Das streng klassizistische Eingangsportal mit der hebräischen Inschrift „Wer geraden Weges wandelt, ziehe ein in Frieden, dorthin, wo sie auf ihren Lagern ruhen“ (Jesaja 57,2) wurde nach Plänen des Architekten Fritz Rumpf erbaut. Es spiegelt architektonisch das neue, durch die Emanzipation geprägte Selbstverständnis der Frankfurter Juden wider. Ebenso die Grabsteinkunst: Entsprachen die Steine in den ersten Jahren nach 1828 noch dem gewohnten traditionellen Stil, so wurden sie im Laufe des 19. Jahrhunderts immer mehr nach Belieben und den finanziellen Möglichkeiten der Hinterbliebenen gestaltet. So entstanden zahlreiche prunkvolle Grabmäler.
Zu den berühmten Persönlichkeiten, die auf diesem Friedhof beigesetzt sind, zählen Mitglieder der Familie Rothschild, der Maler Moritz Daniel Oppenheim (1799-1882), Nobelpreisträger Paul Ehrlich (1854-1915), die Frauenrechtlerin Bertha Pappenheim (1859-1936), der Begründer der „Casella Farbenwerke Mainkur“, Leopold Casella (1766-1847), der Begründer der Frankfurter Zeitung (heute F.A.Z.) Leopold Sonnemann (1831-1909), die Philanthropen Henry und Emma Budge und Charles Hallgarten (1838-1908) sowie der Historiker Isidor Kracauer (1852-1923).
Durch die Gräber der Rabbiner Samson ben Raphael Hirsch (1808-1888) und Israel von Stolin (1869-1921) ist der Friedhof im Laufe der Jahre zu einer Pilgerstätte für orthodoxe Juden aus der ganzen Welt geworden. Ähnlich wie an der Klagemauer in Jerusalem werden an das schlichte Grab des „Wunderrabbis“ Stolin Wunschzettel („Kwittlechs“) gesteckt und Gedenkkerzen angezündet. Weitere Rabbiner, die im Laufe des 19. und zu Beginn des 20. Jahrhunderts in Frankfurt am Main tätig waren, sind ebenfalls auf dem Friedhof an der Rat-Beil-Straße beigesetzt. Darunter der Nachfolger von Samson Raphael Hirsch, Salomon Breuer (1850-1926), sowie die Rabbiner der liberalen Bewegung Markus Horowitz (1844-1910) und Nehemia Anton Nobel (1871-1922).
Nachdem sich die 1851 gegründete orthodoxe „Israelitische Religionsgemeinschaft“ (IRG) vom zunehmenden Reformkurs der Frankfurter Gemeinde abwandte und 1876 aus der Hauptgemeinde austrat, erwarb sie im selben Jahr ein eigenes Beerdigungsfeld. Zum Zeitpunkt des Ankaufs grenzte das Grundstück an die östliche Mauer des Rat-Beil-Friedhofs.
Nach späteren Erweiterungen wurde das Gräberfeld der IRG mit der entsprechenden Mauer in den Friedhof der Hauptgemeinde integriert. Die Gräber sind hier in dem früher üblichen schlichten Stil gehalten.
Etwa 800 Gräber von Frankfurter Juden, die sich in den Jahren 1938 bis 1943 der nationalsozialistischen Verfolgung und Deportation durch Freitod entzogen haben, befinden sich im vorderen Teil des Friedhofsareals.