Hřbitov byl založen v r. 1869. Má rozlohu 8879 m2 a je na něm více než 1000 náhrobků. Jsou zde např. náhrobky rodičů Gustava Mahlera. Novorománská obřadní síň z r. 1904 byla vypálena r. 1939. Na konci 20. stol. byl hřbitov rekonstruován.
Nový židovský hřbitov je jedinou dochovanou památkou na dlouhou historii přítomnosti Židů v Jihlavě. První zmínka o židovské osídlení je z roku 1249, početnější komunita se zde vytvořila po roce 1345, na základě privilegia markraběte Karla (císaře Karla IV.). V roce 1425 byli Židé z Jihlavy vypovězeni. Menší osídlení zde vzniklo v polovině 15. století, znovu byli Židé vypovězeni roku 1506. Novodobá židovská obec tu existovala od roku 1858, po druhé světové válce byla obnovena a později změněna v synagogální sbor. Ten zanikl v 70. letech 20. století. Poloha středověkého hřbitova (který jistě díky významnosti a velikosti zdejší židovské komunity v Jihlavě existoval) není známa. Obnovená obec nejdříve pohřbívala své mrtvé v nedalekých Puklicích. Nový hřbitov byl založen v roce 1869. Má rozlohu 8879 m2 a je na něm přes 1000 náhrobků. Najdeme zde mj. náhrobky rodičů skladatele Gustava Mahlera a dalších významných členů jihlavské židovské komunity. V letech 1903–1904 na něm byla postavena novorománská obřadní síň. Autorem projektu byl významný vídeňský architekt Wilhelm Stiassny (1842–1910), autor synagog v Čáslavi a Jablonci nad Nisou, největší pražské synagogy na Královských Vinohradech a nejmladší pražské synagogy v Jeruzalémské ulici. Na počátku okupace obřadní síň stihl stejný osud jako jihlavskou synagogu – byla vypálena. Její zbytky byly zbořeny koncem 60. let a na jejím místě byla postavena jednoduchá moderní obřadní síň. Na konci 20. století byl hřbitov rekonstruován, úpravy byly dokončeny v roce 1993. Tehdy byl opatřen kovanou vstupní branou se židovskou symbolikou. Hřbitov je doposud používán. Je volně přístupný mimo soboty a židovské svátky.
Milan Caha, 23.4. 2010