De oude begraafplaats is rond 1731 in gebruik genomen en ligt naast de voormalige pastorie van de Grote Kerk in het centrum van Hoogeveen.
Na de oorlog was vrijwel de gehele joodse bevolking van Hoogeveen gearresteerd en via werkkampen naar vernietigingskampen gedeporteerd. In 1948 werd de synagoge verkocht.