Dès le début de opération Barbarossa, la Wehrmacht ressentit le besoin d'avoir un moyen anti-char mobile qui soit plus puissant que son Panzerjäger I, alors impuissant face aux chars T-34 et KV1. Ils décidèrent alors d'utiliser leur vieux modèles de chars dépassés comme leur PzKW II et PzKW 38, en les réarmant d'un canon de 75 mm ou de 76,2 mm, monté dans une casemate ouverte. Cette improvisation, donna naissance à la série des Marder, qui allait être très prolifique.