Из стадии проектирования не вышла самоходная установка Marder III, вооруженная 75-мм пушкой KwK 42 с длиной ствола в 70 калибров, аналогичной используемой на тяжелом танке «Пантера».
На базе САУ Sd.Kfz.138 Ausf.М был разработан бронетранспортер для перевозки шести солдат. Он представлял собой самоходную установку с демонтированным вооружением, в рубке которой и перевозился десант. Амбразуру пушки при этом закрыли. После изготовления одного прототипа и его испытаний машину вновь переделали в самоходку.
Истребители танков Marder III (как, впрочем, и Marder II) начали поступать на вооружение Вермахта в июле 1942 года. Первым подразделением, получившим новые боевые машины, стала 1-я батарея противотанкового дивизиона 13-й танковой дивизии, воевавшей на южном фланге Восточного фронта. Вслед за ней «мардеры» появились в 3-й и 24-й танковых дивизиях.
По штату 1942–1943 годов такой дивизион (Panzerjäger Abteilung) должен был включать в себя три батареи по 13 машин в каждой. В противотанковом дивизионе моторизованной дивизии «мардерами» вооружались только две батареи, а одна — буксируемыми орудиями. Дивизиону образца 1943 года полагалось иметь 51 САУ: по 14 машин в каждой батарее плюс три САУ в штабном взводе. Впрочем, до полного штата ни одно подобное подразделение, по-видимому, никогда укомплектовано не было.
Одновременно с Восточным фронтом состоялся боевой дебют противотанковых установок «Мардер» в Северной Африке. С июня по октябрь 1942 года Африканский корпус генерала Роммеля получил 66 САУ этого типа, в основном Marder III с 76-мм пушкой PaK 36 (r). Во время сражения у Эль-Аламейна «мардеры» имелись в составе 33-го противотанкового дивизиона 15-й танковой дивизии и 39-го противотанкового дивизиона 21-й танковой дивизии.
В течение 1942 года выработалась тактика применения самоходных противотанковых дивизионов. В наступлении танковой дивизии самоходные противотанковые орудия всегда располагались в боевых порядках атакующих частей. Они использовались для отражения контратак танков противника, а также для поддержки атаки своих танков. Самоходные противотанковые орудия, двигаясь в боевых порядках танков, вели огонь прямой наводкой по появляющимся целям противника.
Самоходные противотанковые орудия часто применялись для быстрого закрепления захваченных рубежей, с которых они отражали атаки танков противника, располагаясь на замаскированных позициях и ведя огонь с близких дистанций. Кроме того, самоходные истребители танков использовались для создания подвижной противотанковой обороны на флангах наступающих частей.
В обороне танковой дивизии истребители танков использовались в качестве подвижного противотанкового резерва командира дивизии на танкоопасных направлениях, а также для поддержки контратак.
При отступлении танковой дивизии противотанковые САУ использовались в составе арьергарда для отражения танковых атак противника, а также для поддержки контратак, проводимых с целью обеспечения отхода на промежуточные рубежи.
Принцип применения самоходных противотанковых орудий в моторизованной дивизии оставался тем же, что и в танковой дивизии, с той лишь разницей, что здесь истребители танков взаимодействовали с дивизионом штурмовых орудий, а не с танками.
Самоходки Marder III Ausf.Н начали поступать в противотанковые дивизионы в конце 1942 года. На Восточном фронте первым соединением, получившим в декабре 1942 года эти боевые машины, стала моторизованная дивизия «Лейбштандарт СС „Адольф Гитлер“». Самоходные орудия этой модификации приняли участие в операции «Цитадель», в том числе в 50-м противотанковом дивизионе 9-й танковой дивизии. В 1943 году «мардеры» этой модификации воевали также в Тунисе в 10-й танковой дивизии и в Италии — в 90-й моторизованной.
С лета 1943 года и вплоть до поступления в войска самоходок Hetzer основой противотанковых дивизионов стали САУ Marder III Ausf.М. Последние, по мере поступления «хетцеров», передавались из танковых и моторизованных дивизий в пехотные, в составе которых они и провоевали до конца войны.
Единственной иностранной державой, получившей САУ «Мардер», стала Словакия. В начале 1944 года словацкой армии передали 18 самоходок Marder III Ausf.Н.
