Во время Сталинградской битвы в 1943 году здесь находилось кладбище немецких военнослужащих. Сегодня кладбище состоит из трёх разделённых частей: советской, немецкой и румынской.

После подписания в декабре 1992 года межправительственного соглашения между Российской Федерацией и Германией об уходе за военными могилами Народный союз Германии по уходу за военными захоронениями по поручению правительства ФРГ построил здесь в 1995 году сборное кладбище для захоронения солдат, погибших во время боёв за Сталинград. 15 мая 1999 года состоялось открытие военно-мемориального кладбища в Россошках. Содержание и уход за этим кладбищем осуществляется за счёт пожертвований и добровольных средств немецких граждан.