Первое собрание экспонатов было выставлено в 1914 году в городской школе. В 1924 году музей занял здание Спасо-Преображенской церкви. Во время Сталинградской битвы коллекция была утрачена практически полностью. Ее остатки несколько раз переезжали во время эвакуации, пока не вернулись в Волгоград в 1954 году. С 1963 по 1973 год в музее работал археолог Владислав Мамонтов, благодаря которому собрание значительно увеличилось. В 1986 году экспозиция была перенесена в здание бывшей Царицынской земской управы, где она находится и сейчас. Постоянные выставки посвящены истории, культуре и традициям народов Волгоградского региона. Также здесь проходят краеведческие чтения, конференции и семинары.