Примечательное здание на Сусанинской площади было построено в 20-х годах XIX века. Проект в стиле ампир с колоннами, лепниной и античными образами создал архитектор Петр Фурсов. Долгое время здесь размещался городской караул и содержались под стражей нарушители воинской дисциплины. Сегодня помещения бывшей гауптвахты занимает отдел Костромского областного музея-заповедника. Две экспозиции рассказывают военную историю Костромы и России с древних времен до наших дней.