Аллея в центральной части города расположена на месте бывшей крепости и устроена здесь еще в первой половине XIX века. Тогда бульвар носил имя Петра I, позже он был расширен и стал именоваться Морским. Тогда же здесь были установлены образцы пушек XVIII столетия и якорь, относящийся к петровской эпохе. Во время Великой Отечественной войны бульвар подвергся значительным разрушениям, но был восстановлен. В рамках реконструкции сюда перенесли памятник Петру Великому и разбили близ него сквер. Сегодня Исторический бульвар является излюбленным местом для отдыха и прогулок горожан.