Музей расположен на гребне Горячей горы — уникальном памятнике природы и культуры. В экспозиции представлены различные древние, средневековые и более поздние каменные исторические изваяния, среди них: ранний христианский крест, стела с изображением древа жизни IV тысячелетия до н. э., орнаментированная деталь древнего дольмена, скифские и половецкая статуи, редчайшая и самая восточная боспорская плита с греческой надписью, средневековый жертвенный камень с изображениями животных и другие.