Karadağ’ın birçok yerinde Binbir Kilise Bölgesini koruyan kale kalıntıları bulunmaktadır. Bunlardan en önemlisi Karadağ’ın Kılbasan yönündeki yükseltisi üzerindeki Başdağ Kalesi ve Askeri tesisleri. Başdağ; kuzey- güney yönünde iki tepe ile bunların arasındaki bir düzlükten ve krater çukurundan oluşmakta.

Esas kale; Kılbasan yönüne ve Mahalaç yönüne hakim olan kuzey tepesi üzerinde yer almakta. İri kesme taşlarla inşa edilmiş olan kalenin kuzeyde iki, doğuda bir burcu bulunmakta. Burçlar çokgen ve yuvarlak planlı. Kalenin kuzey ve doğu duvarlarına bitişik odalar, iç avluda da büyük bir sarnıç yer almaktadır.

Güney tepesi üzerinde daha kaba taşlarla inşa edilmiş, düzensiz planlı, tahkim edilmiş bir yapı görülmekte. İki zirvenin arasındaki düzlükte de ortada avlusu, yanlarda yedişer odası olan, kare planlı, büyük bir yapının kalıntıları bulunmakta. Başdağ’da bulunan askeri yapılar; genellikle M.S. 2.-3. yüzyıllara tarihlendirilmekte.

İki zirvenin arasındaki krater çukurunun içinde elips şeklinde 28.70 m. çapında büyük bir havuz yer almakta.  Havuz kesme taşlarla çevrilmiştir. İki bölümden oluşan havuzun elips formundaki yapıyla bağlantılı olarak kuzeyde, dikdörtgen planda 11.90×5.90 m. ebatlarında daha küçük bir havuz bulunmakta. Karadağ; kaynak suyu açısından fakir olmasından dolayı, askeri garnizonda bulunan askerlerin su ihtiyaçlarını karşılamak amacıyla bu devasa havuz yapılmıştır. Yaklaşık 3 metre derinlikte olan havuz kış mevsiminde yağan kar ve yağmur suları ile doldurulmakta, yaz mevsiminde de burada biriken su, ihtiyaca göre kullanılmakta. Karaman Müzesi tarafından 2014 yılında, havuz ve çevresinde Arkeolojik temizlik çalışması yapılmıştır. Çalışmalar neticesinde, havuz ve çevresi ziyaretçilerin beğenisine sunuldu.