Ankara Kalesi'nin ne zaman yapıldığı tam olarak bilinmemekle birlikte hititler döneminden kaldığı düşünülmektedir. Ancak bu bilgi hiçbir kazı yada araştırma çalışması sonucunda onaylanmamıştır.
Romalılar, Bizanslılar, Selçuklular tarafından bir çok kez onarılan Ankara Kalesi, iç ve dış kaleden oluşmaktadır. Dış kalenin 20'ye yakın kulesi vardır. Dış kale esk iankara şehrini çeviren duvarlardan meydana gelmektedir. İç kale yaklaşık 43.000 km2'lik bir alanı kaplamaktadır.
14-16 m yükseklikteki duvarların üzerinde çoğu 5 köşeli 42 kule vardır.
Kale tarih içinde çeşitli dönemler yaşamıştır. İ.Ö. 2. yy. başında Romalıların Galatya'yı ( Ankara yöresi) işgalinden sonra kent büyüyerek kale dışına taştı. Roma İmparatoru Caracaila İ.S. 217' de kalenin surlarını onarttı. 222 - 260 arasında İmparator Severus Alexander ve Velerianus, Perslere yenilince kale kısmen tahrip edildi. 7. yy ' ın 2. yarısından sonra Romalılar kaleyi onarmaya başladı. İmparator Konstantinos 688'de dışkaleyi yaptı. IV. Leon ise 740' da kale duvarlarını onartırken içkale surlarını da yükselmiştir. İmparator Nikephoros ve İmparator Basileios da 9.yy' da kaleyi onarttılar.
Ankara Kalesi 1073' de Selçukluların eline geçti. 1101' de Haçlı komutanı Raimond tarafından alınan kale, 1227' de bir kez daha Selçukluların eline geçti. Selçuklu Sultanı 1. Alaeddin Keykubat' ın onarttığı kaleye Sultan II. Keykavus da 1249'da bazı ekler yaptırdı. Osmalılar döneminde onarım görmeyen kalenin surlarını Mısır Valisi M.Ali Paşa' nın oğlu İbrahim Paşa 1832' de onarttı. Surların bazı yerlerinde rastlanan sütun başlıkları, lahit ve heykel parçaları, onarımlarda toplama malzemeden yararlanıldığını gösterir.
Bugün kale içindeki değişik dönemlerden kalmış birçok eski Ankara Evi bulunmaktadır. Kaleiçi Mahallesi'nde bulunan eski Ankara evleri, sur duvarları ile çevrili dar ve dik bir alanda konumlandıkları için, planları dar alanlardan en çok faydalanmayı gözeterek yapılmış.
İki ya da üç katlı olarak ahşap, kerpiç ve tuğladan inşa edilmişler. Arazi yapısının düz olmaması, alt kat planlarının da düzgün olmamasına yol açmış, ama üst katlar cumba tipindeki çıkıntılarla düzgün bir plana kavuşturulmuş.
Alt katlar kışlık olarak, kalın duvarlı ve küçük pencereli yapılmış, üst katlar ise yazlık olarak ince duvarlı ve havadar yapılmış. Geniş saçaklar ve "Cihannüma" denilen yazlık odalar Ankara evlerinin belirleyici özelliklerinden. Ahşap tavan süslemelerinde geometrik kompozisyonlar kullanılmıştır.
Bazıları çeşitli hizmetlerde kullanılmaktadır. 17.yüzyılın ortasına doğru, 1640 yılında Ankara' ya gelen Evliya Çelebi, kenti ve kentteki yaşamı ayrıntılı biçimde anlatmaktadır.
Evliya Çelebi önce ünlü Ankara Kalesinden söz eder.
"Ankara'nın yüksek bir dağın tepesine dört kat beyaz taştan yapılmış sağlam bir kalesi vardır.
Kale iç içe üç kat surlarla çevrilidir. İç kalenin çevresi kayalıktır. Bu yalçın kayalardan kaleye tırmanmak çok zordur. İç kalede topları çeşitli silahlar, cephane ve 600 ev bulunur. İç Kale aşağılarda ikinci sıra surlarla çevrilidir.
Dağın eteklerinde ise üçüncü sıra dış surlar yer alır. Bu dış surlarla tüm kent güvenlik altına alınmıştır."