Ardahan’da, Çıldır’a 15 kilometre uzaklıktaki Yıldırımtepe köyünün bir buçuk kilometre kuzeydoğusunda Karaçay Vadisi’nde, üç yanından akan Karaçay’ın sınırladığı sarp bir yarımada üzerinde kurulmuştur. Bu Ortaçağ kalesinin yapım tarihi tam olarak bilinmemekle birlikte bölgedeki diğer kalelerin mimari özellikleri de göz önüne alındığında Urartular tarafından yapıldığı düşünülmektedir. Tarihi kaynaklarda Çıldıran Kalesi, Kal’a-ı Şeytan, Kaçiş, İblis Hisarı olarak da geçer. Ulaşımının Çıldır yönünde tek bir yoldan sağlandığı Şeytan Kalesi’nin adını, eski Türkçede şeytan anlamına gelen alviz (albız) kelimesinden aldığı bilinmektedir. Kaleye bu adı verenlerin ise kendi yurtlarını terk ederek buraya yerleşen Albız Kalesi halkı olduğu söylenmektedir.
Şeytan Kalesi, Anadolu’daki kalelerden çok faklıdır. Kaleler genelde bir dağın üzerinde kurulmuş ve şehirler etrafında gelişmiştir. Bazı yerlerde de şehirler surlar içine alınmıştır. Şeytan Kalesi’ni farklı kılan özelliği ise etrafını çok yüksek ve sarp kayalıkların kuşattığı daracık vadinin içindeki bir tepeciğin üzerinde kurulmuş olmasıdır. Kaleyi çevreleyen bu yalçın kayalıklar yüksekliği iki metreyi bulan sur duvarlarıyla birleştiğinde kaleyi çok daha korunaklı bir konuma getirmiştir. Kalenin bulunduğu bölge tarih boyunca büyük güçlerin ve medeniyetlerin egemenlik savaşlarına sahne olmuştur. Gelen her medeniyet de burada kendi eserlerini bırakmıştır. Medler, Persler, Makedonyalılar, Romalılar, Sasaniler, Selçuklular, İlhanlılar, Karakoyunlular, Akkoyunlular, Safaviler ve Osmanlılar bölgede yerleşmişler, kaleyi kullanmışlar, onarmışlar ve çeşitli ilaveler yapmışlardır.
Şeytan Kalesi’nin yarısı günümüze kadar ulaşmayı başaramamıştır. Surların içinde bir şapel, erzak deposu ve su sarnıcı bulunduğu sanılmaktadır. Ayrıca suya inen gizli bir su yolunun varlığı günümüzde yıkıntı halinde olan izlerden anlaşılmaktadır. Şeytan Kalesi etrafında oluşan bir efsane, kaleyi günümüzde define avcılarının hedefi haline getirmiştir. Bu efsaneye göre bu kalenin benzeri iki adet kale de Gürcistan sınırları içinde bulunuyormuş. Bu bölgede yaşayan krallardan birinin çok sevdiği tek kızı amansız bir hastalığa yakalanmış ve ne yapılırsa yapılsın kurtarılamamış. Kızını çok seven kral onun tüm hazinesi ile birlikte bu üç kaleden birine gömülmesini istemiş. Bunun için kendi askerlerinden çok güvendiği birkaçını bu işle görevlendirmiş. Askerler her üç kalede de mezar hazırlamışlar ve kralın kızını birine gömmüşler. Geriye döndüklerinde kral askerlere kızını nereye gömdüklerini kendilerinden başka kimsenin bilip bilmediğini sormuş. Zavallı askerlerden “hayır” cevabını alınca da geride mezarın yerini bilen kimse kalmasın diye tümünü öldürtmüş. Define avcıları, işte bu efsanedeki hazineyi bulmak için kalenin içini delik deşik etmiştir.
