1856 yılında imzalanan Paris Antlaşması ile Osmanlı Devleti’nin Avrupa Devleti sayılmasının bir gereği olarak, Maarif Nezareti 1860 yılında vilayet, liva (sancak) ve kasabalarda Rüştiye Mekteplerinin açılması için emir vermiştir. O zamanlarda Isparta Livası’nın bağlı bulunduğu Konya Vilayeti’nin merkezinde ve diğer livalarında hiçbir teşebbüs yok iken Isparta Livası Kaymakamı Ali Necip Bey’in gayretleri ile şimdiki millî eğitim müdürlüğünün bulunduğu bina yerine, toplanan 135 bin kuruşla bir kütüphane, kışlık ve yazlık dershaneler ile üç büyük salondan oluşan ahşap bir Rüştiye Mektebi binası yapılmıştır.

Mektebin inşaatı, 1. katı yığma taş, 2. katı kesme köfke taş, 3. katı da ahşap olarak 1861 yılında tamamlanmış ve binanın büyük bir törenle açılışı yapılmıştır. Açılış tarihi bir taş kitabeye işlenerek binanın bir köşesine yerleştirilmiştir. Ancak 1914’te meydana gelen büyük depremde hasar gören binanın 3. katının bazı köşeleri çatlamış ve yıkılmış olduğundan bu kat tamamen alınmıştır. Binanın tamir ve tadilatı esnasında açılışını belirleyen taş kitabe ise bu esnada kaybolmuştur.

Binanın yapımı sürmekte iken, ilk Rüştiye Mektebi, şimdiki Cumhuriyet İlkokulu’nun yerinde Sadrazam Halil Hamit Paşa’nın annesi Ispartalı Hacı Zeynep için 1790 yılında yaptırılan İrfaniye Medresesi’nde 1860 yılında eğitim ve öğretime başlamıştır. Ertesi sene 1861 yılında yapılan yeni bina bitirilmiştir. Okulda “Türkçe Resmi Kitabet, Farsça, Ahlak, Hesap, Hendese, Cebir, Tarih, Coğrafya” dersleri okutulmuştur.

Rüştiye Mektebi’nde 42 sene zarfında birçok talebe subay, adli ve mülki memur, profesör ve öğretmen, pek çok esnaf, sanatkâr ve tüccar yetişmiştir.

Isparta Erkek Rüştiyesi 19 Ağustos 1902 tarihinde altı sınıflı Liva İdâdîsine (Lisesi) 1904 senesinde de son sınıfı lâğvedilerek beş sınıflı liseye dönüştürülmüş, okul müdürlüğüne de Sinoplu Mehmet Tevfik Bey getirilmiştir.

Isparta İdâdîsi olarak varlığını 1905 yılına kadar sürdüren okul, Maarif Vekâleti’nde yapılan değişikler sonucu söz konusu tarihten itibaren Isparta Ortaokulu olmuştur. 1927 yılından itibaren okula kız öğrenciler de alınmaya başlanmıştır.

Binanın yetersiz kalması sonucu 1930 senesinde okulun kuzey cephesindeki 5813 metrekarelik bahçede dört dershaneli binanın inşaatına 1931 yılında başlanılmış ve bu bina 1932 yılında tamamlanmıştır.

Fizik ve kimya laboratuvarları bu binada yer almıştır. Mevcut kütüphanesi, eski mebuslardan Böcüzade Süleyman Sami Bey’in 500 cilte yakın eserini kütüphaneye bağışlaması sonucu bir kat daha zenginlik kazanmıştır.

Isparta Ortaokulundan 1924- 1954 seneleri arasında 2193 öğrenci mezun olmuş ancak bu mezun olan gençler, büyük zorluklarla lise tahsillerini civar illerin liselerinde sürdürmüşlerdir. 1951-1952 öğretim yılında Isparta’da Özel Lise Açma ve Yaşatma Derneği’nin açtığı özel lise 1952 yılında Isparta Lisesine çevrilerek ortaokulla birleştirilmiştir. Isparta Lisesi ilk mezunlarını 1954-1955 öğretim yılının yaz ve güz dönemlerinde vermiştir. Mezun olan öğrenci sayısı toplam 45 olup 15’i fen kolundan, 30’u edebiyat kolundandır. 27 Mayıs 1960 askerî darbesine kadar adı Isparta Lisesi olan okul, darbede şehit olan Ispartalı Teğmen Ali İhsan KALMAZ’ın adını almıştır. 1961-1962 öğretim yılı başından itibaren eski binasından şimdiki binasına taşınmıştır.

1969 yılı Eylül ayına kadar ortaokul ve lise birlikte iken, bu tarihten itibaren ortaokul kısmının Merkez Ortaokulu adı ile (Hilmi Dilmen Ortaokulu) maruf binaya taşınmasıyla Şehit Ali İhsan KALMAZ Lisesi varlığını müstakil lise olarak sürdürmüş, 2005-2006 eğitim ve öğretim yılından itibaren de Anadolu Lisesi olmuştur.