1293 yılı Devlet Salnamesine göre; Erzurum’da o dönemde 20 Rüştiye Mektebi ve 445 talebe bulunmakta idi.

1889 yılından itibaren ise Osmanlı Devleti’nde mali mülahazalarla, idâdî okulu bulunan yerlerdeki rüştiyelerin tahsisatı kesilerek, idâdî binalarının yapımına tahsis edilmiş ve rüştiye öğretimi de idâdîlerin bünyesine alınmıştır.

İdâdîlerin ülke sathına yayılması için, 1885 yılında hızlı bir çalışma yapılmış Erzurum İdâdîsinin inşası için, mahalli makamlarla temasa geçilmiştir. Bu tarihlerde mimari tarza bir hayli önem verildiğinden binaların yapımında titizlikle üzerinde durulmuştur.

Erzurum Lisesi, 1889 yılında Erzurum İdâdîsi adı ile kurulmuştur. Erzurum Lisesi kurulduğunda tüm bölgeye hitap eden İdâdî-Leyl-i Meccani (Parasız Yatılı) bir okul olup günümüze kadar dört ayrı binada eğitim ve öğretim faaliyetine devam etmiştir. Abdi Namık Bey okulun ilk müdürü olarak görev yapmıştır. Erzurum Lisesi ilk kurulduğunda (idâdî zamanında), birinci sınıfı Fransızca bilenler ve bilmeyenler müteşekkil olunan iki şube halindeydi. Zamanın Erzurum Maarif Müdürü Tevfik Efendi, kısa sürede Fransızca bilmeyenleri de bilenlerin seviyesine yükselttirerek, bu iki şubeyi birleştirmiş, tek şube haline getirmiştir. Daha sonra beş sınıflı olan idâdîye 1891 yılında, Mülki Rüştiyenin son iki sınıfı da nakil ve ilave edilerek, idâdî yedi sınıflı bir mektep haline getirilmiştir. Okulun beş yıllık döneminden mezun olanlara “İdâdî Şehadetnamesi” son sınıftan mezun olanlara da”Mülâzemet Rüsulu” verilmiştir. Mektep ilk mezunlarını 1895 yılında vermiştir.

Erzurum Lisesi öğretmen ve öğrencileri, 1914-1918 yılları arasında, 1. Dünya Savaşı’nda çeşitli cephelerde savaşmışlar, bazıları şehit olmuştur. Ayrıca Erzurum Lisesi öğretmenlerinden Ahmet SOMUNOĞLU da kahraman bir asker olarak bilinmektedir.

1924 yılında Mustafa Kemal ATATÜRK Erzurum’a gelişinde okulu ziyaret etmiştir. 1925-1936 yıllarında Erzurum Müstahkem Mevkii Hastanesi olarak hizmet veren bina, onarım sonrası askeri levazım hizmetleri için kullanılmıştır.

Erzurum Lisesi’nin Şair Nef’i binasından taşınmasının ardından bina, Atatürk Üniversitesi’nin kuruluşunda üniversite binası, daha sonra ise Erzurum Ortaokulu olmuştur.

1927 yılında Nene Hatun Kız Lisesi olarak hizmet veren binaya taşınan Erzurum Lisesi, 1939 yılına kadar bu binada öğretim faaliyetlerine devam etmiş, 1939 yılında kendi binasına taşınmıştır.

Eski Eserler ve Müzeler Genel Müdürlüğü kayıtlarına göre Erzurum Lisesi binası, Erken Cumhuriyet Dönemi eseri olup, kâgir (taş), kırma çatı ile örtülü, dikdörtgen planlı bir yapıdır.

Binanın inşaatına 1930 yılında başlanmış, 1939 yılında bitirilmiştir.

Ana bina, ek bina, yemekhane, spor salonu, pansiyon, kültür sitesi olmak üzere altı farklı bölümün bir araya gelmesinden okulun toplam alanı oluşmaktadır.

Erzurum Lisesi, 1889 yılında Erzurum İdâdîsi olarak açılmış olup, 1889 ile 1913 yılları arasında Erzurum İdâdîsi, 1913- 1922 yılları arasında sultânî, 1922’den sonra ise Erzurum Erkek Lisesi ve Erzurum Lisesi, 2004 yılında da ismini korumak sureti ile Anadolu lisesi unvanını almıştır.

Kuruluşundan bu yana dört ayrı binada eğitim ve öğretim hizmeti veren Erzurum Lisesi dünden bugüne yetişen nesillerin şahsiyet teşekkülünü üstlenmiş, doğunun en önemli eğitim kurumlarından biridir.