Ankara’da Gazi Eğitim Enstitüsünün açılmasının ardından İngilizce öğretim yapan bir lisenin açılmasının Atatürk tarafından istenmesi üzerine okul için uygun bir bina olmadığından lisenin Gazi Eğitim Enstitüsü binası içinde açılmasına karar verilmiştir. Adını bizzat Atatürk’ün verdiği Gazi Lisesi, orta kısım dâhil olmak üzere 1932-1933 öğretim yılında bu binada eğitim ve öğretime başlamıştır. Ankara’da o dönemde; Ankara Lisesi ve yeni açılan Birinci Ortaokulu bulunduğundan, Gazi Lisesi, Atatürk’ün isteği üzerine kolej olarak İngilizce öğretime başlamış ve İngiltere’den iki profesör öğretmen olarak görev yapmak üzere getirtilmiştir. 1936 yılından 1971 yılına kadar klasik öğretim yapılan okulda, 1971-1972 öğretim yılından itibaren modern matematik ve fen eğitimi uygulanmaya başlanmıştır. Lise, dört yıl kadar Gazi Eğitim Enstitüsü binasında faaliyette bulunmuş, zamanla öğrenci artışı nedeniyle yeni bir lise binasının yapılmasına karar verilmiştir. Bu durum üzerine İtfaiye Meydanı’nda bugünkü binanın yapılmasına başlanmış ve bina 1936-1937 eğitim ve öğretim yılına yetiştirilmiştir.

Gençlik Parkı’nın karşısında bulunan Hergele Meydanı’nın doğusunda inşa edilen Gazi Lisesi Mimar Ernest Egli’nin tasarımıdır. “L” biçimli bir kütleye sahip olan yapı, yarım bodrum üzerine birinci kısım iki katlı, ikinci kısım asma katı ile birlikte dört katlı olarak inşa edilmiştir.

“L” biçimli kütlenin kuzey-güney doğrultusundaki uzun kolunun ilk iki katında derslikler, bodrum ve zemin katında; kantin, yemekhane, küçük bir sahne, öğrenci toplantılarının yapıldığı bir oda ve Gazi Lisesi spor kulüplerinin yer aldığı küçük bir bölüm bulunmaktadır. Güneydeki kısa kolunda ise alttan üste doğru sırasıyla yönetim ve öğretmenler odası, fizik, kimya ve biyoloji laboratuvarları, müzik odası, resim ve sanat atölyesi, amfi ve kütüphane birimleri yerleştirilmiştir. Buraya zamanla bilgisayar odası da eklenmiştir. Yarı bodrum olan alt katta ise küçük bir spor salonu, servis mekânları ve depolar yer almaktadır.

Yapıya, güneybatı köşesinde cephenin geriye çekilmesiyle oluşan sadece üstü kapalı yuvarlak bir sütunla desteklenen ilginç ve yüksek mekândan girilir. Küçük bir holden hemen sonra gelen ana merdiven üst katlara ulaşımı sağlar. Dersliklerin yer aldığı bloğun kuzey ucunda ikinci bir merdiven daha bulunmaktadır. Merdivenlerin yer aldığı bu kuzey bölümde ayrıca yapıdan üç metre doğuya doğru uzanan bir kule bulunmaktadır. Bu kule katlarında edebiyat, tarih, coğrafya, felsefe grubu, matematik, fizik, kimya, biyoloji, yabancı dil, müzik ve resim öğretmenlerinin zümre başkanlık odaları yer almaktadır.

Yapının cepheleri oldukça yalın bir anlayışla düzenlenmiştir. Batı cephesinde anıtsal giriş ile kütlenin yuvarlatılmış köşeleri hemen dikkat çekmektedir. Bundan başka dersliklerin yer aldığı bloğun doğu cephesinde bir kat yüksekliğindeki pertik düzenlemesi ise bu cepheyi zenginleştiren bir mimari öğe olarak hemen fark edilmektedir.

Şair Arif Nihat ASYA ve Cahit KÜLEBİ bu lisede uzun yıllar öğretmenlik yapmıştır. Gazi Lisesinden mezun olan ve Gazi Lisesinde Öğretmenlik yapmış olan çok sayıda bilim, sanat, siyaset ve devlet adamı bulunmaktadır.