Haymana'nın farklı bölgelerinde bulunan tarihi kalıntıların incelenmesi ve kazılarda çıkartılan eserler, bölgede Hitit, Frig, Roma ve Bizans uygarlıklarının varlığını gösteriyor.
Bölge, Anadolu'nun Türkleşmesinden sonra sırayla Selçuklu ve Osmanlı devletlerinin yönetimine girdi.
Haymana adının verilişi hakkında iki söylence mevcuttur. Birinci söylenceye göre, Haymana kelimesi "mera, otlak veya yeşillik" anlamına gelir. İkinci söylence ise Selçuklu Türklerinin Anadolu'yu Türkleştirmesiyle ilgilidir. Kaya Aşireti'nin lideri Ertuğrul Bey'in annesi Hayme Ana'nın adı, öldüğünde kaplıca yakınlarına gömülmüştür. Aşiretin bu bölgeye yerleşmesi sonrasında, kaplıca ve çevresine Hayme Ana adı verilmiştir. Bu isim zamanla Haymana olarak değişmiştir. 1296 yılında Ankara Valisi Abidin Paşa tarafından ilçenin merkezi olarak seçilmiştir.
Haymana'daki tarihi eserlerden biri olan Gavurkale, Ankara'nın 60 km güneybatısında yer alır ve Atatürk'ün emriyle 1930 yılında Alman arkeolog Von Der Osten tarafından kazılmıştır. Kül Höyük, Oyaca kasabası içinde orta büyüklükte bir höyüktür.
Haymana ilçesi, tarihi kaplıcaları ile de ünlüdür. Kaplıcaların tarihi Hitit dönemine kadar uzanmaktadır. İlçede her yıl Haziran ayı içinde "Uluslararası Haymana Kaplıca Festivali ve Kültür Şenlikleri" düzenlenmektedir.