Ankara, Hitit ve Frig uygarlıklarının, Bitinya Krallığı'nın, Pers İmparatorluğu'nun, Makedon Kralı Büyük İskender'in, Roma ve Bizans imparatorluklarının hâkimiyetinde kalmıştır.

Müslüman Arapların İstanbul seferleri sırasında da iki defa Arap istilasına uğramıştır. Malazgirt Savaşı'ndan sonra 1071 yılında Türklerin yönetimine giren kent, Haçlı Seferleri sırasında yeniden Bizanslıların eline geçmiştir. Daha sonra tekrar Türk hâkimiyetine giren bu topraklar önce Danışmentliler Beyliği'nin, daha sonra da Anadolu Selçuklu Devleti'nin topraklarına katılmıştır. Candaroğullan Beyliği'nin yönetimine girdikten sonra Orhan Bey zamanında Osmanlı Beyliği topraklarına katılmıştır. İlçe merkezi, 1599 yılında vezir Nasuh Paşa'nın burada bir han yaptırmasıyla oluşmuştur ve adını da bu handan almıştır. Bu han ile aynı tarihlerde yapılan cami ve hamam da ilçede bulunmaktadır.

Nallıhan, Çayırhan ve Uluhan olmak üzere tarihi İpek Yolu üzerindeki üç hanı vardır. İlçede, Emremsultan köyünde 13. yüzyılda yaşamış Yunus Emre'nin hocası Taptuk Emre Türbesi, Taptuk Emre'nin kızı Bacım Sultan Türbesi, Taptuk Emre'nin müritlerinden olan Ömer Şeyh'in ve Şeyh Cafer Sadık'ın türbeleri, Horasan erlerinden Hasan Dede Türbesi gibi tarihi mekanlar da bulunmaktadır.

Nallıhan, doğal güzellikleriyle de ünlüdür. Doğa Koruma ve Milli Parklar Genel Müdürlüğü tarafından korunan alanlar arasında Nallıhan Davutlar Kuş Cenneti, Hoşebe Mesire Yeri (Ardıç Ormanları), Anıt Ağaç (Kaba Ardıç), Yaban Koyunu Yerleştirme Sahası, Yaban Hayatı Geliştirme Sahası, Asarlık Tepeler Tabiat Anıtı, Uyuzsuyu Şelalesi, Soğukkuyu Şelalesi, Bozyaka Göleti, Çamalan Göleti ve Eymir Göleti yer almaktadır.

İlçede Nallıhan ve Aladağ çayları gibi iki önemli akarsu, Andız Dağı, Sarıçalı Dağı, Karakiriş Dağı ve Sündiken Dağı gibi dağlar ve Andız, Bozarmut, Beydili, Çalı, Sarsın ve Kozlu yaylaları yer almaktadır.