Ergani çok eski bir şehir olup kuruluş tarihi belli değildir. Yunus Peygamberin kurduğu rivayet edilse bile bu rivayet çok esaslı bir kaynağa dayandırılmamıştır. Ergani Dicle nehrinin sağ kıyında 10 km uzaklıkta 1526 m yükseklikte yarı sönmüş Zülkifil dağının derin bir sel yatağına bakan güneydoğu yamacı üzerine kurulmuştur. denizden yüksekliği 955 m dir. Diyarbakır Elazığ karayolunun 58. kilometresinde yer alan Ergani'nin yüzölçümü 1559 km dir. Belli başlı 3 Akarsuyu olan Ergani'nin çevresi oldukça verimli kaynaklara sahiptir. İlçe merkezinde 5-6 m derinlikte su çıktığı gibi derin sondaj çalışmaları sonunda 50 m civarında zengin kaynaklara rastlanmaktadır. Kemaliye , Saray, Namık Kemal, Kemer taş, Şirin evler , Fevzi Çakmak, İsmet Paşa ve Aziziye mahallesi olmak üzere 8 mahallesi vardır.