İlkokul ve ortaokulu doğduğu yerde okuduktan sonra Lise tahsilini İstanbul ve Malatya'da tamamladı. 1973 senesinde Ege Üniversitesi İktisat Fakültesi’nden mezun olduktan sonra İstanbul Üniversitesi’nde İşletme dalında master yaptı. 1975-78 arasında, bir kamu kuruluşunda muhasebe uzmanlığı yaptı. 1979 senesinde kendi işini kuran Kocaoğlu, ortak bir girişimle 1986 senesinde toprak sanayii dalında çalışmaya başladı.
CHP gençlik kolları ile başlayan siyaset hayatına SODEP üyeliğiyle devam etti. Ardından 2001-03 döneminde CHP Bornova İlçe Başkan Yardımcılığı yaptı. 28 Mart 2004 seçiminde ise aynı partiden Bornova Belediye Başkanı seçildi. 29 Mart 2009 tarihinde yapılan yerel seçimlere CHP İzmir Büyükşehir Belediye Başkan adayı olarak girdi ve seçildi. Ardından 30 Mart 2014 yerel seçimlerinde %49,6 oy alarak tekrar İzmir Büyükşehir Belediye başkanı seçildi. Aziz Kocaoğlu, Türkegül Kocaoğlu ile evlidir. Çağdaş ve Ulaş adında iki oğlu vardır.
