Marmara Üniversitesi, Atatürk Eğitim Fakültesi Müzik Eğitimi mezunu olan Ali Yaylı, 1975'te sanat hayatına başladı. DAST, Devrimci Ankara Sanat Tiyatrosu'nda tiyatro eğitimi alıp, Erkan Yücel ile birlikte çalıştı. 1984 yılından sonra sinema filmleri ve dizilerde de rol almaya başladı.