Veli Ballı, 6 çocuklu bir ailenin ferdi olarak 1949 yılında Muş’un Varto ilçesinde doğdu. İlk ve orta öğretimini Varto’da bitirdi. 1966 Varto Depremi’nden sonra devlet tarafından Aydın’a gönderildi. Lise öğrenimine burada başlayan Veli Ballı daha sonra Sivas’a gelerek Endüstri Meslek Lisesi’ne kayıt oldu ve öğrenimini burada tamamladı. Aynı dönemde Sivas Demir Spor Kulübünde atletizm hayatına başladı. Daha sonra atletizm hayatını Ankara’da sürdürdü. 1970 ’de yıldızlar kategorisi 1500m Türkiye rekorunu kırdı. Daha sonra uzun mesafe koşularına geçti. 1972’den itibaren maraton koşmaya başladı. Ününü bu dalda yaptı. 1977 yılında ise Balkan şampiyonu olan Veli Ballı, Boston Maratonu’nda da 2. oldu.1976'da Lahor (Pakistan) Maratonu'nda 2 saat 11 dakika 30 saniyelik derecesi ile birinci gelirken, bu derecesiyle dünya sıralamasında 6.lığa yükselen Ballı, aynı yıl Türkiye’de yılın sporcusu seçildi. 12 yıl boyunca kırılamayacak Türkiye rekorunu da ele geçiren Veli Ballı, 1977 yılında Boston (Amerika) Maratonu'nda ikinci, 1978'de Hollanda, 1979 yılında Atina Maratonu'nda da birinci oldu. 1977 yılında Ankara'da Balkan Şampiyonluğu'nu yakalayan Ballı, 1981 yılında Avrasya Maratonu'nda almış olduğu ikincilikle (2.36.53) pistlere veda etti