Yapımcı bir baba ve opera sanatçısı bir annenin oğlu olan Leone, Roma'da doğdu. 18 yaşından itibaren yönetmen asistanlığı ve figüranlık yapmaya başlamıştır. Vittorio De Sica'nın unutulmaz filmi Bisiklet Hırsızları'nda da küçük bir rol aldı. 1951'de Qua Vadis 1959'da Ben Hur filmlerinde ikinci asistan olan Leone, ilk yönetmenlik deneyimini 1961'de Colossus Rhodes adlı filmle yaşadı. Bir Avuç Dolar, Birkaç Dolar İçin, İyi Kötü Çirkin üçlemesiyle hem western türünü hem de Kurusawa'nın samuray filmlerini sentezleyen Leone kendine has bir üslup yarattı. Bir Zamanlar Batı'da ve Yabandan Gelen Adam (Giu La Testa) gibi filmleriyle spagetti western'in en iyi örneklerini vermeye devam etti.
Ölmeden önce çektiği son film olan Bir Zamanlar Amerika'da filminde de epik bir anlatım kullanmıştır. Robert De Niro gibi usta bir aktörün performansının zirvesine ulaşmasını sağlayan Leone, başka projelerin hazırlığı içindeyken 1989'da Roma'da geçirdiği kalp krizi sonucu vefat etti.