1953'te Ohio'nun Akron şehrinde doğdu. İlk önemli filmi, 1984 yapımı Stranger Than Paradise'tır. Hayal kırıklığı içindeki üç gencin New York'tan Cleveland'a oradan da Florida'ya tuhaf yolculuğunu anlatan film, Hollywood'a özgü film yapımı geleneklerinin pek çoğunu yıkmasının yanında, bugün de modern bağımsız sinemanın dönüm noktalarından biri kabul edilmektedir.

Jarmusch 1986'da Down by Law'u yazdı ve yönetti. Film New Orleans'ta bir hapishanedeki Tom Waits, John Lurie ve Roberto Benigni'nin canlandırdığı üç mahkumu anlatır. Yönetmen bu erken dönem çalışmaları nedeniyle ABD'li yol filmleri trendinin etkili bir temsilcisi haline geldi.

1995'te Jarmusch, 19. yy'da Batı Amerika'da geçen ve başrollerini Johnny Depp ile Gary Farmer'ın paylaştığı Dead Man'i çekti. Film eleştirmenlerce genel olarak 'acid western', bir 'anti-Western' ve 'post-Western' olarak tanımlandı. Ayrıca eleştirmenler Batı Amerika, şiddet ve özellikle Amerikan yerlisi portrelerini başarılı bularak filmi övdü. Dead Man, Robby Müller tarafından siyah beyaz olarak çekildi ve müzikleri Neil Young tarafından bestelendi ve icra edildi.

Jarmusch'un en önemli projelerinden biri, seri kısa filmlerden oluşan Coffee and Cigarettes'tir. Filmin temelini oluşturan ve Roberto Benigni ile komedyen Steven Wright'ın oynadığı altı dakikalık kısa film 1986'da Saturday Night Live'de yayınlandı. Yönetmen üç yıl sonra aktör Steve Buscemi ile sekiz dakika uzunluğundaki Coffee and Cigarettes: Memphis Version'u çekti. Müzisyenler Tom Waits ile Iggy Pop'un rol aldığı 12 dakikalık Coffee and Cigarettes: Somewhere in California ise 1993'te çekildi.

1993'te Jarmusch filmle ilgili planlarını, 'Kurgulanmayı bekleyen iki bölüm daha çektim ve iki ya da üç bölüm daha yazdım. Her ne kadar niyetim bunların ayrı ayrı kısa filmler olmasıysa da, on iki ila on dört civarında bölüm çekip bunları video gösterimi için bir araya getirmeyi planlıyorum.' sözleriyle açıkladı.Filmler 2004'te Coffee and Cigarettes adıyla gösterildi. Film (birincisi 1986 yapımı Coffee and Cigarettes, ikincisi Memphis Version ve üçüncüsü Somewhere in California olmak üzere) on bir bölümden oluşur. Oyuncular arasında The White Stripes'tan Jack ve Meg, Cate Blanchett, RZA, GZA, Bill Murray, Steve Coogan ve Alfred Molina da vardır.

2005 yapımı Broken Flowers filminde Bill Murray, Jeffrey Wright, Sharon Stone, Tilda Swinton, Frances Conroy ve Julie Delpy oynamıştı. 2013 yapımı Sadece Aşıklar Hayatta Kalır'da (Only Lovers Left Alive) modern bir vampir hikayesi anlatan Jarmusch, 2017'de Paterson'ı çekti. Adam Driver ve Golshifteh Farahani'nin başrolünde oynadığı filmde küçük bir kasabada yaşayan bir otobüs şoförünün sıradan hayatına izleyicileri ortak etti.