Holm, 12 Eylül 1931'de, Essex'teki Goodmayes'te, Essex akıl hastanesinde çalışan İskoç ebeveynlerin çocuğu olarak Ian Holm Cuthbert adıyla dünyaya geldi. Annesi Jean Wilson (kızlık soyadı Holm) bir hemşire, babası Doktor James Harvey Cuthbert ise bir psikiyatristti. Genç Holm, Londra'da büyütüldü. Yedi yaşındayken 'Sefiller' oyununu izlemesinden ilham alarak oyunculuğa ilgi duydu. Holm, Royal Academy of Dramatic Arts'ta eğitim gördü ve 1950'de mezun olduktan sonra Royal Shakespeare Company'ye katıldı. Burada, yelpazesi ve zahmetsiz tarzı neredeyse Shakespeare'in tüm repertuarını oynamasına izin veren bir aktör olarak ortaya çıktı. 1959'da sahnedeki partneri Laurence Olivier, bir 'Coriolanus' yapımındaki bir kılıç dövüşü sırasında Ian Holm'i yaraladı. Holm'ün parmağında hala bir yara izi vardı.
1965'te Holm, televizyondaki ilk çıkışını, dört Shakespeare oyununun bir üçleme olarak özetlendiği, filme alınmış bir tiyatro prodüksiyonu olan BBC'nin The Wars of the Roses (1965) dizisinde III. Richard rolüyle yaptı. 1969'da Holm, The Bofors Gun (1968) filmiyle ilk BAFTA Film Ödülü En İyi Yardımcı Erkek Oyuncu ödülünü kazandı, ardından film ve televizyondaki sayısız çalışması için ödüller ve adaylıklar geldi. 1981'de, en bilinen rollerinden biri olan Ateş Arabaları (1981) filmindeki Sam Mussabini rolünü oynadı ve bu rolüyle En İyi Yardımcı Erkek Oyuncu dalında Oscar'a aday gösterildi. 1990'ların sonunda, Atom Egoyan'ın Başka Bir Dünya (1997) filmindeki avukat Mitchell rolüyle büyük beğeni topladı ve sonraki on yılda bir dizi yüksek profilli Hollywood filminde rol aldı: Beşinci Güç (1997)'te Rahip Vito Cornelius, Yüzüklerin Efendisi: Kralın Dönüşü (2003)'te Bilbo, Göklerin Hakimi (2004)'nde Profesör Fitz ve Eve Dönüş (2004)'te Zach Braff'in canlandırdığı karakterin babası Gideon rolleri bunlardan bazılarıydı. Hobbit dışındaki son film rolü, Ratatuy (2007)'de Skinner'ı seslendirmesi oldu.
Ian Holm'ün, dört evliliğinin ilk ikisinden ve ek bir ilişkisinden, üç kız ve iki erkek olmak üzere beş çocuğu vardı. 1989'da Holm, Britanya İmparatorluk Nişanı (CBE) Komutanı olarak onurlandırıldı ve 1998'de drama hizmetleri nedeniyle şövalye unvanı aldı. Haziran 2020'de Londra'da hayatını kaybetti.