Sokurov, 1951'de Rusya'nın Irkutsk oblastının Podorvikha köyünde doğdu. Babası İkinci Dünya Savaşı gazisi ve askeriye memuru olan Sokurov'un çocukluğu sık sık taşınarak geçti. Bunun sonucunda ilk olarak Polonya'da okula başlayan Sokurov, Türkmenistan'da ortaokul ve lise öğretimini bitirdi.
1968'de Gorky Üniversitesi Tarih bölümüne girdi. Öğrenciliği sırasında üniversitenin televizyonunda ilk olarak teknik yapım asistanı, daha sonra da yapım asistanı olarak görevli olarak çalışmaya başladı. Bu iş sürecinde film ve televizyon teknolojisi hakkında büyük bir deneyim kazanan Sokurov, 19 yaşında yapımcı olarak ilk televizyon programını yaptı. Televizyon için çalıştığı 6 yıllık süreçte birçok film ve canlı yayın programı hazırladı.
1974'te Gorky Üniversitesi Tarih Bölümü'nden mezun olan Sokurov, bir yıl sonra (Alexander Zguridi'nin Belgesel Film Stüdyosu olan) Sovyetler Birliği Devlet Sinematografi Enstitüsü Yapım Bölümü'ne girdi. Başarılı bir öğrenci olarak Eisenstein Bursu kazandı.
1974'te Enstitü'nün yönetimi ve Goskino'nun otoritesi (Devlet Sinematografi Ofisi) ile ters düşmesinden dolayı harici sınavlar geçmek zorunda kalıp, VGIK'ten bir yıl erken mezun olmak zorunda kaldı. Öğrencilik dönemi çalışmaları, şekilcilik ve Sovyet karşıtı fikirler olarak suçlanarak, kabul edilemez sayıldı.
Rus yazar Andrey Platonov'un "Potudan Nehri" ve "Efendi'nin Kökeni" isimli hikâyelerinden esinlenerek yaptığı, mezuniyet tezi olarak hazırladığı ve daha sonra birçok ödüle layık görülen ilk uzun metrajlı filmi "İnsanın Yalnız Sesi", tez olarak kabul edilmedi. Bu zaman sürecinde, otoritelerle arası hiç iyi olmayan ve Sokurov'un çalışmalarını çok takdir eden, Andrey Tarkovski tarafından desteklendi. Sokurov'un Tarkovski'yle olan arkadaşlığı, Rusya'yı terk ettikten sonra da sona ermemiştir.
1980'de Tarkovski'nin tavsiye mektubuyla, ilk uzun metrajlı filmlerinde de çalıştığı Lenfilm tarafından işe alındı. Sokurov aynı zamanda, farklı zamanlarda çektiği bütün belgesellerini de hazırladığı stüdyo olan, Leningrad Belgesel Filmler Stüdyosu için çalıştı.
Leningrad'daki ilk filmleri bile komünist parti liderliğinden ve Goskino'dan olumsuz tepkiler aldı. 1980'lerin ortasına kadar, uzun bir süre filmlerinin hiçbiri halka açık gösterim için sansür kurumu tarafından onaylanmadı.
80'lerin sonuna doğru, ilk uzun metraj ve belgesel filmlerinden birkaç tanesi halka açık gösterim için yayınlandı ve Rus sinema endüstrisini birçok festivalde temsil etti. İlk uzun metrajlı filmi "İnsanın Yalnız Sesi" 1987'de Locarno Uluslararası Film Festivali'nde Bronz Leopar Büyük Ödülü'ne layık görüldü.
Sokurov aynı zamanda radyoda gençler için ticari içeriği olmayan programlara dahil oldu ve Lenfilm Stüdyosu'nda gençlere yönelik yönetmenlik dersi verdi. 1998 ve 1999'da "Sokurov'un Adası" (Rusça: “Ostrov Sokurova”) isimli, sinematografinin modern kültürdeki yeri konusunda yorumların yapıldığı, bir televizyon programı yönetti.
90'ların ortasında çalışma arkadaşlarıyla birlikte, bugün hala devam eden bir süreç olan, video teknolojisiyle haşır neşir olmaya başladı.