Cezayir'de, Kabiliye bölgesinde doğdu. İlk ve orta öğrenimini Cezayir'de, yüksek öğrenimini Fransa'da yaptı. Arap dili ve edebiyatı diploması aldı. Strasbourg Üniversitesi'nde başladığı öğretim üyeliğini Sorbonne Üniversitesi'nde sürdürdü. 1961-1991 yılları arasında Sorbonne'da İslam Düşüncesi Tarihi kürsüsünü yönetti. İslami düşüncenin yeni bir anlayışla ele alınması, İslam ve laiklik, İslam ve diğer dinler arasındaki ilişkiler gibi konular üzerinde çalışan Arkoun'un verdiği yapıtlar arasında Essais sur la pensée islamique (1974, İslam Düşüncesi Üzerine Denemeler, 1974), L'Islam, religion et société (1982, İslam, Din ve Toplum, Maurice Borrmans ile söyleşiler), L'Islam, morale et politique (1986, İslam, Ahlak ve Politika), La pensée arabe (1991, Arap Düşüncesi) sayılabilir. 26 Nisan 1994 tarihinde İstanbul'a gelerek "Avrupa'da Etik, Din ve Laiklik" adlı konferansa katılan Arkoun'un yaptığı konuşma, diğer sunuşlarla birlikte aynı başlığı taşıyan kitapta yer almaktadır. Arkoun'un ayrıca Tarih, Felsefe, Siyaset Üzerine Konuşmalar (Vadi, 2000) ve Kur'an Okumaları (İnsan Yayınları, 1995) kitapları da Türkçe'de yayımlanmıştır.