Babası Mes’ûd b. Gafil, annesi Ümmü Abd bint Abdüveled’dir. Künyesi Ebû Abdürrahman’dır. Kaynaklarda Abdullah’ın İslâm’dan önceki hayatı ve ailesi hakkında pek bilgi bulunmamaktadır. Babası hakkında fazla bir şey bilinmediği için Sahâbî b. Sahâbiyye ve annesine nispetle İbn Ümmü Abd diye lakap verilmiştir. Abdullah kısa boylu, zayıf, esmer ve son derce mütevazi bir kimse idi. Saçını uzatır, temiz ve güzel giyinmeyi, güzel koku sürünmeyi severdi.
Abdullah’ın Rayta ve Zeynep adında iki karısı ve bunlardan olan 3 oğlu vardı. İsimleri; Abdurrahman, Utbe ve Ebû Ubeyde’dir.
Abdullah b. Mes’ûd’un İslam’ı kabul eden üçüncü kişi olduğu rivayet edilmişse de kendisi Müslümanların altıncısı olduğunu ve bundan gurur duyduğunu söylemiştir. Abdullah’ın annesi ve kardeşi Ukbe’de ilk Müslümanlardandı. Abdullah çocukluğunda azılı İslâm düşmanı Ukbe b. Ebû Muayt’ın sürülerinde çobanlık yapmıştır. Müslüman olduktan sonra bu işi bırakmış kendisini Hz. Peygamber (s.a.v.)’e ve İslâm dinine adamıştır. Müslüman olduktan sonra, Kâbe’de sesli bir şekilde Kur'ân okumuştur. Hz. Peygamber (s.a.v.)’den sonra ilk defa bir Kâbe’de Kur'ân okuma cesaretini gösteren kişidir. Müslüman oluşu hakkında farklı rivayetler mevcuttur. Müslüman oluşunu bazıları sürüleri otlatırken Hz. Peygamber (s.a.v.) ile aralarında geçen olağan üstü bir olaya bağlar. Bir rivayete göre ise Hz. Ömer Müslüman olmadan diğer bir rivayete göre ise Hz. Peygamber (s.a.v.) Erkam’ın evine geçmeden evvel Müslüman olmuştur.
Müslüman olduktan sonra her Müslüman gibi o da sıkıntılarla karşılaşmıştır. Bütün Müslüman kardeşleri gibi eziyet ve işkencelerden kendisini kurtaramamıştır. Müşriklerin yaptığı eziyetlerden kaçmak için Habeşistan’a hicret eden kafile içinde bulunmuştur. Daha sonra Medine’ye ilk hicret edenler arasında yerini almıştır. Medine’ye hicret ettikten sonra Resûlullah (s.a.v.) onunla muhacirlerden Zübeyr b. Avvâm ve Ensardan Muaz b. Cebel’i kardeş ilan etmiştir.
Abdullah b. Mes'ûd kendisini Hz. Peygamber (s.a.v.)’in hizmetine adamıştır. Mescid-i Nebî’nin arka tarafına kendisi ve annesinin kalması için bir oda hazırlanmıştır. Bir taraftan Hz. Peygamber (s.a.v.)’e hizmet ediyor diğer yandan da yeni Müslüman olan kimselere dini öğretiyordu. Sahabe arasında ahlak ve yaşayış bakımından Hz. Peygamber (s.a.v.)’e en çok benzeyen kimse olarak kabul edilirdi. Güzel sesli birisi idi ve Kur'ân’ı çok güzel okurdu. Abdullah bütün savaşlara katılmıştır. Bedir Savaşında “Ümmetin Firavunu” diye adlandırılan Ebû Cehil’i öldürmüştür. Uhud Savaşı’nda Hz. Peygamber (s.a.v.)’in etrafından ayrılmayan sürekli savaşan sahabeler arasındadır.
Abdullah, Raşid Halifeler döneminde idari ve askeri işlerde görev almıştır. Hz. Ömer tarafından Kûfe kadılığına atanmış ve bu işi uzun süre sürdürmüştür. Hz. Osman halife olup onun görevine son verene kadar bu görevde kalmıştır. Hz. Osman halife olduğunda Medine’ye dönmüştür. Medine’de bir süre kaldıktan sonra hastalanmış ve vefat etmiştir. Vefat ettiğinde 60’lı yaşlarda olduğu rivayet edilir. Cenaze namazını Hz. Osman veya Ammar b. Yasir kıldırmıştır. Cenazesi Baki Mezarlığına defnedilmiştir
Abdullah görev yaptığı yerde idari işlerle olduğu kadar ilim ile de meşgul olmuştur. İlmi faaliyetlerde bulunmuş ve talebeler yetiştirmiştir. İşte bu talebeler Kûfe fıkıh ve tefsir mektebini kurmuşlardır. İslami İlimlerin kuruluşunda öncülük etmiş önemli bir sahâbîdir. Bu sebepledir ki kendisi günümüzde Kûfe Mektebi olarak bilinen ekolün kurucusu olmakla anılır. İlk Müslümanlardan olması ve Hz. Peygamber (s.a.v.)’e çok yakın olması sebebiyle birçok hadisi ezbere biliyordu. Dolayısıyla Hz. Peygamber (s.a.v.)’den ve diğer sahabelerden pek çok hadis rivayet etmiştir. Kendisinden de bir çok sahabi ve tabiin alimleri hadis almıştır. Abdullah b. Mes'ûd’un rivayet ettiği hadislerin pek çoğu sahih hadis kitaplarında mevcuttur. Abdullah Kur'ân’ı da çok iyi bilen tefsir eden kimselerdendi. Hz. Peygamber (s.a.v.) Abdullah hakkında şöyle buyurmuştur: “Kur'ân’ı şu dört kişiden öğreniniz; İbn Ümmü Abd (Abdullah b. Mes'ûd), Muaz b. Cebel, Übey b. Kab veSâlim”
Abdullah b. Mes'ûd’dan ilim tahsil eden ve Kûfe Mektebi’nin kuruluşunda önemli rol oynayan ilk neslin önde gelenleri şu isimlerdir: Alkame b. Kays, Esved b. Yezid, Abîde es-Selmani, Mesruk b. Ecda’, Amr b. Şurahbil ve Haris b. Kays