Hz. Peygamber’in halkı İslâm’a davet ettiği duyulunca Ebû Mûsâ ile iki ağabeyinin de aralarında bulunduğu elli iki kişilik bir heyet onun yanına gitmek üzere bir gemiye bindi; fakat gemi kötü hava şartları yüzünden Habeşistan’a sürüklendi. Heyet mensupları, Ca‘fer b. Ebû Tâlib ve arkadaşlarının orada bulunduğunu öğrenince bir süre Habeşistan’da kaldılar. 7 (628) yılında Hayber’in fethi sırasında Habeşistan’daki müslümanlarla birlikte Medine’ye döndüler ve Hz. Peygamber’in Hayber’de olduğunu öğrenince oraya gittiler. Ele geçen ganimetten kendilerine pay veren Resûl-i Ekrem, hem Habeşistan’a hem de Medine’ye hicret etmeleri sebebiyle iki hicret sevabı aldıklarını söyleyerek kendilerini tebrik etti.
Ebû Mûsâ Hayber’in fethinden sonra yapılan gazve ve seriyyelere katıldı. Huneyn Gazvesi’nde bozguna uğrayan düşman askerlerini takip etmekle görevlendirilen amcası Ebû Âmir el-Eş‘arî kumandasındaki birlikte o da vardı. Ebû Âmir şehid düşerken kumandayı kendisine bıraktı. Birlik Medine’ye dönünce Resûl-i Ekrem her iki kumandana da dua etti.
Hz. Peygamber, Ebû Mûsâ’yı Vedâ haccından önce Yemen’in Zebîd, Aden, Me’rib ve sahil taraflarının zekâtını toplamakla görevlendirdi. Hz. Ömer onu, Mugīre b. Şu‘be’den boşalan Basra vali ve kadılığına tayin etti (17/638). Bu görevlerinin yanı sıra Basralılar’a Kur’an öğretti. Valiliği esnasında Nusaybin, Dînever, Kum, Kâşân gibi birçok şehrin fethinde önemli hizmetler ifa etti. Ebû Mûsâ Hz. Osman devrinde de Basra ve Kûfe valiliği yaptı. Hz. Osman’ın şehid edildiği tarihte bu görevini sürdürüyordu. Cemel Vak‘ası’nda tarafsız kalmayı tercih ettiği için Hz. Ali onu valilikten azletti. Ebû Mûsâ da Dımaşk taraflarında bir köyde inzivaya çekildi. Sıffîn Savaşı başlamadan önce, Hz. Ali’yi destekleyen bazı kimselerin hakaretine uğramasına rağmen fitne konusunda bizzat Hz. Peygamber’den duyduğu hadisleri rivayet ederek Kûfeliler’i bu savaşta tarafsız kalmaya teşvik etti. İki grup arasında barışın tarafsız hakemlerce gerçekleştirilmesi kararlaştırıldığı zaman Hz. Muâviye Amr b. Âs’ı, taraftarlarının ısrarı üzerine Hz. Ali de Ebû Mûsâ’yı hakem olarak seçti. Hakemler Ezruh’ta bir araya geldiklerinde Hz. Ali ile Muâviye’nin azledilerek halifenin bir şûra tarafından seçilmesini kararlaştırdılar. Bu karar önce Ebû Mûsâ tarafından açıklandı; söz sırası Amr’a gelince Amr Hz. Ali’yi azledip hilâfet makamına Muâviye’yi tayin ettiğini bildirdi. Ebû Mûsâ buna karşı çıkmışsa da durum değişmemiş ve neticede hakem olayı hilâfet meselesini bir çıkmaza götürmüştür. Bu hadiseye çok üzülen Ebû Mûsâ siyasî hayattan tamamıyla uzaklaşıp uzlete çekildi.
Ebû Mûsâ 42 (662-63) yılında vefat etmiştir.
Ebû Mûsâ, Kur’ân-ı Kerîm’i bizzat Hz. Peygamber’den öğrenerek ezberleyen sayılı sahâbîlerden biridir. Güzel sesiyle Kur’an okuyuşu herkesi hayran bırakırdı. Bir gece Hz. Peygamber Ebû Mûsâ’nın Kur’an okuyuşunu dinlemiş, kendisine Hz. Dâvûd’unkine benzer bir ses verildiğini söylemişti.