Hicretten iki yıl kadar önce hanımı Ümmü Eyyûb ile birlikte müslüman oldu ve ensardan İslâmiyet’i ilk kabul edenler arasında yer aldı. Hicretten sonra Resûl-i Ekrem onunla, ileri gelen sahâbîlerden Mus‘ab b. Umeyr arasında kardeşlik bağı kurdu. Hz. Peygamber’le birlikte bütün gazvelere katıldı. Savaşlarda ona zarar gelmemesi için yanından ayrılmaz, hatta bazı geceler çadırı etrafında nöbet tutardı. Vahiy kâtiplerinden olması sebebiyle Hz. Peygamber zamanında Kur’ân-ı Kerîm âyetlerinin bir araya getirilmesine hizmet etti. Ashap arasında ilmiyle de tanındığı için kendisine sorulan dinî konularda pek çok fetva verdi.
Kıbrıs seferinde de bulundu. Medine âsilerin eline geçip Hz. Osman’ın namaz kıldırması engellenince herkes tarafından sevilip sayıldığı için Hz. Ali’nin tavsiyesi üzerine bir müddet imamlık yaptı.
Sağlıklı olan herkesin Allah yolunda savaşa katılması gerektiğine inanan Ebû Eyyûb el-Ensârî, “Kendi elinizle kendinizi tehlikeye atmayınız” meâlindeki âyette sözü edilen tehlikeyi savaşa gitmeyip işiyle gücüyle meşgul olmak şeklinde açıklardı. Bu sebeple ihtiyarlık döneminde bile her yıl bir savaşta bulunmaya gayret etti. Ebû Eyyûb, kuşatma devam ederken hastalanarak 49 yılında vefat etti. Cenaze namazını Yezîd b. Muâviye kıldırdı. Vasiyeti üzerine bir askerî birlik tarafından surlara yakın bir yere götürülerek oraya defnedildi.
Ebû Eyyûb’un kabrinin sonraları bir bina içine alındığı, kıtlık zamanında kabrini ziyarete gelen hıristiyanların onun hürmetine yağmur istediği ve asırlar boyunca bu kabrin itina ile korunduğu söylenmekte, bazı seyyahların verdiği bilgiler de bu rivayetleri doğrulamaktadır. Fâtih Sultan Mehmed’in İstanbul’u fethinden sonra kabrin yerinin Akşemseddin tarafından keşf yoluyla belirlendiğine dair Osmanlı tarih kaynaklarında geniş şekilde yer alan haberlerle bu bilgiler çelişmemektedir. Zira kabrin yeri korunmuş olmakla beraber İstanbul’un fethi sırasında sur dışında çok sayıda manastır, kilise, ayazma ve kutsal sayılan mezar bulunduğu için herhalde kabrin yeri kesin olarak bilinmemekteydi.
Resûl-i Ekrem Medine’ye hicret edince Medineli müslümanların her biri onu evinde misafir etmek istedi. Ancak Hz. Peygamber, bir tercih yaparak onları gücendirmemek için devesinin çökeceği yere en yakın eve misafir olacağını söyledi. Kendisini taşıyan devenin önce bir yere çöktüğü, buradan hemen kalkıp biraz ileride tekrar çöktüğü görüldü. Resûlullah oraya en yakın olan ve dedesi Abdülmuttalib’in annesi tarafından kendisine yakınlığı da bulunan Ebû Eyyûb’un evine yerleşerek burada yedi ay misafir kaldı. Bundan dolayı Ebû Eyyûb “Mihmandâr-ı Nebî” unvanıyla anılır. Bu ev İslâmiyet’in öğretildiği bir mektep durumundaydı. Hz. Peygamber fakir muhacirlere burada yemek verir, kendisine sunulan hediyeleri fakirlere burada dağıtırdı. Ev sahiplerine her vesile ile dua eder, onların bolluğa kavuşmalarını, huzur ve âfiyet içinde olmalarını dilerdi. Resûl-i Ekrem kendi evine taşındıktan sonra da zaman zaman Ebû Eyyûb’un evine misafir olurdu.