Haccâc’ın İslâmiyet’i kabulüyle ilgili olarak kaynaklarda şu rivayet yer almaktadır: Aralarında Haccâc’ın da bulunduğu Benî Süleym kabilesinden bazı kişiler Mekke’ye giderken geceleyin konakladıkları bir vadide Haccâc’dan nöbet tutmasını istediler. Haccâc cinlerden Allah’a sığınarak nöbete başladığı sırada birinin, “Ey cin ve insan toplulukları! Göklerin ve yerin çerçevesinden çıkıp gitmeye gücünüz yetiyorsa geçin” meâlindeki âyeti okuduğunu duydular. Âyet olduğunu bilmediği bu sözleri ezberleyen Haccâc Mekke’ye gidince geceleyin başlarından geçen olayı anlattı ve ezberlediği âyeti okudu. Kureyşliler, bu sözleri Hz. Muhammed’in kendisine vahyedildiğini ileri sürerek okuduğunu söylediler. Bunun üzerine Medine’de olduğunu öğrendiği Resûl-i Ekrem’i görmek üzere yola çıkan Haccâc, onun Hayber Gazvesi’nde bulunduğu sırada yanına giderek kendisiyle görüştü ve müslüman oldu; Hayber’in fethine de katıldı.
Benî Süleym topraklarında altın madenleri bulunan Haccâc oldukça zengindi. Hz. Peygamber’in huzuruna çıkarak Mekkeli tüccarların elinde ve oradaki karısının yanında bir hayli ticaret malı bulunduğunu, bunları alıp Medine’ye getirmeyi düşündüğünü, ancak bunu yapabilmesi için Mekke’de kendisi aleyhinde konuşması gerektiğini söyledi. Resûl-i Ekrem ona izin verince Mekke’ye gitti. Hz. Peygamber’in Hayber üzerine yürüdüğünü haber almakla birlikte Hayber’in fethedildiğini henüz bilmeyen Mekkeliler Haccâc’dan bilgi almak istediler. Haccâc da Hayber’de müslümanların büyük bir yenilgiye uğrayıp kılıçtan geçirildiğini, Hz. Muhammed’in esir alındığını, Hayber halkının onun Mekkeliler tarafından öldürülmesini istediklerini anlattı. Müslümanların Hayber’de satılacak mallarını alabilmek için paraya ihtiyacı olduğunu söyleyerek alacaklarını tahsil etti. Haccâc’ın verdiği haberler başta Abbas b. Abdülmuttalib olmak üzere müslümanları çok üzdüğünden Abbas’la gizlice görüşerek meselenin iç yüzünü ona anlattı. Üç gün sonra da Mekke’den ayrılıp Medine’ye gitti, burada kendisine bir ev, ayrıca bir mescid yaparak şehre yerleşti.
Haccâc’ın Mekke’den getirdiği malların zekâtını verdiği ve böylece Benî Süleym madenlerinin zekâtını ilk defa onun ödediği belirtilmektedir. Hz. Peygamber’in vefatından sonra Haccâc Humus’a giderek oraya yerleşti. Hz. Ömer, hilâfeti zamanında çeşitli bölgelere haber göndererek en seçkin adamlarını kendisine yollamalarını istediğinde Suriyeliler ona Haccâc’ı gönderdiler. Haccâc’ın Hz. Ömer devrinde (634-644) ve bazı rivayetlere göre hilâfetinin ilk yıllarında vefat ettiği belirtilmektedir.