Hîre’de doğduğu söylenmektedir. Yemen asıllı Tücîb kabilesinin İbad koluna mensup olduğu için İbâdî nisbesiyle de tanınır. Cahiliye döneminde kumaş ticareti yapar ve çeşitli seyahatlere katılırdı.
Resûlullah'ın vefatından kısa bir süre önce Hireli bir heyetle birlikte onun hakkında bilgi edinmek amacıyla Medineye geldi ve bir müddet sonra müslüman oldu. Hire'ye dönüşünün ardından Rasûl-i Ekrem'in vefat ettiği duyulunca irtidad eden yakınlarının tesiriyle kısa bir süre tereddüt geçirdiyse de daha sonra kendini toparladı; Medine'ye giderek Hz. Ebu Bekir’e etti ve Medine’ye yerleşti. Yemâme Savaşına katıldı. Hz. Ebû Bekir Ka’b’ı Mısır Mukavkısı Cüreyc b. Mînâ’ya elçi olarak gönderildi. Hz. Ömer döneminde de bu elçilik vazifesini yerine getirdi. Başarıları hizmetlerinden dolayı Hz. Öemr’in oluşturduğu divana kayıtlı ücretliler arasına girdi. Mısır fethine katılıp oraya yerleşti. H. 25 (646) yılı civarında Mısır’da vefat etti.
Zehebî, Hz. Peygamber devrinde İslam'a girmediğin e dair bazı rivayetlere dayanarak onun tabiin neslinden veya muhadram undan sayılması gerektiğini söylemiş. İbn Hacer ise sahabeden olduğu u belirten rivayetleri daha isabetli bularak kendisini sahabiler arasında zikretmiştir.