Mekkeli fakir bir ailenin çocuğu olan Ebû Ubeyde geçimini mezar kazarak sağlardı. Otuz yaşlarında İslâm'la şereflenince hayatı anlam kazandı.

Hoşgörüsü tevazusu ve uzlaşmacı tavrıyla öne çıkan sahabi Hz. Peygamber'i "Ya Rasûlallah! Birkaç haftalığına da olsa senden ayrı kalmaya dayanamam" diyecek kadar çok severdi. Uhud'da bedenini Hz. Peygamber'e siper ederek canını ortaya koydu.

Pek çok savaşta komutanlık yaptı. Cihad meydanlarında kahraman bir asker okulda öğretmendi. Hz. Peygamber İslâm'ı öğrenmek isteyen birçok kişiyi ona gönderdi.

Hz. Ebû Bekir halife olup onu ordu komutanı yaptığında er olmayı şeref sayacak kadar mütevazı biriydi. Zekât memurluğu valilik maliye bakanlığı ve başkomutanlık gibi çok önemli görevler yaptı.