Mekkeli fakir bir ailenin çocuğu olan Ebu Ubeyde, geçimini mezar kazarak sağlardı. Otuz yaşlarında İslam`la şereflenince hayatı anlam kazandı. Hoşgörüsü, tevazusu ve uzlaşmacı tavrıyla öne çıkan sahabi, Hz. Peygamber`i Ya Rasulallah! Birkaç haftalığına da olsa senden ayrı kalmaya dayanamam diyecek kadar çok severdi. Uhud`da bedenini Hz. Peygamber`e siper ederek canını ortaya koydu.

Pek çok savaşta komutanlık yaptı. Cihad meydanlarında kahraman bir asker, okulda öğretmendi. Hz. Peygamber İslam`ı öğrenmek isteyen birçok kişiyi ona gönderdi. Hz. Ebu Bekir halife olup onu ordu komutanı yaptığında er olmayı şeref sayacak kadar mütevazı biriydi. Zekat memurluğu, valilik, maliye bakanlığı ve başkomutanlık gibi çok önemli görevler yaptı.