Beliau lahir di Mekah dari Bani Adi, salah satu rumpun suku Quraisy dengan nama lengkap Umar bin Khattab bin Nafiel bin abdul Uzza. Keluarga Umar tergolong keluarga kelas menengah, ia bisa membaca dan menulis yang pada masa itu merupakan sesuatu yang jarang. Umar juga dikenal karena fisiknya yang kuat dimana ia menjadi juara gulat di Mekkah.
Umar tumbuh menjadi pemuda yang disegani dan ditakuti pada masa itu. Wataknya yang keras membuatnya mendapat julukan “Singa Padang Pasir”. Ia juga amat keras dalam membela agama tradisional bangsa Arab yang menyembah berhala serta menjaga adat-istiadat mereka. Bahkan putrinya dikubur hidup-hidup demi menjaga kehormatan Umar.
Dikatakan bahwa pada suatu saat, Umar berketetapan untuk membunuh Muhammad SAW. Saat mencarinya, ia berpapasan dengan seorang muslim (Nu’aim bin Abdullah) yang kemudian memberi tahu bahwa saudara perempuannya juga telah memeluk Islam. Umar terkejut atas pemberitahuan itu dan pulang ke rumahnya.
Di rumah Umar menjumpai bahwa saudaranya sedang membaca ayat-ayat Al Qur’an (surat Thoha), ia menjadi marah akan hal tersebut dan memukul saudaranya. Ketika melihat saudaranya berdarah oleh pukulannya ia menjadi iba, dan kemudian meminta agar bacaan tersebut dapat ia lihat. Ia kemudian menjadi sangat terguncang oleh isi Al Qur’an tersebut dan kemudian langsung memeluk Islam pada hari itu juga.
Sebagai seorang petinggi militer dan ahli siasat yang baik, Umar sering mengikuti berbagai peperangan yang dihadapi umat Islam bersama Rasullullah Saw. Ia ikut terlibat pada perang Badar, Uhud, Khaybar serta penyerangan ke Syria.
Setelah wafatnya Rasullullah Saw., beliau merupakan salah satu shabat yang sangat terpukul dengan kejadian tersebut. Ia bahkan pernah mencegah dimakamkannya Rasullullah karena yakin bahwa nabi tidaklah wafat, melainkan hanya sedang tidak berada dalam tubuh kasarnya, dan akan kembali sewaktu-waktu. Namun setelah dinasehati oleh Abu Bakar, Umar kemudian sadar dan ikut memakamkan Rasullullah.
Pada masa Abu Bakar menjabat sebagai khalifah, Umar merupakan salah satu penasehat kepalanya. Kemudian setelah meninggalnya Abu Bakar pada tahun 634, atas wasiat Abu Bakar Umar ditunjuk menggantikannya dan disetujui oleh seluruh perwakilan muslim saat itu.
Selama masa jabatannya, khalifah Umar amat disegani dan ditakuti negara-negara lain. Kekuatan Islam maju pesat, mengambil alih Mesopotamia dan sebagian Persia dari tangan dinasti Sassanid dari Persia (yang mengakhiri masa kekaisaran sassanid) serta mengambil alih Mesir, Palestina, Syria, Afrika Utara dan Armenia dari kekaisaran Romawi (Byzantium).
Umar dikenal dari gaya hidupnya yang sederhana, alih-alih mengadopsi gaya hidup dan penampilan para penguasa di jaman itu, ia tetap hidup sebagaimana saat para pemeluk Islam masih miskin dan dianiaya. Pada sekitar tahun ke 17 Hijriah, tahun keempat kekhalifahannya, Umar mengeluarkan keputusan bahwa penanggalan Islam hendaknya mulai dihitung saat peristiwa hijrah.
Umar syahid setelah ditikam oleh Abu Lukluk, seorang budak asal Persia yang dendam atas kekalahan Persia terhadap Islam pada suatu subuh saat Umar sedang mengerjakan shalat. Umar meninggal pada 25 Dzulhijjah 23 H dan selanjutnya digantikan oleh Utsman bin Affan.