Pada masa sakitnya Abu Bakar, ketika ajalnya sudah dekat, timbul kekhawatiran akan kemungkinan terjadinya perselisihan dan perpecahan di kalangan umat Islam. Oleh karena itu, Abu Bakar bermusyawarah dengan para pemuka sahabat dan mewasiatkan agar tongkat kepemimpinan Islam diserahkan kepada Umar bin Khattab sebagai penggantinya. Keputusan ini ditujukan untuk menjaga kesatuan dan stabilitas dalam umat Islam.
Keputusan tersebut diterima dengan baik oleh masyarakat, dan mereka segera membaiat Umar bin Khattab sebagai Khalifah. Ini adalah awal dari periode penting dalam sejarah Islam di bawah kepemimpinan Umar bin Khattab.
Di zaman Umar bin Khattab, terjadi gelombang ekspansi pertama wilayah kekuasaan Islam. Damaskus, ibu kota Syria, jatuh ke tangan kaum Muslim pada tahun 635 M, dan seluruh daerah Syria akhirnya menjadi bagian dari kekhalifahan Islam setahun kemudian setelah kemenangan dalam pertempuran Yarmuk.
Dengan menggunakan Syria sebagai basis, ekspansi wilayah Islam berlanjut ke Mesir di bawah pimpinan ‘Amr bin ‘Ash, dan ke Irak di bawah Sa’ad bin Abi Waqqash. Pada tahun 641 M, Alexandria, ibu kota Mesir, berhasil ditaklukkan, sehingga Mesir pun masuk dalam wilayah kekuasaan Islam.
Pertempuran penting lainnya adalah penaklukan Al-Qadisiyah, sebuah kota dekat Hirah di Iraq, pada tahun 637 M. Dari sana, serangan berlanjut menuju ibu kota Persia, al-Madain, yang juga berhasil dikuasai pada tahun yang sama. Pada tahun 641 M, kota Moshul pun jatuh ke tangan Muslim.
Dengan demikian, di bawah kepemimpinan Umar bin Khattab, wilayah kekuasaan Islam telah meliputi Jazirah Arabia, Palestina, Syria, sebagian besar wilayah Persia, dan Mesir.
Selain ekspansi wilayah yang cepat, Umar bin Khattab juga mengatur administrasi negara dengan baik. Ia mengadopsi beberapa aspek dari administrasi yang sudah ada, terutama di Persia. Administrasi pemerintahan dibagi menjadi delapan wilayah propinsi, termasuk Makkah, Madinah, Syria, Jazirah, Basrah, Kufah, Palestina, dan Mesir. Selain itu, Umar mulai mengatur dan mengatur sistem pembayaran gaji dan pajak tanah, sehingga meningkatkan efisiensi administrasi kekhalifahan.
Kepemimpinan Umar bin Khattab adalah salah satu periode yang paling berpengaruh dalam sejarah Islam, di mana ekspansi wilayah dan administrasi yang baik membawa Islam ke puncak kejayaannya pada masanya.