Untuk mengurus administrasi, di setiap daerah ada gubernur yang tugasnya melayani kepentingan publik seadil-adilnya serta taat pada perintah Khalifah Umar di Madinah. Tak heran jika sejarah mencatat Umar sebagai khalifah yang banyak menorehkan prestasi.
Tokoh yang berasal dari Suku Adi itu, juga dikenal memiliki reputasi yang kuat setelah memeluk Islam terkait pembelaannya terhadap Islam dan Nabi Muhammad saw. Umar didaulat sebagai khalifah menggantikan Abu Bakar, pada 634 Masehi hingga meninggal akibat dibunuh oleh Abu Lukluk (Fairuz), saat menunaikan shalat Subuh pada Rabu, 25 Dzulhijah 23 H/644 M. Di antaranya adalah sebagai berikut sosok pertama yang berjuluk Amirul Mukminin.
Gelar tersebut belum pernah disematkan kepada siapa pun selain Umar, tokoh pertama yang mengaktifkan baitul mal, figur pertama yang membiasakan blusukan kepada rakyat di tengah malam hari. Ini dilakukan untuk melihat dan memantau langsung kondisi warganya.
Lalu bagaimana cara Khalifah Umar mengendalikan dan mengawasi jajarannya di daerah-daerah? Buku Fatawa wa Aqdhiyah Amiril Muminin Umar bin Khaththab karangan Muhammad Abdul Aziz al-Halawi memaparkannya. Al-Halawi memuat riwayat dari Abu Yusuf.
Bahwa Umar bin Khaththab bila mengangkat seorang gubernur, ia akan mengambil sumpah jabatan di hadapan orang-orang Anshar serta para sahabat Nabi saw. Ada sedikitnya empat perkara yang selalu disebutkan dalam teks sumpah jabatan.
Pertama, hendaknya seorang gubernur tidak naik kuda pengangkut barang-barang berat. Hal ini bermakna bahwa seorang pemimpin tidak akan memamerkan harta kepunyaannya.
Kedua, seorang gubernur tidak akan memakai baju berbahan kain halus nan mahal. Ini bermakna seorang pemimpin tidak tampil lebih mewah ketimbang rakyatnya.
Ketiga, tidak makan roti putih. Artinya, seorang gubernur tidak mengutamakan perutnya sendiri di atas perut rakyat.
Keempat, seorang gubernur tidak boleh menutup pintu rumahnya. Ini agar ia bisa melayani kebutuhan rakyatnya. Seorang gubernur juga tidak boleh mengangkat ajudan.
Dalam riwayat lainnya, Umar bin Khaththab diketahui berpidato kepada sekalian rakyatnya suatu ketika.
Wahai umat manusia! Sesungguhnya aku tidak mengutus para gubernur kepada kalian untuk memukul kalian atau merampas harta kekayaan kalian. Akan tetapi, aku mengutus mereka untuk mengajarkan kepada kalian mengenai agama dan sunnah Rasulullah saw. Maka, barang siapa di antara kalian diperlakukan zalim, dengan perlakuan yang menyimpang dari tugas mereka, silakan lapor kepadaku.