Kaum Muslim pertama kali memasuki wilayah tersebut antara 19-23 H/639-643 M.
Gubernur pertamanya Hudzaifah bin Al-Yaman, lalu Umar mengangkat Utbah bin Farqad sebagai gubernur wilayah Tabriz/Azerbaijan, menggantikan Hudzaifah.
Kepemimpinan Umar bin Khattab yang menekankan kepentingan orang banyak juga terlihat ketika rumah gubuk seorang Yahudi berusaha digusur oleh Gubernur Mesir, Amr bin Ash.
Saat itu, Amr bin Ash berencana akan membangun sebuat masjid besar di tempat gubuk tersebut dan otomatis harus menggusur gubuk reot Yahudi itu.
Lalu dipanggillah si Yahudi itu untuk diajak diskusi agar gubuk tersebut dibeli dan dibayar dua kali lipat.
Akan tetapi si Yahudi tersebut bersikeras tidak mau pindah karena dia tidak punya tempat lain selain di situ.
Karena sama-sama bersikeras, akhirnya turun perintah dari Gubernur Amr bin Ash untuk tetap menggusur gubuk tersebut.
KH Abdurrahman Arroisi dalam salah satu jilid bukunya 30 Kisah Teladan (1989) menjelaskan, si Yahudi merasa dilakukan tidak adil, menangis berurai airmatanya, kemudian dia melapor kepada khalifah, karena di atas gubernur masih ada yang lebih tinggi.
Dia berangkat dari Mesir ke Madinah untuk bertemu dengan Khalifah Sayyidina Umar bin Khattab.
Sepanjang jalan si Yahudi ini berharap-harap cemas dengan membanding bandingkan kalau gubernurnya saja istananya begitu mewah, bagaimana lagi istanya khalifahnya?
Kalau gubernunya saja galak main gusur apalagi khalifahnya dan saya bukan orang Islam apa ditanggapi jika mengadu?
