وكان عمر بن عبد العزيز زاهداً فقد ترك قصر الخِلافة في وعاد إلى بيته وجلس على الحصير، وحينما تولّى الخِلافة استدعى زوجته فاطمة وقال لها: إنّي بعت نفسي من الله عزّ وجلّ، فإن كنت تريدين العيش معي فحيهلاً وسهلاً وإلّا فالحقي بأهلك ، فاختارته على الدنيا وزخارفها، وكان له أثواب فلمّا وَلِي الخلافة خلع كلّ لباس كان يلبسه، وأبقى لنفسه واحداً فقط، فكان يغسله يوم الجمعة ويحتبس عن النّاس حتى يجفّ ثوبه.
والقاعدة المقررة عند العلماء أن التصرف على الرعية منوط بالمصلحة، يراعى فيه حال من تسنّ لهم الأنظمة، وبحسب رفع الحرج عنهم والتيسير عليهم بما يتفق مع عاداتهم ومعاملاتهم وقت سنّ الأنظمة.
ولما أراد الزواج قال لقيّمه: «اجمع لي أربعمائة دينار من طيب مالي، فإني أريد أن أتزوج إلى أهل بيت لهم صلاح»، فتزوج أم عاصم بنت بن وقيل اسمها ليلى.