自9世纪起，帝国出现实质独立的地方政权。由于哈里发名义上仍是全体穆斯林的领袖，地方统治者一般不敢僭越，只自称都督（Emir）；但有的则自称国王（Malik）或苏丹（Sultan），自行铸造银币，并规定臣民在周五聚礼时的祷文中加念自己的名字。伊斯兰统治者在自己的辖区内统揽军事、外交、立法、司法、贸易、教育等；他们有的严苛，有的宽厚，但都拥有绝对权力。统治者依靠军队，通过地方士绅和部族首领来维持政权，又经常把收税的权力分包给各地富豪。
伊斯兰统治者原则上依照《古兰经》和《圣训》施政，以宗教区分臣民：穆斯林是一等公民；犹太教徒和基督教徒是二等公民，享有宗教自由和一定的自治权但要交纳人丁税；其他人称为不信者（Kufr英译Infidel）受到轻蔑。不同宗教，不同职业的人要穿戴不同的服饰。伊斯兰社会早期是由城市工商阶级构成。虽然阿拉伯帝国后来并入许多游牧部落和大量定居农民，但伊斯兰统治者向来重视商业活动。在哈里发盛世，帝国的货币统一，道路通畅。后来的地方统治者虽然经常互相征伐，对工商业依旧重视，他们会派出市场巡察员维护商业道德与秩序，兴建商旅客栈以促进贸易。统治者会定期直接倾听子民的申诉和要求，因此一些宫殿里有接见百姓的厅房。诗人在伊斯兰社会地位很崇高，统治者会经常宴请诗人，而赴宴的诗人则会绞尽脑汁用华丽的词藻颂扬真主和阿谀君王。统治者也笼络宗教学者，使他们在周五聚礼讲经（Khutbah）时拥护自己，并在必要时做出符合自己意旨的教法解释（Fatwa）。
苏非主义是伊斯兰教中的神秘主义，不获正统伊斯兰学者认可。苏非以祈祷、冥思、舞蹈等方法寻求与真主合一的直接体验，对不谙教义理论的信众很有吸引力。自12世纪起，正统伊斯兰与苏非主义开始相互渗透，从此在各地伊斯兰社会出现了许多苏非教团（Tariqa又译道门）。苏非教团在世袭教主（Shaykh又译谢赫）的领导下，有固定礼拜和修行的场所，也形成在社会上互助的组织，因此在政治上有相当影响力。
由于大中东与欧洲接近，伊斯兰社会接触欧洲近代文明比印度和中国要早。奥斯曼帝国在18世纪末期就已聘请法国军官开办新式军官学校，并在19世纪中叶开始自上而下的改革运动（Tanzimat）；埃及在19世纪初开始引进欧洲的军事和邮政制度。这些改革的本意是图强，却引起了传统派的焦虑和反对。
一百多年来，大中东伊斯兰国家的穆斯林可分为三大类：一、愿意向西方学习，接受世俗化社会的概念，倾向民族主义的西化派，主要是军人、政客、专业人员和学生；二、希望通过伊斯兰复兴而振兴社会的“伊斯兰主义者”（Islamists）：其中的激烈派敌视西方，主张清除一切违反伊斯兰教义和礼仪的外来习俗；温和派则鼓吹建立符合伊斯兰教义的现代社会；三、是教育程度不高，对西方缺乏认识，占大多数的中下阶层，他们比较容易受教士集团的影响。
经过百余年的演变，这三大类穆斯林在不同国家的比例各不相同，他们之间力量的消长，将是未来大中东各国的风向标。