Религиозный фанатизм мусульман не был свойствен всем исповедующим ислам. В то время как арабы без излишнего рвения относились к своей религии, берберы, напротив, проявляли в делах веры крайний фанатизм. Различия во мнениях способствовали зарождению многочисленных школ и толков, и борьба с ними со стороны ревнителей мусульманской ортодоксии оказалась безуспешной. Некоторые сектанты отрицали не только те или иные религиозные догмы, но и существование бога. Другие считали .ложными все без исключения религии и полагали, что в жизни следует придерживаться лишь приемлемых разумом принципов морали. Хотя приверженцев этих учений было в Испании немало, но открыто высказывать свои взгляды они не решались, опасаясь имамов, муфтиев и ортодоксов мз народа. Нередко изгонялись из страны учителя и философы, заподозренные в ереси, а книги их подвергались сожжению. Но безразличие к вопросам религии и неверие отнюдь не становились от этого меньшими. Преследования тем не менее продолжались, и во времена аль-Мансура они еще более усилились. Подобными мерами аль-Мансур стремился завоевать себе популярность среди духовенства. Однако даже среди самых правоверных мусульман имелись различные способы толкования Корана й обрядов, а следовательно, и различные секты, враждовавшие между собой. В Испании в течение долгого времени как в религиозных, так и в юридических вопросах господствовала школа имама Малика (умер в 795 г.), названная по имени одного крупного богослова и правоведа. Его книги были положены в основу религиозного воспитания наряду с Кораном.
Мосарабы, со своей стороны, сохраняли христианскую религию, со всеми ее обрядами, в тех же селениях, где жили и мусульмане. За исключением коротких периодов гонений, они справляли свои церемонии в церквах и на улице, под звон колоколов (хотя в некоторых местностях, например в Коимбре, было отдано распоряжение, чтобы служба и религиозные церемонии происходили только за закрытыми дверями). Мосарабов уважали и защищали власти. В Кордове мосарабы имели три церкви (церковь св. Асисклия они сохраняли все время) и три монастыря. Христианские храмы имелись также в Толедо, Сарагосе, Мёриде, Валенсии, Малаге и т. д.