Primera rebelión de Yusuf al-Fihri (756)
Tras la derrota de Al-Musara, el derrocado gobernador Yusuf al-Fihri huyó a Toledo, mientras su aliado Al-Sumayl ibn Hatim lo hacía a Jaen. Juntos organizaron un ejército con el que enfrentarse al nuevo emir. Mientras una fracción atraía a Abd al-Rahman, otra al mando de Abd al-Rahman ibn Yusuf Abu Zayd, hijo de Yusuf al-Fihri, entró en Córdoba, pero la abandonó en cuanto supo del regreso del emir. Este persiguió a los rebeldes hasta acorrolarles en la vega de Granada, donde Yusuf al-Fihri pidió una amnistía junto con Al-Sumayl a condición de conservar sus bienes. El nuevo emir accedió a cambio de recibir dos hijos de Yusuf en calidad de rehenes. En 756/757 ambos rebeldes volvieron a Córdoba.
Segunda rebelión de Yusuf al-Fihri (758)
Yusuf al-Fihri vivía en Córdoba rodeado de atenciones por parte del emir. De hecho incluso le consultaba en ocasiones sobre aspectos de gobierno. No obstante, Yusuf al-Fihri fue incitado a la rebelión por las familias clientes de los Banu Haxim y Banu Fihr y de las tribus Qurayx, que en tiempos del gobierno de Yusuf habían gozado de su protección. Yusuf al-Fihri escapó a Mérida el 13 de mayo de 758, donde reunió un ejército de unos 20.000 hombres, bereberes y árabes de Mérida y Fuentes de Cantos en su mayoría.
Yusuf se dirigió con sus tropas a Sevilla, ciudad que cercó y cuyo gobernador era el primo del emir, Abd al-Malik ibn Umar al-Marwaní. Entretanto, el emir había reunido sus tropas en Torre de Ocama. A su vez el hijo del gobernador de Sevilla, Abd Allah ibn Abd al-Malik, a la sazón gobernador de Morón, acudió en socorro de su padre. Yusuf levantó el cerco de Sevilla para enfrentarse al emir, pero al saber que por la retaguardia le amenazaban Abd al-Malik al-Marwaní y su hijo dió media vuelta para combatir antes con ellos.
En la batalla que siguió Yusuf fue derrotado. Huyó a Firrix y Fach al-Balut, con ánimo de buscar refugio en Toledo en casa de su primo Hixam ibn Urwa. A diez millas de la ciudad pasó por una alquería donde fue reconocido por un tal Abd Allah ibn Umar al-Ansari. Este y varios amigos le alcanzaron a cuatro millas de Toledo. Le dieron muerte junto con un tal Ibn Sabiq al-Farasi, liberto de los Banu Tamin de Zaragoza. El esclavo que iba con ellos pudo escapar. La cabeza de Yusuf al-Fihri fue enviada al emir.
Abd al-Rahman, en vista de la traición de Yusuf al-Fihri y sus partidarios, decidió librarse de su mas fiel aliado, Al-Sumayl. Este, tras el fracaso de su primera rebelión de 756, vivía en Córdoba gozando de la clemencia del emir. Cuando Yusuf al-Fihri se rebeló por segunda vez, el emir mandó encarcelar a Al-Sumayl y los dos hijos de Yusuf que tenía en su poder en calidad de rehenes. Al-Sumayl protestó, aduciendo que no había tomado parte en la rebelión y que incluso la había desaconsejado, pues estaba cansado de tanto batallar. No obstante, sabido el asesinato de Yusuf al-Fihri en Toledo, el emir mandó estrangular en la prisión a Al-Sumayl.
Corría el año de 759.
Rebelión de los Banu Fihr (762-764)
A los tres años del asesinato de Yusuf al-Fihri tuvo lugar la primera rebelión de los Banu Fihr contra el emir. En 762 se levantó en Toledo el jefe fihrí Hixam ibn Urwa, aquel cuya protección buscaba Yusuf al-Fihri en su huida a Toledo. Gobernaba la ciudad mientras el emir Abd al-Rahman se ocupaba de sofocar la rebelión abásida de Al-`Ala.
En 764, tras sofocar el levantamiento de Al-`Ala, llegó ante las murallas de Toledo un fuerte ejército a las órdenes de Badr y Tamman ibn Alqama al-Thaqifi. El cerco de la ciudad, organizado siguiendo instrucciones personales de Abd al-Rahman, fue tan fuerte que los habitantes de Toledo entregaron a Hixam ibn Urwa junto a otros dos cabecillas de la rebelión llamados Al-Umari y Haywa a cambio del perdón para la ciudad.
Los prisioneros fueron conducidos a Córdoba, exhibidos con ridículos ropajes por toda la ciudad y, finalmente, crucificados.
Tamman ibn Alqama quedó en Toledo en calidad de gobernador.
Rebelión de un hijo de Yusuf al-Fihri (785)
Un hijo de Yusuf al Fihri llamado Abu-l-Aswad Muhammad, uno de los rehenes que Abd al-Rahman I había tomado en 756 a cambio del perdón de Yusuf al-Fihri y que fue encarcelado junto con un hermano suyo y con Al-Sumayl en 758, había conseguido evadirse de la cárcel fingiendose ciego, tras pasar varios años en ella.
Según el historiador Dozy, en 777 visitó a Carlomagno junto con el agitador abásida Al-Siqlabi y el gobernador de Zaragoza Suleyman ibn Yaqzan al-Arabi para preparar juntos la rebelión de Zaragoza del 778.
A finales de la vida de Abd al-Rahman, en 785, organizó un nuevo levantamiento en Toledo junto con un hermano suyo llamado Qasim ibn Yusuf. El emir personalmente les derrotó el 11 de septiembre de 785.
Suleymán, hijo del emir, quedó en Toledo en calidad de gobernador.
