Dès le IIIe H. / IXe ap. J.-C., de nouveaux travaux en mathématiques apparaissent et se distinguent des mathématiques existantes. Une nouvelle branche émerge : l’algèbre. La parution du livre d’al-Khwârizmî, l’un des premiers savants éminents de la célèbre Bayt al-Hikma (Maison de la Sagesse) de Bagdad, signa l’acte de naissance officiel de cette discipline. Le livre était destiné à résoudre un certain nombre de problèmes économiques et sociaux : répartition des héritages, transactions commerciales, opérations relatives à l’arpentage, etc. La demande sociale stimula les recherches en mathématiques, comme en astronomie.

Dans un premier temps, l’algèbre se limita à la résolution des équations du premier et du second degré à une inconnue. Les procédures de calcul (algorithmes) étaient des objets de démonstration. L’Abrégé du calcul par la restauration et la comparaison (Al-Jabr wa al-Muqabala) – al-Jabr a donné en français le mot « algèbre » – suscita parmi les contemporains et les successeurs d’al-Khwârizmî un courant de recherche algébrique. Ces derniers, dont Thâbit ibn Qurra, abû Kamil, al-Karajî, al-Khayyâm et Sharaf al-Dîn al-Tûsî, utilisèrent l’algèbre pour faire progresser d’autres branches des mathématiques (trigonométrie, géométrie, arithmétique, etc.).

Les mathématiciens du IVe H. / Xe siècle ap. J.-C. commencèrent à penser les problèmes géométriques dans la langue de l’algèbre en traduisant algébriquement des problèmes, inconstructibles à la règle et au compas, par exemple l’heptagone régulier. A l’inverse, pour résoudre plus facilement certains problèmes algébriques, des mathématiciens eurent recours à la géométrie. Ainsi, al-Khayyam (1048-1131 ap. J.-C.) étudia les équations du troisième degré à l’aide de courbes coniques. Dans son célèbre traité d’algèbre, il parvint à deux résultats : une solution générale de toutes les équations du troisième degré par l’intersection de deux coniques ; un calcul géométrique rendu possible par la définition d’une longueur unité.
Au Maghreb, on assista à une libéralisation progressive de l’algèbre à l’égard de la géométrie avec les travaux d’ibn al-Bannâ où les résolutions des équations classiques n’avaient plus aucun support géométrique, mais étaient exprimées en symboles algébriques.

La figure géométrique prit avec la naissance de l’algèbre une nouvelle signification. Elle servit à représenter les équations algébriques.