Ses noms historiques sont Jemma, Aphrodisium et Cap Africa.
Sa situation géographique stratégique et ses fortifications permettent à la ville de jouer un rôle de premier plan dans le bassin méditerranéen jusqu'au XVIe siècle. Mahdia est tout d'abord un comptoir phénicien puis romain sous le nom d'Aphrodisium avant d'être officiellement fondée en 916 par le premier calife fatimide Ubayd Allah al-Mahdi qui lui donne son nom actuel. La ville devient ainsi la « capitale » des Fatimides en 921 et le reste jusqu'en 973, date à laquelle Le Caire devient leur capitale. Assiégée durant huit mois (944-945) par les kharidjites sous la conduite de leur chef Abu Yazid, la ville résiste victorieusement.
En 1057, les Zirides s'y réfugient face à la menace des Hilaliens. Roger II de Sicile (premier comte normand de Sicile) l'occupe en 1148 et maintient son assise sur la ville jusqu'à la chute de celle-ci, dans les premiers jours de 1160, aux mains des Almohades. La ville perd alors de son importance politique au profit de Tunis mais n'en demeure pas moins un important port considérée comme la clé du pays.
La ville est la proie de plusieurs sièges. En 1390, devant la perte de ses positions commerciales en Tunisie en faveur de Venise, Gênes organise une expédition militaire à laquelle elle a voulu donner le caractère d'une nouvelle croisade, au prétexte de se venger de la piraterie des barbaresques contre les chrétiens. Elle obtient l'assistance d'un corps de seigneurs franco-anglais, dont Louis II de Bourbon qui en prend le commandement. La place, défendue par les Arabes de Bougie (actuelle Béjaïa), de Bône, de Constantine et d'autres pays du Maghreb, venus au secours des Tunisiens, résiste à toutes les attaques, et les alliés, que les mésintelligences ne tardent pas à diviser, sont obligés de reprendre la mer après soixante et un jours de combats infructueux.
Mahdia est prise au XVIe siècle par le corsaire Dragut qui en fait son repère. Charles Quint s'empare de la ville en 1550. Les Espagnols y restent jusqu'en 1554 et, en repartant, font sauter les remparts que les Ottomans ne reconstruiront que partiellement. Depuis, la ville a retrouvé son calme et est devenue l'un des plus grands ports de pêche de Tunisie.
La « galère de Mahdia », remontant au Ier siècle av. J.-C. et chargée d'objets d'art athéniens est retrouvée à six kilomètres au large de Mahdia. Elle fait de la ville l'un des plus riches sites de l'archéologie sous-marine en Tunisie.
Aujourd'hui, l'économie de Mahdia est principalement axée sur le tourisme, la pêche : premier port de pêche de Tunisie, il est très animé, à certaines heures, et possède des conserveries conditionnant le poisson bleu. On peut y admirer de beaux chalutiers équipés pour la pêche au lamparo (pêche de nuit), l'huile d'olive : la ville se situe à l'est d'une grande oliveraie. Des huileries permettent de produire l'huile mais aussi des grignons et du savon, le textile et le cuir ou l'artisanat du bois et de la soie.
Les plages de sable blanc, les nombreux hôtels et son histoire en font l'une des stations balnéaires les plus appréciées en Tunisie. La zone touristique est située au nord de la ville, plus précisément dans le quartier de Hiboun. La grande majorité des hôtels de la ville se trouvent en bord de mer et l'offre est variée, allant des palaces de cinq étoiles aux centres de thalassothérapie et aux hôtels de trois étoiles plus abordables.
Mahdia compte quelques monuments et sites dignes d'intérêt :
Skifa Kahla (appelée aussi Bab Zouila), une énorme porte fortifiée datant du XVIe siècle, l'un des points d'accès au centre historique de Mahdia et l'un des rares vestiges des anciens remparts de la ville ;Bordj El Kébir, une forteresse imposante, dotée d'un passage voûté et courbé menant dans une cour imposante, érigée en 1595 vers la pointe du cap Afrique ;la Grande mosquée fondée en 916 par le chiite Ubayd Allah al-Mahdi, ayant subit plusieurs remaniements pour être finalement restaurée dans les années 1970 sur le plan de la mosquée du Xe siècle, et connue dans la région pour son absence de minaret ;le cimetière marin situé au bout de la presqu'île et ouvert directement sur la mer ;les épaves sous-marines datant aussi bien des guerres du Moyen Âge que de la Seconde Guerre mondiale qui gisent au large de la ville ;Plage de Mahdia
Vue du cimetière marin devant le cothon phénicien
Vue intérieure du Borj El Kébir
Intérieur de la Grande mosquée