Les thermes gallo-romains sont l'un des témoignages les plus spectaculaires de l'architecture antique conservé sur le sol de la Gaule. Lutèce se partageait alors en deux ensembles urbains, l'un blotti à l'intérieur de la Cité; l'autre sur la rive gauche de la Seine (Montagne Sainte-Geneviève). C'est là que se sont développés villas et monuments grandioses: le Forum sous la rue Soufflot, les arènes rue Monge, les thermes du sud rue Gay-Lussac, les thermes de l'est sous le Collège de France et les thermes du nord dits de Cluny.

Les thermes du nord revêtent une importance particulière du fait de leur état de conservation exceptionnel; la réutilisation pratiquement continue de l'édifice depuis le Moyen Âge en est la cause principale. On identifie aisément les trois salles importantes: le frigidarium (salle froide) englobé dans le musée avec sa voûte de 15 m de haut; un calda à l'ouest bordé par le boulevard Saint-Michel et un autre caldarium au sud à l'angle du boulevard Saint-Michel et de la rue Du Sommerard.

Les murs en élévation ont conservé leur structure d'origine qui se singularise par l'emploi de petites pierres carrées séparées à intervalles réguliers de rangs de briques. A l'intérieur, ils étaient recouverts de mosaïque, de marbre ou de peinture. Le frigidarium en conserve des traces. Le fragment de mosaïque aujourd'hui exposé, « un Amour chevauchant un dauphin », pourrait en constituer le dernier vestige. Cet ensemble architectural était comme bien d'autres thermes, l'un des hauts lieux de la civilisation romaine.

Lorsqu’au début du XIIIe siècle, l'université vint s'installer dans ce qui allait devenir le Quartier latin, les abbés de Cluny, comme bien d'autres, cherchèrent à y avoir un collège et un pied-à-terre. Le collège construit au cours de la seconde moitié du XIIIe siècle se trouvait sur l'actuelle place de la Sorbonne. A la fin du XVe siècle, Jacques d'Amboise, abbé de Cluny en Bourgogne (1485-1510) décide de reconstruire la résidence abbatiale parisienne qui s'appuyait sur les thermes, l'hôtel gothique des abbés de Cluny est un joyau de l'architecture flamboyante du XVe siècle.

La continuelle utilisation de ces bâtiments au cours des siècles nous montre l’efficacité des techniques anciennes et l’utilité qu’il y a à s’appuyer sur des bases depuis longtemps établies. La question que doivent de nos jours se poser les architectes est de savoir si ce qu’ils édifient et édifieront à l’avenir pourra prétendre être encore là et utilisé dans cinq siècles ? Aux vues des merveilles que les architectes ont faites pour la construction de la nouvelle grande bibliothèque d’Alexandrie, il semblerait que la tendance aille dans ce sens.