Sous la domination romaine, il semblerait qu’une petite partie de la cité se situe à l’est du 6ème arrondissement actuel. Lorsque la population se réfugia sur l’ile de la Cité protégé par une enceinte, la cité fut remplacée par les vignes et les carrières.
En 543, Childebert, fils de Clovis, poussé par la conversion au christianisme de sa dynastie, fonda une basilique sous la double protection de saint Vincent et de la sainte Croix, actuel Abbaye de Saint-Germain-des-Prés. Les invasions normandes et les puissances laïques provoquèrent son déclin avant qu’elle renaisse au 11ème et 12ème siècle avec un véritable bourg qui entoura la basilique. A cette époque, l’enceinte de Philippe Auguste délimite Paris en incluant le quart nord-est de l’actuel arrondissement. Le bourg de la basilique se situant à la périphérie.
L’achèvement du Pont-Neuf au 17ème siècle permet de relier les deux rives de la Seine. Cela coïncida avec la construction de grandes réalisations. Le palais du Luxembourg fut commandé à l’architecte Salomon de Brosse par Marie de Médicis. Autre monument prestigieux du quartier, l’église Saint-Sulpice. Jugée trop petite, il est décidé de la reconstruire dans l’idée de rivaliser avec la cathédrale Notre-Dame et recevoir près de 10 000 personnes. Les travaux s’étireront pendant plus d’un siècle.
A partir du 18ème siècle, l’arrondissement dans son ensemble fut intégré dans l’enceinte des Fermiers Généraux. Le préfet Haussmann a profondément modifié le secteur de Saint-Germain-des-Prés avec la grande croisée parisienne entre le boulevard Saint-Germain et le boulevard Saint-Michel. La rue de Rennes devait faciliter le passage entre la gare Montparnasse côté Paris 15 et la gare de l’Est, détruisant des pans entiers du vieux Paris.