La peinture du chœur était un exercice risqué à cause de l'ampleur du cul-de-four ; cependant, Jules-Claude Ziegler le sollicita. A la place de l'assomption de sainte Marie-Madeleine prévue par Delaroche, il traita l'Histoire du christianisme (1835-1837). Élève d'Ingres, Ziegler avait remporté des succès au Salon depuis 1831. L'État venait de lui acheter un saint Georges (musée des Beaux-Arts de Nancy) et de lui en commander une réplique lorsque Thiers le chargea de la peinture de l'abside. L'artiste revenait d'Allemagne et avait envie de se mesurer à l'ambitieuse peinture nazaréenne ; il proposa donc de retracer toute l'histoire de la chrétienté. Cette idée convenait au gouvernement d'alors car Thiers voulait faire oublier les destinations primitives du temple de Vignon dans une idée de réconciliation nationale ; le thème de l'universalité de l'Église dépassait les querelles idéologiques nationales.

Inspiré du Christ de la Dispute du Saint Sacrement de Raphaël, le personnage central préside à l'histoire du christianisme d'Orient, à sa droite, et d'Occident, à sa gauche. Il bénit, entouré des Apôtres, au sommet d'une pyramide humaine installée sur un escalier ; y figure d'abord sainte Marie-Madeleine, soutenue sur un nuage par trois anges, comme au maître-autel, avec la parole du Christ : Dilexit multum (elle a beaucoup aimé). Selon la description de M. Krieger, nous énumérons les personnages :

A gauche du spectateur, l'empereur Constantin, saint Maurice, saint Laurent tenant son gril, saint Augustin écrivant un livre sur le conseil de saint Ambroise. Ensuite un groupe évoquant les croisades, avec les papes Urbain II et Eugène III, Pierre l'Ermite, saint Bernard, le roi Louis VII tenant un écu fleurdelysé, Richard Cœur de Lion et ses soldats, saint Louis agenouillé, Godefroy de Bouillon tenant le bourdon et l'oriflamme, Robert de Normandie, Suger, abbé de Saint-Denis, le doge Dandolo, aveugle, tenant le drapeau qu'il planta sur les murs de Constantinople, le connétable de Montmorency à la poitrine armoriée, entouré des nobles qui l'accompagnèrent en croisade : un guerrier tire son épée, un autre offre un coffret, un vieillard donne ses trois fils à l'armée. Sur le premier plan, l'épisode contemporain de la guerre d'indépendance hellénique est représenté par un cadavre renversé, symbole de la Grèce expirante, une mère qui embrasse ses enfants, un prêtre grec qui lève ses bras pour implorer Dieu, enfin un groupe de combattants autour de la croix, dans la dernière lutte contre l'islamisme.

A droite du spectateur, c'est-à-dire à la gauche du Christ, apparaissent au loin les premiers disciples et martyrs, sous le personnage du Juif errant, Ahasvérus, une besace sur l'épaule et un bâton à la main ; puis sainte Ursule et ses compagnes de Cologne (452), saint Symphorien, premier martyr des Gaules. Plus rapprochées, sainte Catherine appuyée à la roue et sainte Cécile à la lyre ; ensuite les guerriers francs groupés autour de saint Waast prêchant l'Évangile ; derrière, Clovis baptisé par saint Rémi, à côté de sainte Clotilde ; une druidesse regarde le roi d'un air courroucé. Plus bas, Charlemagne assis sur son trône, à qui un dignitaire présente les insignes du Saint Empire ; Éginard, son secrétaire, porte les Capitulaires tandis qu'un envoyé du Kalife Aroun-al-Raschid offre les clefs du Saint Sépulcre. Plus bas, Alexandre III évoque le souvenir de la première pierre de Notre-Dame de Paris ; à ses pieds, Frédéric Barberousse agenouillé, à Venise, avec le doge Ziani et un sénateur vénitien. Au même niveau paraissent Othon de Bavière et Jeanne d'Arc avec ses compagnons ; dans l'angle, Raphaël, Michel-Ange et Dante représentent la Renaissance. Plus bas, Henri IV, le converti, et Louis XIII offrant sa couronne à la Vierge, en compagnie de Richelieu, près de la stèle de dédicace "ANN. MDCCCXXXVII / REG. LUD. PHILIP. / FEC. ZIÉGLER". La composition est dominée par la figure de Napoléon, l'empereur qui mit un terme à la Révolution : en grand manteau parsemé d'abeilles d'or, il se tourne vers Pie VII qui lui remet sa couronne, en présence des acteurs du Concordat de 1802, les prélats Consalvi, Caprana et Braschi. L'évêque de Gênes remet à Napoléon le texte du Concordat, qui est un traité entre le Pape et un souverain concernant les affaires religieuses.

Pour exécuter cette peinture qui fut révélée au public le 29 septembre 1838, Ziegler s'était beaucoup documenté : en véritable érudit, il avait évité les erreurs de costumes ou d'armoiries, donnant à ses personnages les attributs exacts de leur siècle. M. Bruno Foucart a rappelé que Ziegler avait séjourné en Allemagne en 1830, qu'il y avait rencontré Cornelius et qu'il s'était pénétré de l'esprit de l'école idéaliste de Munich et de Düsseldorf. Les premiers commentateurs de cette geste historico-religieuse ne s'y trompèrent d'ailleurs pas. Il faut signaler des sources italiennes évidentes, tout en disant la différence avec les modèles de Ziegler : la peinture est fort peu éclairée et trop de figures l'encombrent, rendant ainsi sa lecture assez difficile ; de surcroît, la technique à l'encaustique en augmente la matité. Les précurseurs du néo-classicisme avaient restitué ce procédé d'après les commentaires de Pline : Ziegler faisait donc acte de primitivisme avant la frise néo-byzantine de Lameire. Un nettoyage permettrait sans doute de retrouver un éclat coloré mieux accordé à la polychromie de l'édifice, celui de l'esquisse du musée de Langres.

Aux panneaux de marbre visibles dans l'entrecolonnement de la nef, Huvé substitua pour le chœur un décor peint par Vincent-Nicolas Raverat (1801-1865). Au premier niveau, des panneaux occupés par des figures de saints et d'anges alternent avec d'autres parcloses décorées d'une sorte de candélabre de feuillage porté par un ange ; des côtés vers le centre, la position de l'ange atlante se modifie pour faire face au spectateur. Derrière l'orgue, sainte Cécile protège les musiciens, saint Paul et saint Pierre assurent la foi, tandis que saint Philippe et sainte Amélie, saint Jacques et sainte Hélène représentent les patrons des princes d'Orléans. Au second niveau, des panneaux carrés font alterner les symboles de la Passion et de la liturgie : calice et croix rayonnante ; au-dessus des portes, la couronne d'épines, la lance et l'éponge, la croix et des palmes sont mêlés à des rinceaux de feuillages sur fond d'or.