A Orléans, Crémazie n'avait aucune occupation fixe. Il y attendait la fin de la Commune pour retourner à Paris.
Dans une de ses pérégrinations solitaires à travers la ville, il fit la découverte de la bibliothèque publique. Elle contenait plus de trente mille volumes. Le bibliothécaire, "un beau vieillard à figure monastique", était très affable et très complaisant. Crémazie se lia d'amitié avec lui et il passa, ensuite presque toutes ses journées à la bibliothèque, étudiant les vieilles chroniques d'Orléans.