Le palais des ducs se trouvait à l'extrémité de la rue de la Liberté, face à la place d'Armes ; il s'agissait d'un ensemble de majestueux édifices où étaient logés les bureaux du maire, ainsi que plusieurs musées. Dans la cour on pouvait encore voir la cuisine ducale qui n'était rien d'autre qu'une grande cheminée sortant d'un espace formant le four lui-même.