En 1907, il écrivit ainsi une lettre à Charles Vellay, ce dernier louant son admiration pour Robespierre, ce que Guillaume récuse. Il affirme au contraire son attachement à l'action du peuple français en Révolution : « Il ne faut pas qu'il y ait de malentendu. Je ne suis point un "fidèle" de Robespierre. [...] Du reste, ceux à qui va ma sympathie sans réserve, dans la Révolution, ce ne sont pas les chefs de file, qui tous, par quelque côté, prêtent à la critique : ce sont les obscurs sans-culottes, c'est la grande masse populaire dont les aspirations furent, en 1793, ce que sont encore celles de ce prolétariat parisien massacré en 1871, et qui lutte aujourd'hui avec la même vaillance pour l'égalité. »
Quant à Jules Ferry, l'ancien maire de Paris chassé par le soulèvement de 1871, il s'inscrit lui aussi dans cette perspective non pas d'une école du peuple mais d'une école pour le peuple. Il espère « clore l'ère des révolutions », au moyen de l'instruction : lecture, écriture, calcul mais aussi histoire, géographie, éducation civique, etc. L'école aura pour finalité première d'asseoir le nouveau et fragile régime face à ses deux rivaux : l'Église et le mouvement ouvrier. Il s'agit de transmettre au peuple le minimum de savoirs nécessaires à la reproduction du système sans mettre en péril l'organisation sociale.