Après avoir essayé d'expliquer que, n'ayant pas eu, à proprement parler, de maître, il venait précisément au Conservatoire dans l'espoir, d'en trouver un, le jeune homme, épouvanté des gestes, des grimaces et des interjections franco-italiennes de Chérubini, finit par fondre en larmes. Ce fut son salut. Chérubini, dont le coeur était bon et le jugement sain, déclara que les essais à lui présentés n'étaient pas sans mérite, et admit leur auteur à suivre les leçons de M. Millaud, répétiteur de contrepoint et de fugue. En même temps, David fréquenta un cours libre professé par Reber, d'après les théories de Reicha, et s'adonna aussi à l'étude du piano, instrument qu'il affectionna toujours sans jamais parvenir à le bien posséder.
Une rencontre inattendue vint l'arracher à cette pénible existence et ouvrir à son esprit et à son coeur de nouveaux horizons. Un peintre nommé Justus, dont il fit probablement la connaissance en 1831, le dissuada sans doute de continuer ses études au Conservatoire, et le pressa de se joindre aux partisans de la doctrine Saint- Simonienne dont la révolution de 1830 n'avait pas peu contribué à augmenter le nombre. La vie du musicien allait entrer dans une phase nouvelle, et son adhésion devait l'amener à des conséquences dont il serait difficile d'exagérer la portée.
Sa persévérance n'en fut toutefois pas ébranlée : après l'étude de l'harmonie, il aborda celle du contrepoint sous la direction de Fétis, puis celle de l'orgue dans la classe de Benoist. Un bon numéro l'exempta de la conscription et lui permit de consacrer tout son temps au travail.