Le fabuleux chantier

Je ne savais pas trop à quoi m'attendre en m'embarquant dans le livre du mathématicien youtubeur Lê Nguyên Hoang et du chercheur El Mahdi El Mhamdi. Malgré leurs efforts de pédagogie, le livre reste un livre d'ingénieurs, de logiciens, qui ne voient la question de la régulation des systèmes que sous la forme d'équations à résoudre. le fabuleux chantier est un chantier assez dépeuplé, très rationalisant, qui va parfois un peu trop loin puisqu'il suppose ou fait le pari que la philosophie et la morale ne sont rien d'autre qu'un défi de calcul. Ce qui explique que le livre est bien meilleur sur les problèmes que sur les solutions.

Leur propos est simple. Si les IA ont des effets secondaires problématiques, alors il faut améliorer leur niveau moral selon un positivisme exacerbé qui nous fait croire qu'il suffira de rendre nos machines plus morales que nous ne le sommes pour qu'elles ne soient jamais malveillantes. Elles doivent nous guider vers une amélioration de nous-mêmes, un moi++ qui consiste à remplacer nos préférences par nos volitions (c'est-à-dire, ce qu'on préférerait préférer). Une forme de volonté de puissance qui consisterait à brider toutes nos faiblesses humaines pour se contraindre à des buts à long terme. Pour améliorer YouTube, il suffit donc qu'il ne fasse que des recommandations sérieuses.

Plutôt que ce délire logicien au mieux agaçant au pire très problématique (comme leur défense de monopoles sur l'IA), on retiendra plutôt quelques règles que leur grande compréhension des systèmes permet de disséminer dans l'ouvrage. Comme le fait que les machines doivent mieux mesurer leurs incertitudes. Que la qualité de l'analyse des données est plus importante que la qualité des données... Pour les auteurs, le fabuleux chantier est celui de la corrigeabilité des IA. Et pour cela, elles doivent mieux mesurer l'étendue de leur ignorance. Si nous sommes d'accord sur l'enjeu de responsabilité, nous divergeons sur les moyens. le calcul ne suffira pas à faire société !
Lien : https://hubertguillaud.wordp..