Un droit de l'intelligence artificielle

Céline Castets-Renard est professeure titulaire à la Faculté de droit civil à l'Université d'Ottawa et titulaire de la chaire de recherche sur l'IA responsable à l'échelle mondiale. Elle est également titulaire de la Chaire de recherche Law, Accountability and social trust supportée par le Gouvernement français (ANR-3IA) au sein d'ANITI (Artificial and Natural Intelligence Toulouse Institute). Elle est membre experte de l'Observatoire de l'économique des plateformes en ligne au sein de la Commission européenne. Ses travaux de recherche portent sur le droit et la régulation du numérique et de l'intelligence artificielle dans une perspective comparée (droit canadien, européen et américain), spécialement la protection des données personnelles et de la vie privée, les technologies policières, les plateformes en ligne. Elle étudie aussi plus largement l'impact des technologies sur les droits humains, ainsi que les enjeux sociaux des technologies dans une perspective globale, en particulier dans les relations Nord-Sud et dans une perspective de droit humanitaire.
Conférence : Faut-il un droit de l'IA ? Vendredi 6 mai 2022, 16h - 16h45 — Amphi rouge
Les algorithmes d'intelligence artificielle en exploitation se sont immiscés dans les quotidiens professionnels et personnels, comme l'aide au diagnostic médical ou la détection d'anomalies dans l'industrie. Si les avantages de ces technologies sont certains, de nombreux travaux de recherche ont aussi révélé les risques sociaux. Les algorithmes d'apprentissage machine s'entraînent à partir de données massives pour prédire, recommander ou construire des décisions. Ils concernent directement les personnes ou groupes en désignant, par exemple, les bénéficiaires d'aides sociales ou de prêts. Or ces méthodes sont si complexes et utilisent une telle quantité de données et paramètres qu'il peut s'avérer impossible de comprendre comment les décisions sont prises et de les contester. Certaines applications d'IA peuvent par ailleurs générer des discriminations en raison d'erreurs et biais racistes, sociaux ou de genre, du fait notamment de surreprésentation ou sous-représentation de groupes dans les jeux de données. Face aux risques sociaux majeurs, des chartes et principes éthiques ont été adoptés, telle la Déclaration de Montréal. La démarche éthique doit-elle aujourd'hui être complétée par des règles de droit ? Les risques pour les droits humaines sont tels que plusieurs législateurs dans le monde y réfléchissent pour rendre l'IA « juridiquement responsable » et plus « inclusive ».