Université du Québec à Montréal

Dominic Martin

Dominic Martin est professeur en éthique à l’École des Sciences de la Gestion de l’Université du Québec à Montréal. Ses principaux domaines de recherche recoupent l’éthique des affaires, l’éthique économique et la philosophie politique. Il s’intéresse aussi à la question de la justice distributive en lien avec les obligations éthiques de l’état, des agences de réglementation, et des autres organisations privées (ou publiques) du marché.

Communication :

Agents moraux artificiels (AMA) et l’approche de Stuart Russell

Résumé:

Dans cette présentation, je m’intéresserai à la possibilité de créer des systèmes d’intelligence artificielle (IA) capable de prendre des décisions alignées avec la moralité humaine. Dans un premier temps, je donnerai un peu plus d’information sur le contexte dans lequel s’inscrivent les travaux sur les AMA et sur la manière dont il faut comprendre l’idée d’alignement éthique ou de compétence morale chez un agent artificiel. J’expliquerai, dans un deuxième temps, l’approche de Stuart Russell et sa solution au problème de l’alignement éthique. Je soulignerai certaines forces de cette approche, notamment l’idée d’amener le système à toujours vouloir découvrir les préférences des agents humains avec lesquels il interagit et l’utilisation de l’apprentissage par renforcement inverse (inverse reinforcement learning) pour découvrir ces préférences. Dans un troisième temps, je discuterai des difficultés soulevées par cette approche : type d’approche axiologique basée sur l’utilitarisme, hypothèse de la capacité de calcul illimitée et le choix du degré de satisfaction des préférences comme valeur à optimiser.