Connaissez-vous le redoutable "dilemme du tramway" : il vous suffit d'imaginer qu'un train roule à grande vitesse. Dans quelques secondes, ce train va arriver à une jonction et pourra alors, en fonction de votre seul choix, partir vers la voie de droite ou celle de gauche. Mais sur les rails de droite, un jeune homme est coincé, alors que sur ceux de gauche, cinq hommes sont attachés. Quel choix allez-vous faire ?
Depuis un an, une équipe de chercheurs du MIT a lancé un curieux site appelé Moral Machine qui reprend ce dilemme pour tenter de définir un cadre moral d'action des systèmes d’intelligence artificielle. Sur ce site, les participants sont invités à voter pour savoir si une voiture autonome doit écraser les passants de droite, ceux de gauche ou, parfois, sacrifier les personnes se trouvant dans la voiture.
A ce jour, près de 18 millions de votes ont été enregistrés sur les différents questionnaires, pour 1,3 million de votants. La quantité de données a fourni des idées aux deux chercheurs, Iyad Rahwan, chercheur au MIT à l’origine de Moral Machine, et Ariel Procaccia, professeur assistant en science informatique à l’Université Carnagie Mellon. Ils ont décidé de créer une IA fondée sur les réponses à Moral Machine.
Les deux chercheurs expliquent comment ils ont créé leur intelligence artificielle capable d’évaluer et de prendre des décisions, selon les choix de la communauté de Moral Machine (Voir article Arxiv).
"Nous ne disons pas que le système est prêt à être utilisé en conditions réelles mais notre algorithme démontre que le recours à un processus de décision démocratique peut aider dans les grandes problématiques éthiques qui existent sur la conception de l’IA".
Les choix que fait l’IA des deux chercheurs sont donc conformes à ceux des internautes. Elles reflètent donc les choix humains. Entre écraser un criminel et une personne normale, l’IA choisit constamment le criminel. Et entre sacrifier une personne au lieu de deux, elle choisira toujours de sacrifier la personne seule.
Article rédigé par Georges Simmonds pour RT Flash
