« Pac-Man » au secours de la recherche sur les intelligences artificielles

Les intelligences artificielles sont de plus en plus présentes dans notre société, c’est un fait. Mais une question demeure : comment prennent-elles leurs décisions ? Le processus de raisonnement de ces machines est d’une complexité telle que nous ne sommes actuellement pas capable de le décortiquer.

C’est afin de répondre à cette problématique que Sam Greydanus, Anurag Koul, Jonathan Dodge et Alan Fern, un groupe de chercheurs américains a développé une intelligence artificielle capable de prendre des décisions en effectuant des tâches simples. Et quoi de plus simple que les premiers jeux vidéo d’arcade ? C’est pour comprendre la manière dont cette machine joue que les scientifiques lui ont appris les commandes de base des jeux « Pac-Man », « Space Invaders » ou encore « Pong » avant de la laisser aller avec pour seul objectif de réaliser le meilleur score.

Après des milliers de parties, les chercheurs ont constaté une nette amélioration des scores réalisés par la machine. En effet, les algorithmes ont peu à peu supprimé les mauvais mouvements et renforcé ceux permettant d’obtenir un meilleur score. Appelé apprentissage par renforcement, ce type d’apprentissage ne permet toutefois pas de comprendre comment fonctionne le processus. C’est pourquoi les scientifiques ont inventé un protocole très simple : ils empêchent l’intelligence artificielle de voir certaines parties de l’écran et constatent si les performances changent. Si ce n’est pas le cas, c’est que les informations qui se trouvent dans la région masquée ne sont pas utiles à l’apprentissage de la machine.

Ainsi, les chercheurs ont compilé les données recueillies afin de créer une carte indiquant les zones qui servent au bon fonctionnement de l’intelligence artificielle. Par exemple, les scientifiques ont pu déterminer que l’intelligence artificielle, lorsqu’elle joue au jeu « Pac-Man », se concentre sur les pastilles à récupérer et ignore les ennemis du jeu.

Ces observations peuvent sembler triviales, mais elles pourraient permettre de développer un modèle pour évaluer des tâches plus complexes telles que la reconnaissance de points de repère guidant une voiture autonome. De même, connaître le raisonnement qui se produit lors du processus de prise de décision des intelligences artificielles pourra permettre de corriger les erreurs commises par la machine en trouvant la source du problème.