L’IA apprend à jouer le jeu

Dans le jeu vidéo, l’intelligence artificielle n’est pas conçue pour être dominante mais pour améliorer l’expérience. Dans cette optique, les techniques d’apprentissage, encore balbutiantes dans cette industrie, seront une évolution majeure.

Il ne se passe pas une journée sans que l’intelligence artificielle fasse l’actualité, comme s’il s’agissait d’une nouveauté. L’IA est pourtant une vieille connaissance des amateurs de jeu vidéo, confrontés à des adversaires ou épaulés par des complices obéissant à des algorithmes inscrits dans des lignes de code. Mais est-ce vraiment de l’intelligence, que l’on pourrait définir par la faculté d’apprendre et de raisonner, c’est-à-dire d’exploiter ces connaissances pour résoudre un problème et s’améliorer ? La réponse est négative car le fameux « script » perdure : les réactions de l’environnement, notamment celles des personnages non jouables (PNJ), demeurent conditionnées par les actions du joueur.

« Cette technique, portant le nom de « state machine », est à l’œuvre dans la grande majorité des jeux vidéo, explique Dorian Kieken, fondateur de la société Age of Minds et ancien de Bioware Montreal, ayant travaillé sur la saga Mass Effect. C’est plus rapide et moins cher à développer. Mais ce n’est que de la poudre aux yeux. » Entretenir l’illusion, en somme. « Dans Duke Nukem 3D, sorti au milieu des années 90, les ennemis se baissaient aléatoirement pour éviter les tirs, ce qui donnait l’impression au joueur qu’il visait mieux. Half Life, dont l’IA débusquait le joueur à coup de grenade, était impressionnant à l’époque, mais n’en restait pas moins une basique simulation de la réalité. »


Ce classement des 10 meilleures IA rencontrées dans le jeu vidéo peut prêter bien sûr à discussion, selon l’expérience ressentie par chaque joueur.

L’algorithme « state machine », même approfondi, aboutit en outre à des automatismes, que le joueur finit par anticiper. La recherche arborescente Monte Carlo, dont l’ordinateur Deep Blue s’est servi pour battre Kasparov aux échecs en 1997, est un autre algorithme employé dans les jeux de stratégie en particulier.

Schématiquement, l’adversaire artificiel du joueur humain explore les mouvements possibles à partir d’une position et analyse pour chacun les probabilités de victoire avant de prendre une décision. Mais d’apprentissage, point. Des tentatives ont pourtant eu lieu par le passé. « Le jeu Creatures, dès les années 90, s’appuyait sur des réseaux neuronaux, se souvient Dorian Kieken. Le jeu était lent car la puissance de calcul n’était pas au rendez-vous à l’époque. »

Le GPU révolutionne l’IA

Ces réseaux de neurones artificiels, qui cherchent à modéliser les processus cognitifs du cerveau humain, ont pour rôle principal l’apprentissage (ou machine learning) et son dérivé, l’apprentissage profond (deep learning).

La théorie remonte aux années 80 mais ne se concrétise que depuis quelques années, grâce à la synergie de trois facteurs. « On a désormais accès à d’énormes puissances de calcul, constate Dorian Kieken. La révolution a commencé quand les chercheurs ont utilisé les GPU (Graphic processing unit, les processeurs graphiques accélérant les opérations de calcul en parallèle, omniprésente dans l’apprentissage). L’architecture Titan de NVIDIA est prévue à cet effet. Ensuite, les données qui nourrissent ces fonctions d’apprentissage existent maintenant en très grande quantité. Enfin, les algorithmes ne cessent de s’améliorer. »

Cette conjonction explique l’apparition des IA capables de reconnaître des images ou de comprendre le langage naturel. Les éléments semblent en place pour que des IA apprenantes s’épanouissent dans les jeux vidéo et remplacent les systèmes actuels, où les PNJ font « bêtement » ceci parce qu’il se passe cela.

Quelques démonstrations éclatantes ont bien eu lieu : une IA conçue par l’association OpenAI (présidée par Elon Musk et Sam Altman) a réussi à battre les meilleurs joueurs de Dota2, sans se montrer invincible toutefois. Il n’empêche, l’industrie est à la traîne. La première raison, déjà évoquée plus haut, est d’ordre économique. « Développer de telles IA coûte cher en matière grise, confie Dorian Kieken, et le retour sur investissement n’est pas évident. Ce n’est pas considéré comme un argument pour augmenter les ventes. » De beaux graphismes se montrent souvent plus convaincants…


Joueur professionnel et donc expert de Dota2, Dendi a été défait par une IA développée par OpenAI. C’est une illustration des progrès réalisés dans ce domaine de recherche.

La seconde raison est plus subtile. « Un jeu vidéo a pour objectif de divertir, pas forcément de proposer des PNJ brillants qui surpassent les humains, poursuit Dorian Kieken. Le joueur qui perd tout le temps est aussi frustré que le joueur qui gagne tout le temps. Le mieux, c’est quand le joueur gagne de peu. L’IA peut alors aider à bonifier l’expérience. Celle de Left 4 Dead 2 est un bon exemple : elle adapte le rythme des vagues de zombis en fonction des performances des joueurs ».

Les jeux non prédictibles sont aussi une piste d’avenir. « Le système deviendrait une boîte noire avec des possibilités infinies, susceptibles de surprendre le joueur. Mais il s’approcherait en même temps de la complexité de la réalité, au risque de s’éloigner d’une expérience sous contrôle » admet Dorian Kieken.

Contre la triche et les bugs

S’ajoute le fait que ces techniques d’apprentissage mobilisent des compétences encore peu répandues dans le milieu du jeu vidéo. Mais l’évolution est notable. « Certaines personnalités occupant des positions stratégiques chez les éditeurs possèdent de bonnes connaissances sur le sujet, note Dorian Kieken. Et cette année, plusieurs conférences sur le machine learning se sont tenues à la GDC (Game Developers Conference, un événement majeur pour tous les professionnels du jeu vidéo). »

Des IA apprenantes s’imposent d’ores et déjà, mais leur vocation est davantage utilitaire que ludique. Ainsi Valve a-t-il élaboré VACnet pour identifier automatiquement les tricheurs qui perturbent les parties de Counter Strike. Le studio La Forge d’Ubisoft a quant à lui mis au point le Commit-Assistant, une IA qui dépiste les bugs dans le code de programmation, afin que l’équipe de développement gagne du temps.


Chez Ubisoft, le studio La Forge a conçu une IA pour repérer les bugs et soulager le travail des développeurs.

Et si l’IA jouait pour se perfectionner ? C’était l’ambition du projet Deepdrive : le jeu GTA 5 servait de laboratoire virtuel afin que les logiciels embarqués dans les véhicules autonomes apprennent plus vite à mieux conduire (ce qui peut faire sourire, compte tenu de la réputation des GTA). L’éditeur Take Two n’ayant pas apprécié, le projet se base aujourd’hui sur un moteur 3D indépendant.

Ce type de démarche est quoi qu’il en soit prometteur et a motivé Dorian Kieken pour créer l’an dernier son entreprise Age of Minds, à mi-chemin entre le divertissement et la recherche : « Le jeu vidéo constitue un énorme terrain d’entraînement pour éduquer les IA et les préparer à d’autres types d’applications. Le top, c’est un jeu qui fait plaisir aux joueurs, qui entraîne l’IA, ce qui au final apprend l’IA à interagir avec les humains. C’est de l’apprentissage avec un humain dans la boucle. » Les résultats de toutes ces initiatives, couplés à la puissance des futurs PC gamer et des consoles, devraient contribuer à la naissance d’IA au comportement toujours plus crédible, ou à l’inverse, plus étonnant. Ce qui, espérons-le, éblouira le joueur au moins autant que la 4K à 60 images par seconde.

  • Ptitkuro

    « Chez Ubisoft, le studio La Forge a conçu une IA pour repérer les bugs et soulager le travail des développeurs. » Ah, ben elle n’est pas performante cette ia alors