Échecs et Intelligence Artificielle: qu’en pense Frederic Friedel, le gourou de ChessBase? (2e partie)

Avant de nous plonger dans la suite de la discussion entamée il y a quelques jours, faisons un rapide retour dans le passé. Il y a maintenant vingt ans, Jean-Michel Péchiné publiait déjà Europe Échecs une interview de Frederic Friedel, intitulé "Le cauchemar des Rois". C'était à l'occasion du match "Brains in Barhain" joué entre Kramnik et Deep Fritz, en October 2002. Les deux extraits ci-dessous montrent que l'avènement de l'intelligence artificielle posait déjà des questions de définition et d'éthique.

Passons maintenant à la deuxième partie de la discussion téléphonique que Jean-Michel Péchiné a menée avec Frédéric Friedel en décembre 2020. L'article est paru dans le numéro de février 2021 d'Europe Échecs, que vous pouvez acheter ici. Jean-Michel a été conseillé et guidé par Henri Assoignon, du bureau administratif d'Europe Échecs.

Conscience de soi

Ce n’est qu’une machine. Elle n’a pas de sensibilité au sens où nous l’entendons. Nous avons des connexions spécifiques dans notre cerveau qui nous font réagir selon les circonstances et les situations que nous vivons. Nous les interprétons comme du plaisir, de la peine et toutes autres sortes d’autres émotions. Il faudrait inventer un mot nouveau pour exprimer ce que «ressentent» les ordinateurs. Ils sont peut-être plus forts que nous dans de nombreux domaines, mais ils n’en ont pas conscience. Au sens humain, la conscience de soi est justement ce qui distingue les êtres humains, ainsi que quelques animaux, de toutes les autres espèces. À mon avis, les ordinateurs atteindront ce que les experts appellent «la singularité» dans un futur relativement proche. Je pense que d’ici 20 ou 30 ans, ils seront aussi intelligents que nous. Ils seront capables de construire eux-mêmes de nouveaux ordinateurs, ce qu’ils font déjà, d’ailleurs. Les processeurs actuels, avec des centaines de millions de transistors, sont principalement conçus par des algorithmes informatiques. Mon fils est un programmeur très compétent. Aujourd'hui, il n'écrit plus de programmes. Il dit à l'ordinateur ce qu'il veut programmer, et l'ordinateur le fait pour lui. Au lieu de simplement écrire un programme, il écrit des programmes qui écrivent des programmes pour lui.

A l’écoute des humains

Lorsqu’ils seront aussi intelligents que nous, ils ne construiront pas seulement les voitures qu’ils conçoivent déjà. Ils feront tout plus vite et mieux que les humains. Ce que nous ignorons, c’est ce qui passera lorsqu’ils seront 10, 50, voire 100 fois plus intelligents que nous. Une chose est sûre, nous ne pouvons pas les arrêter. On ne peut pas stopper l’Intelligence Artificielle en appuyant sur un bouton «arrêt». Si l’Union Européenne et les États-Unis, par exemple, décidaient un arrêt complet de l’IA, d’autres pays continueraient certainement sur cette voie, comme la Corée du Sud, le Japon, l’Iran, l’Inde ou Israël. Les ordinateurs créent de grandes quantités de richesse et d'énergie. Ils aident à concevoir des réacteurs nucléaires, des voitures électriques super économiques ou à hydrogène, ils peuvent optimiser la production, voire l'ensemble de l'économie. Nous ne pourrons pas arrêter cela. Il nous aide, en général, à améliorer nos vies. Nous pouvons simplement leur dire ce que nous voulons et ils décident comment ils le font. Ils amélioreront souvent nos souhaits. Dans le futur, ils pourront nous répondre : «Ce n’est pas d’une voiture dont vous avez besoin, c’est d’un nouveau mode de transport.» Ce sera le cas dans de nombreux domaines d’application, comme la médecine, la santé, l’économie…

Scénario du futur!?

Si nous gardons une vision optimiste, les ordinateurs seront à nos côtés. Dans le meilleur des scénarii, ils nous écouteront et nous aideront à améliorer nos vies. Mais il y a une vision pessimiste. Je le dis juste pour «provoquer» les gens afin qu’ils réfléchissent à ces enjeux du futur. Admettons que les ordinateurs deviennent 100'000 fois plus intelligents que nous. Ce seront eux qui nous diront ce que nous devons faire. Ils décideront et nous ne pourrons rien faire contre ça. On ne pourra pas les détruire. C’est un scénario possible. Mais j’aime continuer à croire qu’ils rendront le monde meilleur pour les humains, qu’ils nous aideront à préserver l’environnement, pour améliorer notre qualité de vie. J’espère même que les ordinateurs ressentiront une forme de gratitude. Ils se diront : «À l’origine, ce sont ces 'singes étranges' qui nous ont créés. Nous devons nous occuper d’eux.» Savoir dans quelle direction va l’IA est une chose qui nous concerne tous. 

2001, Odyssée de l’Espace

La célèbre partie jouée par l’ordinateur Hal contre un astronaute, dans le film de Stanley Kubrick (sorti en 1968), n’est rien de plus qu’une partie opposant un ordinateur à un amateur. Fritz aurait pu jouer de la même manière et il pouvait déjà vous dire, dès 1992 ou 1993: «Désolé, Frank, mais tu as perdu.» Fritz est un programme qui ne sait faire qu’une chose: jouer aux échecs. Il ne peut pas prendre le contrôle du vaisseau spatial, comme dans le film. HAL est effectivement une forme d’Intelligence Artificielle, telle que nous la conceverons d’ici un certain temps au 21^e siècle. Hal a conscience de lui-même. Cela n’a rien à voir avec AlphaZero ou Fat Fritz, qui sont juste des réseaux neuronaux.

À l’image de Carlsen

L’un des domaines essentiels des programmes d’échecs est l’exploration des idées nouvelles. Un programme comme Fat Fritz vous montrera des coups qui n’ont jamais été joués. Comme je vous l’ai dit, si la théorie considère qu’il ne faut pas prendre le ♙, le logiciel peut vous dire: «Justement, prends-le!» Si vous lui demandez pourquoi, il ne pourra pas vous répondre. Pour comprendre, vous devrez jouer contre lui et trouver par vous-même pourquoi c’est le un coup pertinent. C’est une bonne chose pour les échecs car cela invite les joueurs à être plus courageux, à prendre plus de risques en testant de nouvelles idées sur l’échiquier. Quand je regarde les parties de Magnus Carlsen, je peux voir qu’il travaille avec des programmes d’IA. Il n’est pas le seul, bien sûr.

Nouveautés théoriques avec ChessBase

L’évolution des bases de données d’échecs vous permet de mettre sans cesse à niveau vos connaissances. ChessBase 16 le fait automatiquement pour vous. Vous croyez avoir trouvé un «coup nouveau» dans une certaine variante. Le programme va passer au crible des millions de parties, en une seconde ou deux, pour vous dire qu’il n’est pas nouveau. Il a déjà été joué dans sept ou huit parties. Les voici, et voilà comment les parties ont continué! Ou comment elles auraient dû continuer, parce que le programme a déjà ciblé les mauvais coups joués. Vous pouvez alors les analyser avec le programme pour comprendre parfaitement ce qu’il dit.

Répertoire d’ouvertures

Vous pouvez aussi demander au programme de maintenir à niveau votre propre répertoire d’ouvertures. Vous lui indiquez quel type de variantes vous aimez jouer. Il vous répond: «Ok, laisse-moi le temps d’y réfléchir!» Vous vous servez un café et vous revenez voir le résultat. Le programme vous présente un répertoire complet, ainsi que les nouveautés les plus récentes dans chaque ligne. ChessBase 16 peut vous dire: «Un amateur a joué ce coup. Il est excellent, mais il s’est trompé quelques coups après et a perdu.» Le programme vous indique instantanément comment il aurait dû jouer. Et il sait même distinguer entre ce qui est bon pour un amateur, pour un fort joueur de club ou pour un super GM. Aussi vous conseille-t-il en conséquence.

40 ans de révolutions

Lorsque nous avons créé ChessBase, en 1987, je n’avais aucune idée de ce qui allait arriver, et je crois que personne n’en avait conscience. Il y a 40 ans, j’avais réalisé deux reportages sur les ordinateurs d’échecs pour la télévision allemande. Je m’étais intéressé a ce qu’on appelait alors «l’intelligence artificielle» entre guillemets. Dans l’un d’eux, j’avais dit ce que les ordinateurs ne seront jamais capables de faire. J’avais tout faux. A l’époque, je croyais qu’ils ne pourraient jamais conduire une voiture, marcher sur deux pieds, reconnaître un visage humain, comprendre un discours. Aujourd’hui, ils peuvent déjà faire tout cela! Les ordinateurs nous écoutent et nous parlent. Ils comprennent nos questions et sont capables de nous donner des réponses utiles.

Préservation de la Terre

Je ne sais pas si les ordinateurs seront nos amis. Nous devons trouver le moyen pour qu’ils restent à notre service, qu’ils prennent soin des humains, même s’ils deviennent bien plus intelligents que nous. Les ordinateurs ne sont pas en compétition avec nous. Ils n’ont pas besoin des ressources de la terre, des arbres, de l’eau, ni même de l’air, ces choses dont la nature recèle. Ils ont juste besoin d’énergie et il y une source d’énergie fantastique près de nous: le soleil. C’est un gigantesque réacteur en fusion. Un seul astéroïde suffit pour exploiter et modéliser des milliards d’entités d’IA sur terre. Si elles manquent d’énergie, elles ont juste à se déplacer de 1000 kilomètres pour se rapprocher du soleil. Et donc, heureusement, les ordinateurs ne vont pas lutter contre nous pour des ressources terrestres. Ils pourront nous voir comme des gens irresponsables qui détruisent leur propre planète. Mais ils peuvent aussi continuer leur propre expansion dans l’univers.

Source d’inspiration

Si je donne votre nom à Google, il sait qui vous êtes, votre numéro de téléphone, votre adresse, les choses qui vous intéressent, les choses que vous aimez acheter. Si vous donnez un nom à ChessBase 16, le programme va tout vous montrer de ce joueur: à quoi il ressemble, l’évolution de son classement Elo, comment il jouait à tel ou tel âge, ses systèmes favoris, ses variantes favorites, ses plus grands succès en tournois, etc. Il vous permet de vous préparer contre lui, d’adapter votre jeu à son style de jeu. Il peut même imiter son style pour vous permettre de jouer à l'avance virtuellement contre votre futur adversaire.

Intégrer l’erreur humaine

Je travaille actuellement sur un projet pour faire un moteur d’échecs faible. C’est l’un de mes projets personnels. Si vous avez un Elo à 2500 ou 2600, vous pouvez apprendre énormément en jouant contre Fritz. En dessous de ce niveau, vous ne comprendrez peut-être rien à ce qu’il joue. Je veux qu’un moteur d’échecs soit plus faible. Lorsque mon fils jouait contre les premières versions de Fritz, il en avait conclu qu'aux échecs, on ne peut jamais gagner de matériel et on se fera toujours écraser en moins de 20 coups. Fritz était implacable. Je veux qu'il commette des erreurs humaines. L'objectif est de permettre aux amateurs de prendre du plaisir à jouer et à progresser. Fritz 16 et 17 ont déjà des niveaux spéciaux "ami" qui font cela, jusqu’à un certain degré. Ce moteur d’échecs jouera des coups qui permettent à l'adversaire de prendre un certain avantage. Il vous dira ensuite si vous avez manqué des opportunités. Je veux améliorer cet aspect, que le programme ait une meilleure «Stupidité Artificielle».

À la portée de tous

ChessBase a démocratisé le jeu et sa pratique, dans une large mesure. Il y a 40 ans, quelques joueurs, Spassky, Karpov, Kasparov, avaient un avantage considérable dans leur préparation et leur entraînement. Ils avaient leur propre équipe de GMs qui les secondaient. Leurs entraîneurs coûtaient très cher: «Ok, je te montre comment tu pourrais battre cet adversaire, mais tu me paies 800 ou 1000 dollars, ou tu me paies un salaire mensuel.» Aujourd’hui, si vous voulez vous entraîner comme le champion du monde, avoir tous les outils qu’il utilise, cela vous coûte 200 à 300 euros. Nous avons démocratisé la préparation. Au tennis, les meilleurs joueurs ont des raquettes et des chaussures spéciales. Ils ont les meilleures conditions d’entraînement. Aux échecs, tout le monde a les mêmes outils. Garry Kasparov était le meilleur joueur du monde et il avait la meilleure équipe d’analystes. Mais il nous a encouragé à construire ChessBase, essentiellement pour partager ses avantages avec tout le monde. Pour cela, je lui suis éternellement reconnaissant. »

Pour poursuivre la discussion, à voir (en anglais):

• Frederic Friedel: My wonderful AI predictions 
  En 1970, j'ai écrit l'introduction d'un documentaire télévisé sur l'intelligence artificielle. C'était bien pensé et très intelligent, mais, bon sang, j'avais tort!
• A. S. Deller: Will an A.I. Ever Think and Feel Like a Human?