Jean-Paul Oury: Encore plus effrayant que l’IA Militaire, l’IA Président de la République ?

Encore plus effrayant que l’IA Militaire, l’IA Président de la République^[1] ?

Un sondage récent de l’université IE de Madrid révèle qu’un Européen sur quatre serait prêt à placer une Intelligence artificielle au pouvoir. Faut-il s’inquiéter pour la démocratie ou au contraire se réjouir de cette confiance des Européens dans la technologie ?

LES EUROPÉENS PRÊTS À ÉLIRE UNE IA ?

D’après l’étude en question, sur 25 000 européens interrogés, environ un sur quatre serait prêt à se laisser gouverner par une IA. Notons que l’on observe de fortes variations entre les pays, car si la moyenne européenne tourne autour de 30 %, les sondés aux Pays-Bas sont largement plus ouverts à l’idée d’avoir un gouvernement piloté par un super ordinateur (+ 43%) qu’en France (+ 25%). « L’idée d’un outil pragmatique, imperméable aux magouilles et à la corruption » est l’un des arguments qui semble intéresser le plus les sondés. À cela s’ajoute les options que permettraient le Machine Learning : en effet, l’IA décrite serait en mesure de s’améliorer en étudiant et sélectionnant les meilleures décisions politiques au monde…. Elle serait alors en mesure de prendre de meilleures décisions que les politiques en place.

À QUAND UNE IA AU POUVOIR ?

Si nous avions dû répondre par oui ou par non à la question captivante de ce sondage, nous nous serions trouvés dans l’embarras. Il faudrait un livre pour traiter en profondeur toutes les problématiques soulevées ici, à commencer par la définition de l’IA.

Comme on le sait, les discussions sur le sujet ont commencé dans les années 1950 avec l’article d’Alan Turing qui se demandait si « Les machines peuvent penser » et proposait un test qui portera son nom ^[2]. Selon lui, les machines pourront un jour penser par elles-mêmes et, contrairement à l’affirmation selon laquelle elles ne se limitent qu’à ce qu’on leur apprend, elles seront susceptibles de dépasser ce stade de l’apprentissage. Notons que c’est dans les années 1960 qu’Herbert Simon affirma : « Les machines seront capables, dans vingt ans, de réaliser tout ce qu’un homme peut faire. »^[3]

Il est tautologique d’affirmer que pour qu’une IA prenne le pouvoir, il faut que ces prophéties se réalisent. Comme le souligne Gérard Berry : « Le problème est que dans la plupart des discussions on prend grand soin de ne pas définir le mot ‘intelligence’, l’arrangeant à la sauce de la discussions en cours. Or ce mot est bien trop riche pour se laisser définir simplement (…) quand j’entends des phrases comme ‘dans trente ans, la machine va être plus intelligente que l’homme, ce sera la singularité’, je suis plus que sceptique »^[4] Cette remarque nous permet de rebondir sur un point essentiel : imaginer qu’un jour nous pourrons être gouvernés par des machines, suppose que nous puissions atteindre la Singularité.

Ce concept, rappelons-le, suppose que l’avènement d’une intelligence artificielle réellement autonome déclencherait un emballement de la croissance technologique qui induirait des changements imprévisibles sur la société humaine. Or si le nombre des trans-humanistes ne cesse de croître, on compte également de nombreux sceptiques. Ainsi, comme nous l’avions déjà évoqué^[5], le professeur Jean Gabriel Ganascia, un autre expert du sujet est très critique à l’égard du concept de Singularité et a même écrit un livre dans lequel il soutient que c’est un mythe^[6]. Il semble bien pourtant que ce moment historique soit la condition de possibilité de la question clé de notre sondage…

« LE ROBOT » FERAIT-IL UN BON PRÉSIDENT ?

Mais admettons qu’un jour le concept de Singularité voit le jour. Serait-ce alors souhaitable que nous soyons gouvernés par cet être sur-intelligent et issu des meilleurs cerveaux humains ? Certes, la science-fiction nous propose quelques scénario terrifiants : on pensera à Hal 9000 l’IA qui prend le contrôle de la Mission Jupiter, ou encore Skynet l’IA qui opprime les humains dans le film Terminator, au point de vouloir les éradiquer…. À Hollywood, l’IA est forcément tyrannique. Mais on se doute que l’histoire d’un gentil roi robot adulé de ses «  sujets » ne ferait pas vendre. Pourtant c’est bien la question qui nous est posée.

Or, force est de reconnaître qu’une part de la fascination à l’égard de l’IA est liée à la perte de pouvoir. On a peur de libérer dans la nature une force qui nous échappe^[7] : le robot-soldat qui n’obéit plus aux ordres ; le robot-philosophe qui se met à penser par lui-même ; et donc il nous faut imaginer qu’un robot président capable de prendre, lui-aussi, des décisions qui lui sont propres et qui nous échapperaient. Aussi, il pourrait agir à sa guise pour nos intérêts et, pourquoi pas, puisqu’il serait autonome, contre nos intérêts. Certes, en agissant ainsi, il contredirait les trois lois d’Asimov^[8]. En conséquence et au regard de ces quelques considérations, nous pensons qu’avant de fantasmer sur la bonne gouvernance potentielle d’une IA, il y aurait une autre question préalable à se poser : une IA pourrait-elle être susceptible d’accomplir un acte politique ? À commencer par voter, par exemple ? Les problèmes s’accumulent bien au-delà de nos compétences ; aussi, en avoir conscience permet de mieux cerner la question sans pour autant tomber dans les fantasmes et propager des légendes.

UBERISER LE POLITIQUE AVANT DE LE « ROBOTISER » ?

Partant du principe qu’il n’y a pas un jour qui passe sans qu’on apprenne qu’un robot postule à de nouveaux métiers et prétend remplacer l’homme, on ne voit pas pourquoi les élus y échapperaient. Mais avant de fantasmer sur le règne sans pitié de « IA premier », il y a bon nombre d’étapes.

Le grand débat qui vient d’avoir lieu en France nous fournit un bon exemple. En effet, les responsables en charge du dispositif on annoncé dès le départ qu’ils utiliseraient des solutions d’IA afin de traiter des revendications déposées. Annonce qui semble plutôt aller dans le bon sens, car on voit mal comment un cerveau humain serait capable de réaliser une grande synthèse de plus d’un million de contributions sans l’assistance d’une machine^[9]…

Mais c’est loin d’être la seule application possible. Ainsi, comme l’évoque une étude Deloitte intitulée « Comment l’Intelligence artificielle pourrait transformer le gouvernement », l’IA pourrait venir en aide aux fonctionnaires de l’administration US pour économiser un nombre d’heures phénoménal : « Le simple fait d’automatiser les tâches déjà effectuées couramment par les ordinateurs pourrait libérer 96,7 millions d’heures de travail par an au gouvernement fédéral, ce qui permettrait d’économiser 3,3 milliards de dollars. Au sommet de l’échelle, nous estimons que la technologie d’intelligence artificielle pourrait libérer jusqu’à 1,2 milliard d’heures de travail par an, ce qui permettrait d’économiser 41,1 milliards de dollars. » Ces chiffres font rêver. On imagine les gains de productivité possibles. Et dans ce cas de figure on perçoit très concrètement tout l’intérêt de mettre une IA au service du politique.

Pour conclure nous aimerions nous référer au spécialiste français de l’IA, Laurent Alexandre qui vient de publier « L’IA va-t-elle aussi tuer la démocratie ? ». Dans une interview récente il annonce : « Nous vivons un coup d’état numérique ». Il insiste sur le fait que les politiques européens ne sont pas au niveau des géants qui lui font face sur ce sujet en Asie ou aux USA : « Il est urgent que nos élites soucieuses de la démocratie se réveillent. » Il est bien clair que si elles n’y prennent garde, elles pourraient très vite se retrouver à devoir faire prochainement campagne contre des IA….

^[1] Dans un éditorial de novembre 2018, nous relations que les professeurs de l’École militaire de West Point avaient développé une Intelligence Artificielle Prof de Philo. Bina-48, c’est son numéro de matricule, ayant enseigné son premier cours sur le concept de guerre juste, nous nous étions alors demandé lequel était le plus effrayant des deux : l’IA prof de philo ou l’IA robot militaire. https://www.europeanscientist.com/fr/editors-corner-fr/encore-plus-effrayant-que-lia-militaire-lia-prof-de-philo/

^[2] Le test de Turing pose la question de savoir si on peut construire une machine qui ne peut être distinguée d’un humain lors d’une discussion écrite en aveugle. Turing n’employait pas le terme d’IA.

^[3] Nous conseillons à nos lecteurs de lire les textes sur l’IA, de notre expert Marc Rameaux, https://www.europeanscientist.com/fr/author/marc-rameaux/

^[4] Gérard Berry, L’Hyper-puissance de l’information, algorithmes, données, machines, réseaux, Odile Jacob, p. 421.

^[5] Voir à ce sujet notre éditorial : Singularité et téléportation : science-fiction hollywoodienne vs scepticisme européen ? https://www.europeanscientist.com/fr/editors-corner-fr/singularite-et-teleportation-science-fiction-hollywoodienne-vs-scepticisme-europeen/

^[6] « En 1993, l’année 2023 laissait un délai de trente ans, ce qui donnait du temps ; en 2010, ce terme approchant, Ray Kurzweil s’offre alors un répit supplémentaire, à nouveau d’un peu plus d’une trentaine d’années ce qui lui évite d’avoir à donner des gages empiriques de ses affirmations. Tout se passe comme au Moyen-Âge, avec l’anticipation de la date de l’apocalypse. », in Jean-Gabriel Ganascia, Le Mythe de la singularité, coll. « science ouverte », ÉditionsLe Seuil.

^[7] Comme nous l’avons déjà évoqué à plusieurs reprises, cette peur est similaire à celle des biotechnologies. Voir également le texte de Marc Rameaux à ce sujet : https://www.europeanscientist.com/fr/opinion/ia-et-ogm-les-deux-revelateurs-de-notre-rapport-a-la-nature-premiere-partie/

^[8] Il n’est pas anodin qu’une des lois d’Asimov a été imaginée à la suite de l’écriture d’un roman sur robot nounou qui a été pensé pour ne pas blesser l’enfant dont il devait s’occuper.

^[9] Certains ont noté qu’une IA qui dispatcherait les revendications à différents décideurs serait beaucoup plus efficace que celle qui veut à tous prix faire une synthèse.