Doit-on craindre l’intelligence artificielle ?

Selon des économistes, le monde, en raison de l’intelligence artificielle (IA), est à l’orée d’une quatrième révolution industrielle. Et c’est ce qui les inquiète. On ne saurait nier, bien entendu, les bénéfices évidents et immédiats résultant déjà du développement de l’IA. Mais le Forum économique mondial a estimé qu’entre 2015 et 2020, son utilisation sur le lieu de travail éliminera jusqu’à 5 millions d’emplois dans les économies du monde développé. Chose intéressante, tandis que les machines intelligentes assument les rôles les plus routiniers, deux tiers de ces réductions auront un impact sur le soi-disant secteur des cols blancs¹.

Ceci dit, les économistes ne sont pas les seuls à être mal à l’aise. Des philosophes, des scientifiques et même des dirigeants dans le domaine de la technologie se disent préoccupés à l’idée que les machines puissent, au bout du compte, représenter une menace pour l’avenir de l’humanité. Des personnalités comme Stephen Hawking et Bill Gates, par exemple.

Devant notre dépendance croissante de la technologie, la question du contrôle est devenue plus urgente encore. Aujourd’hui, des machines pilotent nos avions et très bientôt, elles conduiront nos voitures… Les annonces qui apparaissent sur nos navigateurs internet et sur les médias sociaux résultent d’algorithmes informatisés, lesquels enregistrent notre comportement individuel en ligne. Il existe même des programmes de reconnaissance faciale permettant de nous identifier dans une foule !

Dans la culture populaire, le thème du danger potentiel d’une perte de contrôle de la technologie n’a rien de nouveau. Dans le domaine cinématographique, l’un des premiers exemples classiques d’un tel danger, c’est l’ordinateur HAL 9000 dans un film de 1968 intitulé 2001: L’odyssée de l’espace. Les critiques ont indiqué que dans ce film, le conflit entre HAL et les astronautes humains à bord d’un vaisseau spatial se concentre sur leur lutte désespérée d’achever une singularité dans laquelle soit la technologie, soit l’humanité émergera dans la prochaine phase de l’évolution des êtres sensibles de la terre.

Trente ans après L’odyssée de l’espace, Matrix, un autre film – une trilogie, en fait – véhicule le thème de la rivalité entre l’humanité et la machine dans une théorie plus sinistre encore. Dans ce film, l’humanité et l’IA en arrivent à une littérale confrontation. « Chaque mammifère sur cette planète, dit l’intelligence artificielle, développe instinctivement un équilibre naturel avec l’environnement immédiat, mais vous, les êtres humains, non. Vous vous installez dans un secteur et vous vous multipliez encore et encore, jusqu’à ce que chaque ressource naturelle soit épuisée. L’unique façon de survivre, c’est de vous établir ailleurs. Il existe un autre organisme sur cette planète qui suit exactement le même modèle. Savez-vous de quel organisme il s’agit ? Du virus. Les êtres humains sont donc une maladie, un cancer de cette planète. Vous êtes une plaie. Nous sommes le traitement². »

En 1963, le mathématicien et cryptographe britannique Irving John Good a lancé cet avertissement : « Une machine ultra-intelligente pourrait même concevoir de meilleures machines ; on assisterait alors, sans l’ombre d’un doute, à une « explosion de l’intelligence » et ainsi, l’intelligence d’un homme serait laissée pour compte. L’humanité contrôle-t-elle pleinement ses propres inventions³ ? »

L’avancement technologique à l’égard de l’IA a poussé la réflexion vers des idées plus déroutantes encore. Alors que les capacités de l’intelligence artificielle atteignent des niveaux de plus en plus sophistiqués, les questions troublantes se multiplient chez les êtres humains. Et ces questions ne sont pas postulées uniquement par des producteurs de la culture populaire.

Le philosophe suédois Niklas Boström a réfléchi sérieusement à l’IA et soulevé des questions déconcertantes. Bien qu’il insiste pour dire que ces réflexions ne se sont pas des prédictions, il nous recommande vivement, au moyen d’exercices mentaux suggérés, d’accorder une attention plus particulière au développement de la technologie :

• Si on donnait à une super-intelligence la tâche de fabriquer des trombones, qu’est-ce qui l’empêcherait, au final, de conclure que tous les êtres humains devraient être transformés en trombones ?
• Si l’IA était conçue avec la « directive première » de ne jamais faire de mal aux êtres humains, que se passerait-il si elle décidait que la meilleure façon de ne jamais leur faire de mal serait, en premier lieu, de tout simplement les empêcher de naître ?
• Si des machines ultra-intelligentes étaient programmées pour faire sourire les gens peu importe les circonstances, qu’arriverait-il si elles décidaient que la meilleure façon de le faire serait d’installer des électrodes dans tous les êtres humains pour les faire sourire ?

L’imagination de Boström a de quoi glacer davantage le sang… Boström suggère que la super-intelligence pourrait, en théorie, avoir déjà remplacé ses créateurs humains et les avoir placés dans une existence humaine artificielle. « Je ne suis même pas certain, dit-il, de ne pas déjà être moi-même dans une machine⁴ ! »

Bon, ces scénarios, j’en conviens, ne peuvent certainement se produire que dans l’univers de la science-fiction. Mais à en juger par les questions qui persistent toujours depuis un film de science-fiction vieux de 50 ans, il semble que la culture populaire peut parfois prédire certains problèmes. Aujourd’hui, une « anxiété de l’intelligence artificielle » émergente a commencé à affecter même les créateurs de ces avancées technologiques étonnantes.

Et c’est ici que le dilemme auquel l’humanité fait actuellement face avec sa technologie commence à ressembler à ce à quoi le Créateur original des intelligences terrestres a dû faire face. Dans sa description de la création de l’IA, un auteur dit : « Introduisez des éléments d’autonomie, et les choses peuvent rapidement mal tourner et de façon absolument désastreuse⁵. » Des éléments de libre arbitre ont été introduits dans la création de l’humanité, et bien qu’on ne sache pas si les choses ont mal tourné rapidement, en tout cas, elles ont certainement tourné au désastre.

En créant l’humanité, Dieu n’a pas « lancé » de façon désinvolte des éléments de libre arbitre. Le libre arbitre n’a pas été simplement inclus dans la nature de l’humanité comme une sorte d’accessoire. Il était au centre même de son caractère parce qu’autrement, il ne pourrait exister aucun amour entre la créature et le Créateur.

« Le Créateur aurait pu empêcher sa main de toucher au fruit défendu. Privé de la faculté de choisir, l’homme n’aurait pas été un être libre, mais un simple automate. Son obéissance aurait été forcée et non volontaire. Adam n’aurait pas pu se former un caractère. D’ailleurs, ce système eût été contraire aux voies de Dieu à l’égard des habitants des autres mondes, et ce mode d’existence, indigne d’un être intelligent, eût fortifié l’accusation d’arbitraire lancée par Satan contre le gouvernement divin⁶. »

À la création de l’humanité, il n’y avait pas de philosophes pour exprimer l’anxiété de l’IA au sujet du danger potentiel que de tels êtres représentaient. Il n’y avait aucun scientifique pour exprimer l’inquiétude que ces nouveaux êtres puissent un jour où l’autre tenter de se montrer plus malins que leur créateur ou de le supplanter.

C’est, en vérité, ce que Lucifer – une créature ultra-intelligente – avait l’intention de faire. Et il a réussi à transmettre à d’autres créatures le désir, l’idée que leurs yeux s’ouvriraient et qu’ils seraient « comme des dieux » (Gn 3.5)⁷.

Actuellement, face à cette potentialité de progrès terrifiants de l’intelligence artificielle, on ne s’inquiète évidemment pas de ce qu’une telle intelligence devienne l’égale de l’humanité, mais plutôt qu’elle succède à l’humanité. Et c’est, en principe, horriblement semblable à ce que Lucifer avait en tête : succéder à son Créateur. Des milliers d’années après l’origine du mal, « le diable le transporta encore sur une montagne très élevée, lui montra tous les royaumes du monde et leur gloire, et lui dit : Je te donnerai toutes ces choses, si tu te prosternes et m’adores. » (Mt 4.8, 9)

Il est probable que Satan visait plus haut que l’égalité avec Dieu. Une seule ambition le dévorait : surpasser Dieu. Autrement, comment aurait-il pu espérer être adoré ? Dans ce qui reste de l’avenir de l’humanité d’ici le retour du Créateur qui, en ce grand jour, délivrera cette planète coupable de ses propres inventions – technologiques ou spirituelles – seule la réponse finale du Créateur lui-même compte : « Retire-toi, Satan ! Car il est écrit : Tu adoreras le Seigneur, ton Dieu, et tu le serviras lui seul. » (Mt 4.10)

Gary B. Swanson (M.A., université de Loma Linda) est ancien rédacteur en chef du Guide de la Bible pour jeunes adultes (1990-2005), et ancien directeur adjoint du département de l’École du sabbat et des ministères personnels (2005-2015). Il est actuellement le rédacteur en chef de Perspective Digest, édité par la Société adventiste de théologie.

NOTES ET RÉFÉRENCES