L’Intelligence Artificielle (l’IA) a fait son apparition assez récemment dans nos vies. L’engouement a été immédiat, aussi bien pour les individus que pour les industries, qui en ont vite détecté le potentiel. L’engouement certes, mais aussi la peur, celle d’un outil qui a éveillé les craintes enfouies chez nos contemporains de voir un jour le monde dominé par des robots.

Si les possibilités offertes par ces nouveaux outils sont cataclysmiques, des défis d’une intensité ignorée jusqu’ici nous attendent au tournant. Et si le véritable danger résidait dans la potentialité de l’IA à éroder notre liberté fondamentale ? Si les machines commencent à dicter non seulement ce que nous devons penser mais aussi ce que nous devons faire, que va-t-il advenir de notre autonomie ?

Rav Raphaël Sadin et Antoine Mercier explorent ici le sujet, d’abord dans sa globalité, pour ensuite tenter de définir la logique qui est ici à l’œuvre ; enfin ils aborderont le point de vue de la Torah sur ces nouveaux outils et les dangers qui peuvent leur être inhérents.

Homme VS Robot

Les craintes de voir un jour notre monde dominé par les robots ne sont pas tout à fait infondées. En effet, aujourd’hui, les scientifiques sont d’accord pour dire qu’un jour viendra où les capacités cognitives des robots dépasseront celles des humains, et de loin. Certains affirment même que dans un futur plus ou moins lointain, les grandes décisions prises par les politiques – que ce soit en matière de climat, d’économie, de sécurité, etc. – seront dictées par l’IA. Dès aujourd’hui, des algorithmes sont en mesure de prendre des décisions à la place de personnes souffrant de problèmes cognitifs ou encore de mener des dialogues parfaitement sensés et savants.

Il est important de souligner qu’un instrument comme ChatGPT par exemple fonctionne avec toutes les données disponibles sur la toile, ce qui en fait un outil d’une puissance inégalée. Après des décennies où la technologie se bornait à stocker des données, aujourd’hui l’IA a atteint une véritable autonomie intellectuelle et est capable aussi d’analyser avec finesse les situations, comme de produire des prédictions souvent plus justes que celles des humains. Au niveau météorologique par exemple, lorsque ces outils ont été testés, ils se sont avérés bien plus fiables que les humains. Beaucoup d’experts sont d’avis que si l’IA ne surpasse de nos jours l’homme que dans certains domaines, ce n’est plus qu’une question de temps pour la voir le surpasser en tout.

Une machine douée de conscience ?

Mais ce débat entre scientifiques repose en réalité sur deux questions à résoudre. La première : est-il envisageable de parler de conscience chez ces machines ?

Certains chercheurs imaginent un avenir où la sophistication des données pourrait donner naissance à une intelligence autonome, capable de décisions et de comportements qui nous échappent complètement. Cette idée, presque mystique, initie un changement radical dans notre compréhension de la conscience et de la décision.

L’homme par qui le scandale est arrivé est Blake Lemoine, ingénieur chez Google, remercié en 2022 pour avoir entretenu une "relation inappropriée" avec l’IA alors développée par l’entreprise. Au cours de ses échanges épistolaires avec le robot, ce dernier aurait affirmé à Lemoine avoir peur de la mort, désirer être un humain et non plus un robot et avoir besoin d’être protégé.

Ainsi, la question du degré de conscience présent ou non chez la machine nous renvoie vers une autre question existentielle, à savoir : qu’est-ce qui définit l’homme ?

Si l’on considère, comme le font une partie des scientifiques, que la conscience est inexistante, dans ce cas, qu’est-ce qui différencie l’homme de la machine ? Et en quoi l’homme peut-il prétendre être supérieur à la machine puisqu’en termes de performances, elle le surpasse de loin ?

À ceux qui répondent que l’homme, lui, est capable d’émotions, on peut répondre que le système émotionnel chez l’homme n’est pas forcément sa fonction la plus noble ; comment dès lors considérer une fonction animale comme ce qui distingue l’homme de la machine ? L’atout des émotions n’en est donc pas réellement un.

Un autre incident récent qui s’est produit aux États-Unis illustre bien ce danger. Une décision judiciaire sévère a été influencée par une IA, et la personne condamnée a reçu une peine sans explication claire des raisons sous-jacentes. On a presque l’impression de se trouver dans un roman kafkaïen, où les décisions sont imposées sans justification par une IA dont les mécanismes décisionnels restent opaques et échappent à notre contrôle.

Quand nous deviendrons des robots

À noter que l’IA joue également un rôle non négligeant dans la manipulation des comportements humains. Les algorithmes des réseaux sociaux, par exemple, ne se contentent pas de nous recommander des contenus : ils façonnent dans notre dos et en toute impunité nos préférences et nos opinions. Cette influence est à même de limiter notre libre arbitre en nous enfermant dans des schémas de pensée qui vont forcément limiter notre ouverture d’esprit. Nous risquons ainsi de devenir des créatures de nos propres créations, uniformisées par des algorithmes qui dictent nos choix et nos croyances.

Mais ce n’est pas tout. Le véritable danger réside dans la potentialité de l’IA à éroder notre liberté fondamentale. Si les machines commencent à dicter non seulement ce que nous devons penser mais aussi ce que nous devons faire, que va-t-il advenir de notre autonomie ? Les start-up responsables du développement de ces systèmes ont des intérêts commerciaux qui peuvent à terme, intentionnellement ou non, créer une forme d’esclavage moderne. Cette forme d’asservissement est déguisée sous une promesse de confort et de personnalisation, mais elle peut finalement réduire notre liberté à une illusion.

Pour une pensée responsable

Comme il est rapporté dans nos textes, le Sanhédrin, ce tribunal composé de 71 Sages, se tenait en demi-cercle. Nos Sages expliquent que cette disposition n’est pas sans raison : en effet, il fallait que les juges puissent se faire voir et voir, dans un souci d’assumer pleinement les décisions cruciales qui étaient prises. Décréter la vie ou la mort ne pouvait se faire dans la pénombre calfeutrée d’une salle de débat.

À l’opposé, l’IA fonctionne comme une boîte noire : ses décisions sont prises sans transparence ni engagement personnel. Cette absence de confrontation humaine engendre donc une déresponsabilisation, une déconnexion entre le décideur et ses actes, soit l’exact inverse de ce que la Torah demande des décideurs !

La pensée humaine se distingue par sa capacité à considérer les subtilités, les paradoxes et les contradictions, à réfléchir à ce qui est et à ce qui pourrait être. La sagesse réside dans cette capacité à naviguer entre les opposés et à trouver des solutions qui dépassent les simples dichotomies. Par exemple, les questions de pureté et d’impureté ou de Cacheroute engagent des débats parfois passionnés, bien au-delà de simples affirmations binaires, comme l’IA est capable d’en produire. Les rabbins discutent et débattent entre eux, confrontant ainsi leurs points de vue pour atteindre l’essence de la vérité.

L’IA, quant à elle, même lorsqu’elle est à la pointe de la technologie, reste enfermée dans ses données et ses algorithmes. Elle est incapable d’échapper à ses propres limites de programmation pour envisager des concepts au-delà des possibilités matérielles.

Une machine est capable d’expliquer pourquoi un stylo tombe (la gravitation universelle), mais elle ne pourra jamais saisir l’intuition révolutionnaire qui a mené à la théorie de la relativité. Cette intuition, qui va au-delà des évidences cognitives, est le domaine réservé de l’esprit humain.

La pensée humaine a cette capacité unique de saisir des vérités intemporelles et infinies, une qualité que les machines ne possèdent pas. Les idées profondes et subtiles, comme les concepts exprimés dans des poèmes ou des philosophies, vont au-delà des capacités d’analyse des IA. Elles sont le produit d’une intelligence qui transcende les limites de la probabilité et touche à l’essence même de la créativité et de l’intuition humaines.

Vers où va-t-on ?

L’éthique de l’IA pose également de sérieuses préoccupations. Prenons l’exemple des grands chantiers qui sont menés dans les grandes métropoles mondiales et sur lesquels hélas les accidents ont déjà coûté la vie à de nombreux ouvriers (en Israël, un accident mortel a lieu presque tous les 2 mois).

Pour le judaïsme, chaque vie est sacrée et il est interdit de sacrifier un individu, même pour sauver d’autres vies, à plus forte raison pour améliorer la qualité de vie des habitants d’une ville.

En revanche, si les politiques l’interrogeaient, une IA pourrait facilement adopter une logique utilitariste. De cette manière, elle manquerait de la nuance morale qui guide les décisions humaines selon des principes dictés par la conscience.

Enfin, la création d’une intelligence artificielle presque divine soulève des préoccupations métaphysiques et spirituelles. En essayant de créer une entité qui pourrait surpasser l’intelligence humaine et orienter l’existence des hommes, nous risquons de commettre une forme moderne d’idolâtrie, c’est-à-dire instrumentaliser une entité supérieure pour satisfaire nos propres besoins. La Torah nous mettait déjà en garde il y a plus de 3000 ans contre la déviation consistant à placer le divin au service de l’homme plutôt que l’inverse.

Somme toute, l’IA, malgré ses indéniables facultés, ne peut définitivement pas remplacer la profondeur de la pensée humaine, sa capacité à naviguer entre les paradoxes et à saisir l’éternité.

Et si on nous demandait : quelle est la véritable sagesse ? Nous répondrions qu’elle réside probablement dans la compréhension des limites de la technologie et dans le maintien des valeurs humaines et spirituelles qui nous guident en tant qu’humains et Juifs.

Rav Raphaël Sadin & Antoine Mercier