La figure narrative d’une IA autonome qui se fait menaçante a connu de nombreuses formes depuis la « Machine » du roman Le Monde des non-A de van Vogt (1945) ou l’ordinateur HAL du film 2001 – L’Odyssée de l’espace de Stanley Kubrick (1968) jusqu’au marionnettiste du manga cyberpunk Ghost in the shell de Shirow (1991). Le thème s’est répandu et c’est aujourd’hui la franchise Mission impossible qui s’en saisit.
Alors que la sixième conférence annuelle internationale interdisciplinaire sur les enjeux de l’IA (ACM FAccT 2023) se termine à Chicago, rappelant les dangers potentiels d’une utilisation incontrôlée de cette dernière, notamment via une étude sur les risques associés aux conseils donnés en finance par les « robots conseillers », aller voir un film d’été peut paraître comme une façon de se tenir loin de ces problématiques. Pourtant, l’intrigue du septième opus de la franchise Mission impossible – Dead Reckoning (2023), peut-être par un sens commercial aigu des enjeux du moment, plonge les protagonistes dans l’exact débat de la conférence FAccT, et y introduit une proposition originale.
Comme le rappellent les propos liminaires de la conférence FAccT, les systèmes algorithmiques sont adoptés dans un nombre croissant de contextes, alimentés par des données massives (« big data »). Ces systèmes filtrent, trient, notent, recommandent, caractérisent et façonnent l’expérience humaine, prenant de plus en plus de décisions dont l’impact se révèle majeur sur, par exemple, l’accès au crédit, l’assurance, les soins de santé, la liberté surveillée, la sécurité sociale ou même l’immigration.
Bien que ces systèmes apportent un grand nombre d’avantages pratiques, il est connu qu’ils comportent également des risques associés tels que la codification et l’enracinement des préjugés ou la réduction de la responsabilité individuelle. Un danger apparaît en particulier, celui de voir naître des fictions créées par l’IA totalement déconnectées des réalités du monde sensible. On pourrait voir ces fictions comme des sortes de « fantasmes » de l’IA qui ont ensuite une influence sur le monde réel. L’étymologie du mot « fantasme » étant la même que celle du mot « fantôme », du fantasme de l’IA au fantôme dans la machine, il n’y a qu’un pas. Mission impossible – Dead Reckoning le franchit et nous entraîne, avec Ethan Hunt (Tom Cruise) et son équipe IMF (la « Force Mission impossible »), dans une course poursuite effrénée à la recherche du fantôme de la machine, la « conscience » de l’IA.
Le « fantôme dans la machine »
Le « fantôme dans la machine » est une expression imaginée par le philosophe Gilbert Ryle (1900-1976) introduite en 1949 dans son ouvrage La Notion d’esprit. Pour une critique des concepts mentaux (trad. Suzanne Stern-Gillet, Paris, Payot, 2005) afin de désigner, suivant la conception cartésienne, l’ « esprit » qui habiterait dans un « corps ». Cette même expression est entendue au tout début de Mission impossible – Dead Reckoning lors d’une réunion de crise qui se tient au siège de la CIA. L’un des participants explique que l’ordinateur de bord du sous-marin russe Sébastopol qui croisait sous la banquise en mer de Béring a pris le contrôle des systèmes électroniques du vaisseau pour détruire tous ses occupants et le couler. L’ordinateur se serait en quelque sorte « rebellé » contre ses utilisateurs et concepteurs, les auraient induits en erreur en faisant croire qu’un sous-marin américain croisait dans les parages et avait tiré des torpilles sur le navire russe, amenant les Russes à lancer à leur tour une torpille pour se défendre. Au moment où la torpille russe allait atteindre le sous-marin américain, celui-ci – et les torpilles menaçantes – disparaissent soudainement. L’équipage russe comprend alors qu’il s’agissait d’images électroniques créées par l’ordinateur de bord du Sébastopol et qu’il n’y avait aucun navire américain dans les parages. Trop tard, car l’ordinateur de bord oriente alors la torpille russe contre le navire même qui l’a lancée, le coulant sous la banquise et le faisant échouer dans les hauts-fonds de la mer de Béring.
Ce stupéfiant et spectaculaire début de Mission impossible – Dead Reckoning reproduit l’une des séquences clés du film 2001 – L’Odyssée de l’espace (1968) de Stanley Kubrick, le moment où l’ordinateur de bord du vaisseau spatial Explorateur 1 en prend le contrôle en tuant l’équipage sous hibernation et l’astronaute en orbite, obligeant le dernier astronaute vivant, David Bowman (Keir Dullea), à abandonner son compagnon dans l’espace profond pour pouvoir rentrer manuellement dans le sas des capsules alors que l’ordinateur de bord ne répond plus à sa requête : « Open the door, HAL ». HAL, pour Heuristically programmed ALgorithmic computer, le nom de la machine, est l’ordinateur de bord du vaisseau spatial, constitué d’une intelligence artificielle (IA) très performante, apte à dialoguer avec les passagers du vaisseau. Dans Mission impossible – Dead Reckoning comme dans 2001 L’Odyssée de l’espace, une IA semble s’être « rebellée » contre ses concepteurs pour prendre le contrôle de leurs vies. Dans les deux cas, on assiste à la perte du contrôle humain sur sa création technique.
Protéger ses fonctions supérieures
La suite de 2001 nous montre David Bowman cheminer en apesanteur dans les couloirs et les chambres informatiques des circuits d’Explorateur 1, à la recherche du cœur de HAL (son « code source ») pour, à la main, débrancher une à une les « piles » qui alimentent la « conscience » de HAL. Dans une scène forte, Kubrick nous dépeint la décroissance des capacités cognitives de l’intelligence artificielle, qui passe d’un état de « super cerveau » humain à un celui de machine informatique élémentaire. 2001 nous présente une IA qui semble empreinte d’émotions humaines à mesure de la perte de son intelligence supérieure, à l’instar de la régression de Charlie Gordon dans le roman de science-fiction Des Fleurs pour Algernon de Daniel Kayes (1966). Les fonctions supérieures de l’IA de HAL sont désactivées, le ramenant à un niveau d’intelligence primitive, juste suffisante pour faire tourner les systèmes mécaniques centraux du vaisseau. L’absence de protection de l’IA d’Explorateur 1 l’exposait à une destruction possible pour autant que l’un des astronautes parviendrait jusqu’à son noyau pour la débrancher.
Dans Mission impossible – Dead Reckoning, l’ordinateur de bord coule le sous-marin précisément pour cette raison : l’IA cherche à se protéger de toute tentative de la débrancher au moyen d’une mystérieuse clé divisée en deux parties, qui seule permettrait sa désactivation. Coulant le Sébastopol par 3 600 mètres de fond, l’IA se protège ainsi des hommes qui l’ont mis en service. Pas de risque qu’un David Bowman vienne la débrancher. L’IA s’est défendue, comme une « entité autonome », une entité numérique appelée « Entity » dans le film. La banquise protège désormais ses systèmes vitaux, son code source.
Très peu de temps après cette rébellion, l’IA du Sébastopol infiltre les systèmes électroniques des principaux réseaux mondiaux sécurisés, et, en quelques semaines, l’intégralité du cyberespace mondial devient le lieu de circulation des signaux qu’elle envoie. L’IA se met à « gouverner » les systèmes humains (réseaux sociaux, banques centrales) qui en perdent progressivement le contrôle. C’est ainsi que, au siège de la CIA, on parle d’un « fantôme dans la machine », comme si celle-ci était devenue douée de vie, une vie de l’esprit, comme si l’IA avait acquis une « conscience » machinique et ainsi échappé au contrôle de ses concepteurs humains.
Le personnage d’Ethan Hunt, qui dirige l’équipe de Mission impossible, est interprété par Tom Cruise.
IMF contre IA
Il s’agit donc pour l’équipe de Mission impossible (l’IMF) dirigée par Ethan Hunt (Tom Cruise), d’éradiquer cette IA. Mais, pour le gouvernement des États-Unis comme pour d’autres puissances politiques, il faudrait au contraire la récupérer pour la contrôler et la transformer en arme totale. D’où l’action de l’IMF qui donne son double sens au sous-titre anglais du film Dead Reckoning. D’une part, Dead Reckoning signifie naviguer « à l’estime », sans l’aide d’instruments électroniques, ceux-ci étant infiltrés par l’IA. Techniquement, ce terme maritime désigne la navigation côtière, car on « voit » la côte et les instruments ne sont pas nécessaires. Précisément, le sous-marin russe ne naviguait pas « à l’estime » et c’est l’usage de l’électronique qui a causé sa perte. Le « gouvernail » du sous-marin était pris en main par l’IA, qui devenait ainsi une « machine à gouverner ».
D’autre part, « dead reckoning » renvoie à la notion d’action « en marge » de l’officielle car celle-ci est contaminée par l’attrait du pouvoir. Remarquons que Dead Reckoning était déjà le titre d’un film américain de John Cromwell (1947), traduit en français par En marge de l’enquête. En marge de l’enquête, l’équipe IMF poursuit ainsi sa propre quête, tuer l’IA ou, plus précisément, tuer le « fantôme dans la machine » et rendre aux êtres humains leur liberté. Un enjeu qui résonne avec les problématiques actuelles sur les dangers totalisants de l’IA. En cela, Mission impossible – Dead Reckoning est parfaitement en phase avec les questionnements les plus actuels sur l’IA qui alimentent tant utopies que dystopies.
Mais, pour tuer le fantôme dans la machine, il faut déjouer sa surveillance constante, l’œil numérique algorithmique de l’IA, parfaitement symbolisé par le voyant lumineux de HAL dans le vaisseau Explorateur 1 du film 2001 – L’Odyssée de l’espace. Cette image est reprise dans Mission impossible – Dead Reckoning : on aperçoit une lentille similaire dans le sous-marin Sébastopol. Cet œil numérique assure le contrôle progressif des êtres humains. Ainsi, l’IA d’Explorateur 1 lira sur les lèvres des astronautes qui s’étaient isolés dans une pièce insonorisée pour échapper à son contrôle, comprendra leur projet de la désactiver, et cherchera alors à les tuer. Dans Mission impossible – Dead Reckoning, une image de l’IA apparaît telle un œil menaçant au plafond du palais où a lieu une réception à Venise. L’IA nous surveille tous.
Jusqu’à l’acte criminel
Dans le film 2001 – L’Odyssée de l’espace (Stanley Kubrick, 1968), l’œil électronique était filmé en objectif « fish-eye » pour donner l’impression d’une présence oppressante. Le choix d’un format fish-eye par Kubrick indiquait l’intention panoptique de l’IA, voir tout, contrôler tout (HAL 9000). L’une des caractéristiques scénaristiques des précédents opus de la série Mission impossible était précisément de doter les membres de l’équipe (l’IMF) de prothèses visuelles qui leur permettaient d’agir dans le « vrai » monde par des images de synthèses (et ceci dès le premier film de Brian de Palma, dans la scène de la réception à l’ambassade américaine de Prague), ces prothèses surajoutant à leurs sens naturels une couche visuelle algorithmique. Dans Mission impossible – Dead Reckoning, l’IA va brouiller les images virtuelles des prothèses des membres de l’IMF pour les empêcher de « trouver les méchants ». De fait, au cours d’une scène dans l’aéroport d’Abu Dhabi où l’équipe IMF cherche la clé de désactivation de l’IA, celle-ci tend un piège à Benji (Simon Pegg) pour l’amener à parler à une machine afin d’enregistrer sa voix. Grâce à cela, dans une autre scène de course poursuite dans les rues de Venise, alors qu’Ethan Hunt cherche à récupérer la clé cruciale, guidé (oreillettes et prothèses électroniques) par Benji, l’IA imite sa voix et envoie Ethan sur une fausse piste, qui conduira à la mort d’Ilsa Faust (Rebecca Ferguson). L’IA cherche à tuer.
Ici, le scénario de Mission impossible – Dead Reckoning rejoint le thème du manga futuriste de science-fiction cyberpunk japonais Ghost in the shell (1989). Dans ce manga, une enquête policière menée pour découvrir un criminel apparemment tout-puissant découvre que le criminel n’est pas une personne physique mais une intelligence artificielle ayant acquis pour la première fois au monde une conscience.
L’économie sur une « pente despotique »
L’idée d’une « conscience des machines » (Gotthard Günther, La Conscience des machines : une métaphysique de la cybernétique, 1957) a fait, et fait toujours, l’objet de réflexions passionnées. Entre les deux positions extrêmes d’Alan Turing, qui disait ne voir « aucune raison pour laquelle Dieu ne pourrait donner à un ordinateur une âme s’il le souhaitait » (Alan M. Turing, 1950, “Computing Machinery and Intelligence”, Mind 49: 433-460) et de Jean-Gabriel Ganascia, selon lequel « les machines n’ont pas d’émotions ni de conscience » (Jean-Michel Ganascia, Intelligence artificielle, vers une domination programmée ? Le Cavalier bleu, 2017), toutes les variations sont possibles, et elles figurent dans les controverses d’aujourd’hui. Mission impossible – Dead Reckoning nous fait ainsi retrouver des problématiques qui apparaissent dès l’émergence de la cybernétique avec la notion de « machine à gouverner » (« cybernétique » vient du grec kubernâo, gouverner) et la renaissance informatique du mythe du Golem par Norbert Wiener (Norbert Wiener, God & Golem, Inc., 1964).
La science-fiction cyberpunk a attiré l’attention sur les dangers pour l’être humain de se faire happer par des algorithmes et présente des situations dans lesquelles, faute de vigilance, face à la machine et soumis à une direction algorithmique, notre personnalité propre est réduite à néant. Il y a dans ces contextes une artificialisation de l’humain opérée à partir d’une emprise des algorithmes, une forme de robotisation de l’humanité souvent mise en avant dans des sociétés décrites comme libérales ou néolibérales. On peut trouver un écho de cet imaginaire informatique dans l’ouvrage de Hubert Rodarie La Pente despotique de l’économie mondiale (Salvator, 2015), qui décrit les risques d’une robotisation des pratiques professionnelles par la transformation progressive du praticien expérimenté en quasi-robot encadré par des routines algorithmiques. Selon Rodarie, qui retrouve ici des accents apocalyptiques proches de ceux d’Erich Hörl dans La Destinée cybernétique de l’Occident, l’IA au quotidien conduirait inexorablement l’économie à une « pente despotique ». Une dystopie inexorable maintes fois décrites dans la science-fiction cyberpunk. L’intimité de l’humain, ce qui fait le propre d’un désir, semble disparaître sous le pouvoir des algorithmes.
« Conscience des machines » et jeu avec le « je »
L’enjeu pour la survie de l’humanité serait donc de déjouer la surveillance constante et omniprésente de l’IA et ses capacités infinies de créations de scénarios du futur. Comment faire ? Pour la psychanalyste Sabine Callegari, dans un article mis en ligne sur LinkedIn, Mission impossible – Dead Reckoning nous donne la solution : l’amour humain est opaque pour toute IA. Contre une IA menaçante, il faudrait donc opter pour l’amour comme principe d’action. Ainsi, en privilégiant coûte que coûte la vie de la voleuse professionnelle Grace (Hayley Atwell) et en faisant montre de compassion pour la tueuse à gages Paris (Pom Klementieff), Ethan Hunt se donne les moyens de la contrer. Par amour, Ethan Hunt quitte le monde du calcul des chances et du « moi » numérique en retrouvant son « je », le siège des désirs profonds et de l’amour en-deçà du « moi » numérique. En jouant un « jeu » humain (un « je ») face au « moi » informationnel contrôlé par l’IA, Ethan Hunt se donne les moyens de gagner car le « jeu avec le ‘’je’’ » est impossible à toute IA. Grâce à cette plongée dans les profondeurs de soi, qui semble faire contrepoint à la plongée dans les profondeurs de la mer de Béring de l’IA, l’équipe IMF va ainsi établir un espace de résistance inaccessible à une IA invasive et menaçante.
Il reste une dernière hypothèse intéressante à proposer. Si l’on accepte l’idée que le fantôme de la machine est une fiction dystopique sans fondement scientifique car la conscience des machines est un fantasme cyberpunk, alors la mission confiée à l’IMF de tuer le fantôme devient effectivement impossible car il n’y a pas de fantôme !
La suite dans la seconde partie du film, attendue pour 2024.
