Veuillez patientez...

Behind Universe #03 – Les Intelligences Artificielles

Bienvenue dans Behind Universe, la chronique qui vous fait littéralement voyager entre les univers (de science-fiction).

Pour lire le numéro précédent : rendez-vous ici.

Note : L’auteur de la chronique n’exprime en aucun cas son point de vue sur le sujet délicat qu’est l’Intelligence Artificielle (IA) en général. Il essaye seulement d’exprimer les idées tirées de faits réels et de fictions, de manière objective.

L’IA est au cœur de l’intrigue de Halo 5 Guardians et risque probablement de l’être dans la suite des aventures du Major. L’Intelligence Artificielle est un fantasme humain et est un sujet dans de très nombreuses œuvres littéraires et cinématographiques. Nous touchons probablement du doigt l’amorce d’un avenir qui s’annonce intéressant pour l’Humanité mais non pas sans risques. De l’assistant personnel immatériel ou robotique à l’Homo Ex Machina en passant par les IA de stratégie militaire, elle est l’enfant des humains mais aussi sans doute son avenir, dans tous les sens du terme. Et ainsi, aujourd’hui nous allons tenter de décrypter leurs algorithmes.

QU’EST-CE QU’UNE IA ?

 

Nous pouvons les décrire selon plusieurs points de vue. Une IA est avant tout un programme informatique composé de lignes de codes au format binaire ; tout comme l’IA du grognard en face de vous qui a décidé de vous emmener en enfer en vous fonçant dessus avec ses grenades à plasma. Attention toutefois à ne pas confondre le concept plus ou moins erroné d’IA comme on l’entend aujourd’hui (utilisé abusivement) qui ne ressemble en rien aux IA telle que la définition en science-fiction (SF) le conçoit. Par conséquent, les IA dotées de quelque chose ressemblant à du libre arbitre n’existent pas, malgré les recherches technologiques actuelles par nos scientifiques. Il faut savoir qu’il n’y a fondamentalement aucune différence entre ce type d’IA et celles que l’on retrouve dans les œuvres de SF (car ce sont des programmes et pas des consciences ! Attention à la nuance). Le deuxième trait de caractère important est leur fonction ; des lignes de codes leur seront rajoutées si la tâche à effectuer (et donc qui leur est consacrée) est complexe, c’est une façon de la rendre « plus intelligente ». Les assistants personnels actuels fonctionnent notamment grâce à l’étude du spectre vocal de l’utilisateur et réagissent en conséquence, ils sont capables de « reconnaître » des mots et de synthétiser une voix pour éventuellement répondre à son interlocuteur. Il n’y a donc rien d’intelligent en soit dans ce type de matériel. D’où l’explication suivante qui peut paraître paradoxale. Le mot « intelligence » est à double tranchant et sous-entendrait qu’un programme soit intelligent. Certes des programmes peuvent se réécrire et ainsi s’adapter à des situations autrefois inconnues et se complexifier. « Intelligence » renvoie à l’humain et donc à la vie. Un programme peut-il réellement être vivant ? Il est vrai qu’en créant des programmes hautement complexes, un réseau plus ou moins comparable à celui des neurones (comme le K computer plus ou moins capable de recréer le fonctionnement du cerveau humain qui est encore plus puissant que l’ordinateur) se « forme » et les réactions de ces IA peuvent être imprévues et étonnantes. Il est possible qu’il puisse y avoir des « radicaux libres » (cf. le film I, Robot tiré du Cycle des Robots d’Isaac Asimov créateur des trois lois de la robotique ; visibles ici) dans ces programmes, les rendant ainsi plus « humains », plus semblables à leur créateurs. Nous pouvons aussi appeler cela le Ghost (selon l’œuvre Ghost in the Shell). Ainsi, contrairement à la vie, capable de se créer à partir d’éléments de base pour former acides aminés et autres éléments biochimiques, les IA ont besoin d’un créateur. Mais poursuivre ce raisonnement reviendrait à dire que les IA sont une sorte de forme de vie.

"Les Androïdes rêvent-ils de moutons électriques" - Roman de Philip K.DickL’IA, copie conforme ou idéalisée de l’Homme ?

Dans cette chronique, nous tâcherons de voir en quoi une IA est à la fois proche et différente des êtres humains, notamment par le concept de naissance ou création,  d’apprentissage et étudieront leur intelligence ou plutôt leur logique.

 

LA NAISSANCE D’UNE IA

 

Dans Halo, le Docteur Catherine Halsey, la créatrice du programme Spartan II a réussi à créer la première intelligence artificielle dite « maligne ». À contrario d’être écrite, l’IA est directement sortie de son cerveau (« à l’instar d’Athena fille de Zeus« ), nous parlons ici de Cortana, la légendaire IA créée à partir d’un clone du cerveau de Halsey.

Trois IA de l’UNSC, Cortana, Roland et Serina, reconnaissables de part leur aspect holographique
Cortana Roland, IA embarquée à bord de l'UNSC Infinity Serina, l'Intelligence Artificielle du Spirit of Fire

Dans ce cas précis, Cortana est déjà « née » « intelligente », les connaissances de base de l’IA sont innées et non pas acquises. Néanmoins, même dans le cas de Cortana, elles doivent passer par une phase d’apprentissage. Neil Blombkamp, réalisateur Sud-Africain ayant produit Halo Landfall et ayant travaillé sur un projet finalement abandonné de film Halo, a réalisé un film se dénommant Chappie. Dans ce film, il est donc question d’un robot dans lequel il est implanté un « programme de libre arbitre ». Le robot du nom de Chappie n’est plus obligé de poursuivre ses fonctions initiales, désormais il peut apprendre, se faire influencer et mener une vie comme un être humain le ferait. Ce principe d’apprentissage est une copie des stimulis (visuels, auditifs, …) réceptionnés par les capteurs du robot afin d’être réutilisés plus tard dans un contexte spécifique. À première vue, le programme est comme un enfant, son fonctionnent est similaire. Mais un programme ne fait pas d’erreur, il est censé reproduire à la perfection. Là peut être une limite, une barrière différenciant être vivant et machine. Les humains ne peuvent effectuer de copies conformes (à part les cellules qui se répliquent), mais la machine le peut. Toutefois, ne perdons pas de vue que l’affranchissement des robots reste quelque chose de très théorique.

Chappie, le robot qui apprendChappie, le robot qui apprend

 

PROGRAMMER = DONNER LA VIE ?

 

En effet, une IA est avant tout créée pour servir, elle ne peut donc en théorie que suivre ce pour quoi elle a été programmée. Les applications actuelles des IA telles que nous connaissons et avec le minimum de technologie que nous possédons servent par exemple à contrôler les Personnages Non Joueurs dans les jeux vidéos. Tout est alors question de choix et de situation et si une IA ne peut pas se mettre à jour (en réécrivant des lignes de codes par exemple), si elle est confrontée à une situation qu’elle ne connaît pas, elle ne pourra pas faire de choix, contrairement aux êtres humains et aux animaux. Dans ce cas, si nous voulons créer une sorte de « conscience » complexe réagissant à différentes situations (stimulis, etc) et capable d’apprendre, pouvons-nous considérer à juste titre que ce programme est intelligent ? Vous serez d’accord si nous répondons non. Mais dans le cas où cette machine peut apprendre, elle ne rentre plus dans le cadre de sa programmation de base, du moins en théorie si elle a un accès à des données extérieures à ses fonctions. Les joueurs de Halo considèrent Cortana comme un personnage vivant, l’explication la plus rationnelle est de dire que Cortana est un programme qui a accumulé plus de données qu’au moment de sa création et ainsi elle ne fait pas uniquement assurer ses fonctions de base, elle sait ente-autre imiter le comportement humain tout en assurant son auto-préservation.

 

UN POSSIBLE LIBRE-ARBITRE ?

 

On peut considérer que le libre arbitre ne peut être définit car il ne peut exister en soit ; tout être vivant est influencé par son passé, ses expérience, etc. Dans la série « Real Humans » (aussi appelée 100% humains ou Äkta människor), un programmeur a réussi à créer une ligne de code affranchissant les robots de leurs « fonctions initiales », leur permettant ainsi d’apprendre et d’agir selon leurs désirs et même de tuer ou de torturer. Les U-Bots, tiennent autant à leur vie qu’à des humains normaux. L’existence de tels programmes est difficile à envisager. Dans certaines œuvres, il est même question des notions précédemment citées « radicaux libres » ou Ghost. Dans Ghost in the Shell (ici on se basera sur l’ensemble des programmes en ayant pour référence le long métrage de 1995 de Mamoru Oshii), un Ghost ne peut apparaître chez une machine (en théorie du moins). Le concept de Ghost signifie « âme » ou conscience que l’on implante dans des cerveaux cybernétiques (généralement peu après la naissance). Ces cerveaux cybernétiques peuvent être implantés dans les corps des patients ou dans des corps cybernétiques. Cependant, les personnages de cette œuvre menèrent des réflexions et s’aperçurent qu’il existe bien une forme de Ghost chez certaines machines, les rendant extérieurement plus humaines. Ceci remet en cause leur communauté scientifique car c’est en théorie impossible. En effet, nous pouvons transférer notre conscience dans un cerveau cybernétique (dans la SF) mais pas créer des consciences dans un matériel plus ou moins similaire. Le débat est complexe. Qu’est-ce que la conscience ? La définition de la personnalité, si ce n’est l’apprentissage ? Qu’est-ce qui pousse les machines à vouloir survivre ou à vouloir se rapprocher entre-elles lorsqu’elles sont isolées. C’est ça la « bonne question », ce sont des radicaux libres dans des machines qui sont esclaves (il faut préciser que cette dernière phrase est grandement inspirée de l’œuvre d’Asimov sur les robots, une adaptation cinématographique existe : I, Robot, dont voici la véritable citation).

 

Image de Ghost in the Shell« Le corps est la prison de l’âme. » (Platon)

 

IA ET CORPS ARTIFICIELS

 

De plus, les Intelligences Artificielles vont de paire avec le développement prothétique. En effet, la robotique industrielle ou encore médicale développent sans cesse par exemple des bras articulés de plus en plus performants en terme de précision et de fiabilité. Les sociétés privées quant à elles, implantent des programmes dans des corps robotiques de toutes sortes à des fins scientifiques. On pourrait penser que ceci permettrait aux IA d’interagir avec le monde physique et de ne plus simplement être des assistants électroniques. C’est ce que nous appelons communément les robots. Toutefois, cette technologie n’est de nos jours plus seulement accessibles et rattachées à ces robots, elle l’est aussi pour l’Homme. Par exemple, les prothèses électroniques sont de plus en plus courantes chez les personnes amputées. Dans ce sens, nous pouvons espérer qu’un jour nous utiliserons la technologie pour refaire marcher les paraplégiques (grâce à des exosquelettes ou grâce à des électrodes implantées dans les régions lésées). Par conséquent, nous sommes en marche pour une génération qui va probablement connaître la démocratisation de la cybernétisation. Certes nous nous avançons peut être un trop en affirmant cela, mais les cyborgs existent bel et bien. En effet, un exemple percutant est celui de Neil Harbisson, atteint d’achromatopsie, c’est à dire qu’il ne perçoit le monde qu’en nuance de gris. La prothèse qu’il possède sur son crâne est une extension de lui qui lui permet de distinguer les couleurs par les sons. Ainsi, il distingue non seulement les couleurs mais aussi l’infrarouge et l’ultraviolet qui sont dans un champ plus étendu que le spectre que nos yeux peuvent détecter. Il a d’ailleurs créé la fondation Cyborg, encourageant les gens à s’implanter des prothèses pour améliorer leur perception notamment.

[unitegallery Cyborgs_gallerie]

Cyborgs : entre réalité et fiction.

A ce stade de cet article, on peut penser que la limite est très trouble entre Être Humain et sa progéniture IA. Si dans un futur plus ou moins proche la cybernétisation se démocratise, alors la limite sera encore plus mince par rapport aux robots qui risquent dans quelques années d’être quelque chose de complètement banal. Il faut néanmoins se méfier et rester prudent, comme toute création de l’Homme, cette technologie peut avoir des erreurs et être imprévisible. Il ne faut pas à tort les considérer comme des êtres humains, même si notamment au Japon (où cette idéologique est répandue), il y a des gens qui se disent avoir des relations avec des personnages d’animés virtuels. C’est ce que tente de prévenir Asimov, dans ses Trois Lois de la robotique, érigée dans le but de protéger les humains de ses créations. Mais encore faudrait-il qu’elles se concrétisent pour éviter notamment les désastres fictionnels de Skynet imaginés dans Terminator ou ceux causés par l’ancienne partenaire de John 117, Cortana dans Halo 5 Guardians. Ceci semble avoir été compris, puisqu’il est mondialement interdit d’utiliser des robots automatisés (ou de prévoir l’aboutissement d’un tel projet) pour mener une guerre. Mais un jour prochain viendra peut être le moment où les robots et les humains vivront au quotidien. Et alors peut être les considérions nous comme des êtres vivants à part entière ayant les mêmes droits que les hommes, comme celui d’exercer un emploi…

L'Evolution selon Cyber-Darwin

 

Poignée de main robotique

Vers l’apparition de l’Homo Ex Machina ?

 

Citation, I, Robot :
Il y a toujours eu des fantômes dans la machine, des segments aléatoires de codes qui se sont regroupés pour former des protocoles imprévus, non anticipés. Ces radicaux libres posent la question du libre arbitre, de la créativité et même de la nature de ce que nous pourrions appeler « l’âme ». Comment se fait-il que des robots dans l’obscurité recherchent la lumière ? Comment se fait-il que des robots placés dans un espace vide se rapprochent les uns des autres plutôt que de rester seuls ? Comment expliquons-nous ce comportement ? Ou y a-t-il quelque chose de plus ? À quel moment un processus de perception devient-il une conscience ? À quel moment un système comparatif devient-il recherche de vérité ? Une simulation de personnalité devient-elle le germe douloureux d’une âme ?
Partager
Partager

Sur le même sujet

S’abonner

Poster en tant qu'invité

Notifier de
guest
10 Commentaires
Oldest
Newest Most Voted
Inline Feedbacks
View all comments
SyrheZ

Très bon Behind Universe ! 😉

swann117

Je suis un peu surpris par ce behind universe. Clairement le traitement est bon, le niveau de langage aussi, bref c’est cool. Mais Halo en terme d’IA ne se résume clairement pas à Cortana. Les livres abordent les personnalités de ces dernières de façon multiples toutes très intéressantes. Je pense notamment à Black Box (qui est décrit comme l’IA dite intelligente la plus intelligente de toutes), qui remet souvent en question ses choix et désobéi très délibérément à certains ordres, dissidence à mettre en relation avec son donneur qui n’est autre qu’un membre du projet Spartan s’étant donné la mort… Lire la suite »

Mattaum

Je te remercie de m’avoir fait de telles remarques. ^_^ Oui, en effet, je ne me suis pas intéressé à tout l’univers étendu. J’ai beau avoir tous les livres, je ne m’y suis pas encore intéressé et surtout j’évite les spoils ! xD Mais tu as totalement raison, j’aurais peut-être dû en parler, tout comme la partie avec les IA forerunner, c’est vrai. Et pour Cortana, eh bien au temps pour moi ! 😛 Mon but était quand-même de comparer Halo à différents univers. Je pense que la majorité des gens n’ont pas lu tous les romans (moi y compris),… Lire la suite »

VoitureJb

« […]son donneur qui n’est autre qu’un membre du projet Spartan s’étant donné la mort ne supportant plus ce qu’il avait fait pour l’armée. »

C’est bizarre ce que tu dit ne semble pas correspondre avec ce qu’il y a d’indiqué sur le WikiHalo : https://wiki.halo.fr/Black-Box#Historique

swann117

Ben si: « Black-Box est issu du cerveau de Graham J. Alban,[5] un ami de Parangosky ayant travaillé sur le programme SPARTAN-II. »
Mais peut être ai-je mal formulé ma phrase, je ne parlais pas d’un Spartan 2 mais bien d’un membre du projet (comme Halsey, Mendez et compagnie)

VoitureJb

Ah oui ok. Autant pour moi, j’avais bien (mal) compris un candidat du programme..!

VoitureJb

Merci pour l’article.

Mattaum

Je t’en prie. Ça me fait plaisir si ça t’a plu ! 🙂

Major Jakob

Bonne chronique. Certes certains diront peut être que c’est trop pauvre, que beaucoup de choses pertinentes et intéressantes ont été oubliés. Mais le but de cette chronique n’est pas d’être exhaustif, mais de présenter quelques exemples choisis ici et là sur le thème abordé. Et de toute manière, même si nous le voulions, nous ne pourrions sans doute pas arriver à l’exhaustivité et à être parfaitement complet, tant le sujet est vaste et en constante évolution. Ce serai une cause vaine à poursuivre, un objectif inatteignable. De plus, les références citées sont toujours les plus populaires, car tous n’ont pas… Lire la suite »

Aug45

Excellente chronique de SF ! 🙂