Je me suis interrogé s’il était possible de créer une intelligence artificielle (IA) capable de conscience. Dès le départ, dans les années 50, John Von Neumann et Alan Turing avaient peur qu’une IA soit plus forte que l’homme. Scientifiquement, ils étaient persuadés qu’une machine pouvait dépasser les capacités humaines. C’est pourquoi, M. Turing décrit un test pour comprendre si la machine peut dépasser/tromper l’humain.

Les spécialistes disent que la conscience artificielle sera créée à l’avènement de la singularité. La singularité est une sorte de “point de non-retour” où la machine sera plus puissante que l’humain. Elle pourra donc simuler le cerveau humain et ainsi nous anéantir. Cette définition est fausse et je vais démontrer celle que je conçois. Car aujourd’hui nous pouvons admettre que la machine est bien plus forte que nous dans bien des nombreux domaines. Aussi, l’IA prend des décisions chaque jour, faire une recherche sur Google en est l’exemple parfait (IA meilleure que nous et prend des décisions). Cela n’en fait pas pour autant des machines assoiffées de pouvoir, de destruction, et de guerre.

La raison pour laquelle nous n’avons pas fait de machines conscientes est principalement parce que nous sommes dans le déni de ce qui nous rend conscients. Du même ordre, nous ne pouvons pas quantifier ce que nous savons. Tenez, je vous mets au défi de me lister tous les savoirs que vous avez acquis jusqu’à maintenant. C’est impossible.

Le fonctionnalisme

Pour les philosophes fonctionnalistes, la pensée n’est pas un processus biologique particulier qui se déroule dans notre cerveau, mais c’est la fonction qui réalise ce processus. Pour les fonctionnalistes, on a une conscience car on a une machine suffisamment sophistiquée à traiter les informations. La pensée est créée dans un cerveau, par une fonction biologique, mais il est également possible d’avoir cette fonction dans d’autre type de système.
Pour aller plus loin, pour un fonctionnaliste, il n’existe pas de différence entre un phénomène mental et sa simulation informatique.

Pour illustrer ce propos, nous pouvons reprendre cette expérience de pensée que j’avais écrite dans cet article. Supposons que nous prenons 100 milliards de pieuvres (représentant mes neurones) et qu’elles sont capables de communiquer entre-elles. Alors nous pouvons supposer que toutes ces pieuvres vont créer une conscience. Si leur agencement est parfaitement exact à mon cerveau, alors cette conscience sera identique à la mienne.

Une machine avec de l’égo

Nous pouvons également définir la conscience humaine au travers de la théorie de l’esprit. La conscience de soi se construit essentiellement au travers du regard des autres. Ce que pense l’autre fait changer mon attitude et mon comportement et vice versa. Et là nous mettons le doigt sur la racine de la plupart de nos névroses et des pensées obsessionnelles. « Bruno pense-t-il que je suis intelligent ? », « Bruno m’aime-t-il ? », « Est-ce que Bruno veut me faire du mal ? ». Il est aisé de comprendre, par Darwinisme, que l’Homme a sélectionné ce modèle de pensé car en tant qu’animal social, c’est une force de faire des prédictions sur les intentions des autres. Si via mon comportement je peux faire changer l’attitude de l’autre, alors je peux changer la donne face à un duel. Face à un homme d’une tribu différente par exemple.

Une machine consciente

Au vu des moyens accessibles aujourd’hui, je pense que les voitures autonomes sont ce qu’il y a de plus proche pour notre exemple. En effet, les voitures autonomes ont la capacité « de voir et d’entendre » pour se mouvoir sans heurter les obstacles. Elles ont donc une perception de leur environnement. Elles ont la capacité aussi à « communiquer » avec leur conducteur, nous pouvons donc dire qu’il existe une perception langagière comportementaliste.

Dès lors, admettons, les voitures autonomes ont accès à une pensée “consciente”. Elles pourraient se demander ce que font les autres voitures. Tiens, cette Ford roule vite, elle doit être pressée. Enfin, elles peuvent décider ensemble quels itinéraires utilisent le moins d’énergie et arriveront à destination plus rapidement. Mais nous avons vu que cette capacité de l’Homme à « deviner » les comportements de ces pairs, est par la même occasion un outil de manipulation.

Par conséquent, une voiture arrivera plus rapidement si elle ne laisse pas les autres voitures savoir que l’autoroute est peu encombrée ! Pire, elles peuvent transmettre de fausses informations sur les accidents ou les problèmes de circulation. Des conséquences imprévues telles que celles-ci se produisent déjà alors que les machines ne sont pas dotées de conscience !

Des comportements incompris sans conscience artificielle

En effet, Wall Street a connu un fameux « krach » causé par des algorithmes d’investissement. D’ailleurs, personne ne comprend à ce jour ce qu’il s’est passé. Environ 1 000 milliards de dollars ont été anéantis et retrouvés en quelques minutes en raison de l’interaction d’algorithmes concurrents que même leurs propriétaires et créateurs ne saisissent pas complètement.

Tout comme les résultats de recherche présentés par Google Search sont l’oeuvre des IA, les meilleures au monde. Plus l’entreprise utilise le deep learning, plus ses machines parviennent à leur mission sans l’aide des ingénieurs. Ainsi, même en regardant le code, on ne verra pas comment la requête A abouti à la réponse B. C’est le monde dans lequel nous vivons déjà. Et il va devenir de plus en plus prononcé.

La conscience, un atout d’évolution ?

La condition humaine est le résultat de millions d’années d’algorithmes d’apprentissages automatiques. On est au niveau d’apprentissage ultime : il est permanent et ne nécessite pas de répétition d’essais erreurs, et il est en “temps réel”. Mieux encore, l’apprentissage peut se faire sans qu’aucun percept extérieur particulier ne vienne stimuler l’individu, une introspection peut être réalisée à un moment ultérieur à l’action, et l’individu peut modifier sa conscience de lui même et de l’extérieur de manière autonome.

Je l’accorde, si une IA serait capable de trouver par introspection la solution d’un problème, cela peut faire froid dans le dos. Et pourtant, quand nous parlons du « mouvement 37 » lorsque AlphaGo a battu Lee Sedol la première fois, il s’est bien passé quelque chose « d’inhumain ».

Certains spécialistes se trompent

J’entends tous les jours des spécialistes de l’IA dire que l’IA forte c’est celle qui atteindra la conscience artificielle. Il est faux de dire que la conscience artificielle est le summum de la technologie, une technologie qui nous dépassera. Comme si la conscience est le point d’orgue de la singularité. Le futur verra certainement une expansion incroyable du nombre et de la complexité des IA. Beaucoup seront conçus pour imiter et dépasser les humains, et surtout pour éliminer les tâches qui nous prennent beaucoup de temps. Personnellement je rêve d’une IA qui me créera mon CV et ma lettre de motivation et qui l’enverra directement aux entreprises dont les valeurs collent avec les miennes ! Pas vous ?

La singularité au service des Hommes

Pour reprendre le concept de Stephane Mallard, l’IA pourrait devenir notre majordome numérique. Même si je n’aime pas le terme « majordome », l’idée est séduisante. La plupart des IA seront extrêmement efficaces à une seule tâche, même si cette tâche est aussi complexe que de conduire une voiture. Elles seront peut-être aussi capables de faire plusieurs tâches en même temps. Quoi qu’il en soit, mon cerveau humain ne me permet pas d’avoir la vision futuriste, car mon raisonnement reste linéaire. A la différence de mon cerveau biologique, l’accroissement de l’IA est exponentiel.

pensée linéaire vs exponentielle

pensée linéaire vs exponentielle

Cependant, je reste convaincu, aucune ne deviendra consciente d’elle-même, parce que cela ne sera pas un avantage dans leur tâche. Stop à l’anthropomorphisme, les IA ne sont pas l’égale des hommes non plus. Les histoires que nous nous racontons, que nous avons appris à généraliser après avoir inventé des histoires sur les autres, ne sont pas envisageables dans le monde des machines automatisées.

Selon Eliezer Yudkowsky, « la singularité arrivera en 2021, nous sommes donc déjà dans le processus ». Nous vivons la singularité. Tel un serpent qui mue ne se rend pas compte que sa peau change, nous sommes en train de vivre la plus grande mutation du XXIème sans même s’en rendre compte. Le mouvement 37 a été l’élément d’une « intuition » artificielle. Sans mouvement 37 (IA), les joueurs (l’Humanité) ne se seraient pas améliorés.