L’intelligence artificielle, une bonne idée?

La victoire d’AlphaGo, l’intelligence artificielle de Google DeepMind, au jeu de go contre un joueur professionnel Coréen, les propos racistes tenus sur Twitter par Tay, l’intelligence artificielle (IA) de Microsoft, sont deux événements récents mettant en lumière les progrès des intelligences artificielles ces dernières années. L’intelligence artificielle est prometteuse dans de nombreux domaines mais elle met aussi en exergue de nombreux risques liés à sa démocratisation que ce soit pour le grand public ou pour les entreprises.

La genèse de l’intelligence artificielle

En 1956, John Mac Carthy présenta le concept d’intelligence artificielle à l’occasion d’une conférence dans une université Américaine. Ce terme d’intelligence artificielle est issu des recherches effectuées avec son compère Marvin Lee Minsky. Ce dernier défini l’IA comme «   la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus satisfaisante par des êtres humains car elles demandent des processus mentaux de haut niveau tels que : l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique ».

Cette définition souligne le fait de vouloir faire accomplir des tâches complexes par un système produisant de l’intelligence. Pourquoi l’Homme cherche-t-il à faire accomplir ces tâches par un système tiers le substituant ? L’émergence de l’informatique est un facteur important ayant contribué à l’apparition de l’IA. Ce domaine amène de nouvelles perspectives quant à la possibilité pour l’Homme de simplification des tâches et des réflexions qu’il mène. Ces processus de simplifications sont issus des mécanismes naturels du cerveau que sont notamment la paresse et la peur. Le cerveau préfère économiser son énergie tout en ayant un maximum d’effet. L’IA est alors la résultante d’un processus de paresse de l’Homme conduisant à l’exploitation d’autres ressources visant à l’économiser physiquement et mentalement.  L’esclavagisme peut être aussi perçu comme une résultante de ce phénomène naturel.

Les premières IA apparues autour des années 60 étaient des IA pouvant être qualifiées d’IA faible. Elles permettaient de répondre à des besoins spécifiques comme de la traduction automatique, le diagnostique d’une maladie, la surveillance chimique des circuits secondaires des centrales nucléaires d’EDF[1], etc. L’IA faible était alors principalement caractérisée par des systèmes dit expert spécialisés dans leur domaine. Ces systèmes sont paramétrés par l’Homme et contiennent des règles et du contenu sur des sujets divers et variés. Cette intelligence très spécifique n’est pas la visée d’une IA forte.

L’IA forte vise à reproduire de manière globale le fonctionnement de l’humain (activité motrice, sensorielle, cérébrale). La robotique humanoïde en est très souvent une représentation. La création d’une telle intelligence est devenue un axe stratégique de développement de grandes entreprises du numérique mais aussi de nombreux chercheurs. Doit-on voir ce nouvel engouement comme une opportunité pour l’humanité ou comme un danger nous menaçant ?  De nombreux points de vue s’affrontent à ce sujet, il est nécessaire de les explorés pour mieux les comprendre et ainsi affirmer son propre opinion. L’IA dispose de nombreux champs d’exploration, le travail en est un faisant l’objet de nombreuses recherches.

Du « techno optimisme » au transhumanisme

Plusieurs courants de pensées animent les scientifiques, les chercheurs et les ingénieurs pour avancer dans le développement des IA.  Laurence Devillers, professeure à Paris-Sorbonne-IV et responsable d’une équipe de recherche au laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur du CNRS, travaille[2] sur le robot NAO et son utilisation pour les personnes âgés, qu’ils soient à domicile ou en maison de retraite. « La relation homme-robot sera souvent triangulaire, entre l’homme, le robot, et le personnel soignant ou la famille. »[3] Des expérimentations sont actuellement menées avec un robot doté d’une IA répondant aux questions récurrentes de patients atteint de la maladie d’Alzheimer. Ce robot satisfait les besoins de ces patients en ayant une réponse immédiate et ainsi stimule leur cerveau. Il permet aussi de décharger le personnel soignant d’une activité consommatrice de temps afin de pouvoir satisfaire d’autres besoins médicaux.

Cet exemple peut s’inscrire dans le mouvement du techno optimisme qui souligne que « le progrès existe, ce n’est pas une illusion ou une fabrication idéologique. Celui-ci est entrainé par les sciences, mais se répercute dans les domaines sociaux, moraux, politiques. Tout est possible dans la limite des lois physiques. ».[4] Stewart Brand, inventeur de l’expression « Personal Computer », et Ramez Naam, essayiste futuriste et romancier, ont écrit des ouvrages caractéristiques du techno optimisme. Ils exposent des solutions technologiques permettant de résoudre les principaux maux actuels de l’Humanité comme le réchauffement climatique. Le techno optimiste croit en la recherche de solutions techniques dans tous les domaines afin de l’améliorer. Il est conscient que des innovations comme l’IA apportent des problèmes mais que les bénéfices leur sont supérieurs.

Le transhumanisme est une vision radicale du techno optimisme. Apparu aux Etats-Unis dans les années 1950, il s’est popularisé dans les années 1990. Les transhumanistes « considèrent que la maladie et le vieillissement ne sont pas une fatalité. »[5] L’Humanité peut donc utiliser toutes les techniques possibles en particularité les nanotechnologies, la biologie, l’informatique et les sciences cognitives pour améliorer l’existence humaine. Les transhumanistes sont des partisans inconditionnels de l’IA. Ils soutiennent son développement et toutes les recherches ayant lieux à ce sujet. Les critiques récurrentes à propos de l’IA ne les atteignent que très peu.

Un des plus grands symboles de l’influence du transhumanisme sur l’intelligence artificielle et des acteurs dans ce domaine est le recrutement en 2012 de Ray Kurzweil, le « pape » du transhumanisme, par Google au poste de directeur de l’ingénierie dans le but de doter l’entreprise d’une IA forte.

Des motivations divergentes entre chercheurs et intérêts économiques des GAFA

De nombreux chercheurs comme Laurence Devillers planchent sur des IA capables de répondre à des problématiques médicales, de dépendances des personnes âgées, de facilitation du travail manuel, etc. Pour autant, les plus grandes avancées en matière d’IA ces dernières années proviennent de multinationales Américaines championnes du numériques couramment regroupées sous le terme GAFA (Google, Apple, Facebook, Amazon). Depuis la victoire de Deepblue en 1997, l’IA d’IBM, contre le champion du monde d’échec de l’époque, de nombreux autres évènements ont marqués l’évolution de l’IA. La victoire de la nouvelle IA d’IBM, Watson, en 2011 au jeu télévisé Jeopardy marque un tournant dans la progression de l’IA. Pour la première fois, un processus de deep learning a permis la victoire à un jeu télévisé nécessitant de nombreuses connaissances. Le deep learning est la faculté d’apprentissage automatique par un programme informatique.

Cet événement est le point de départ de l’émergence publique du scepticisme sur l’IA par des gens de renoms que sont Bill Gates, fondateur de Microsoft, Stephen Hawking, astrophysicien, et Elon Musk, fondateur de PayPal et Tesla. Leurs préoccupations se portent sur une IA de type forte « qui pourrait mettre fin à l’humanité »[6]. Ces propos ont été très commentés par de nombreux observateurs. Le grand public a alors eu une quantité d’information très importante et parfois biaisé concernant les effets possiblement négatifs de l’IA.

La victoire d’AlphaGo au jeu de go il y a quelques semaines a relancé ce débat. L’émission « Ce soir ou jamais ! » diffusée le 11 mars 2016 revient sur les progrès de l’IA. Laurence Devillers, souligne le fait que la victoire d’AlphaGo est impressionnante mais que la machine n’a aucune conscience qu’elle a gagné. En cela, l’IA de Google n’est pas une IA forte. Marianne Durano, essayiste, n’est pas étonné de la victoire de l’IA car le jeu possède certes un nombre de combinaisons possibles important mais c’est un jeu basé sur des calculs résultant d’une programmation pragmatique d’ingénieurs. Elle indique qu’elle sera plus surprise lorsqu’un robot gagner un concours d’innovation ou de créativité.

La victoire d’AlphaGo est une vitrine technologique permettant une large communication de la part de Google. Les applications directes ne sont pas mises en avant par la firme. Pourtant, Google utilise déjà de nombreuses IA dans ses services grand public actuels notamment à des fins de prédictions comportementales permettant un ciblage publicitaire plus précis ou pour retourner des résultats de recherches le plus personnalisés possibles. La personnalisation des résultats par Google répond à la paresse du cerveau et aux biais cognitifs qu’est le biais de confirmation.  L’individu ne dispose alors facilement que d’informations qui confirment ses idées préconçues. Serge Tisseron, psychanalyste français, soulève lors de l’émission les écarts d’objectifs entre les scientifiques qui souhaitent corriger les maux de l’humanité et les industries dont leur but est de faire du profit.

Définir un projet de société pour maitriser les effets de l’IA

L’intelligence artificielle promet déjà de bouleverser certains domaines dans les années à venir. L’un des arguments souvent avancés par ses détracteurs est la destruction d’emploi. Steward Brand, gourou de la contre-culture américaine, affirme que : « Décennie après décennie, des intellectuels en Europe et en Amérique nous expliquent que le monde va en enfer, que le progrès est un mensonge, et que de mauvaises personnes, de mauvaises idées et de mauvaises institutions sont à blâmer pour la dégradation irréversible de tout ce qui est vrai et bon. » Les différentes révolutions industrielles ont par exemple détruit des emplois dans le secteur primaire, mais de nombreux emplois tertiaires ont été créés. Les peurs de l’époque étaient les mêmes qu’aujourd’hui.

L’IA est aujourd’hui omniprésente dans le secteur bancaire à travers des activités de trading hautes fréquences effectuées par des IA. L’IA dans ce domaine a apporté de nouvelles opportunités mais son usage non régulé a amené de nombreux soucis. Des micro crises financières ont lieu régulièrement suite à des décisions peu fortuites prisent par des IA bancaires.

L’automobile est aussi l’un des secteurs le plus concerné par l’IA à travers le développement des véhicules autonomes. Au Etats-Unis, le secteur du transport emploie 750 000 personnes. L’émergence de véhicules autonomes disposant d’IA de plus en plus fiable compromet toute une partie de ses emplois. De nombreux emplois sont certes créés grâce aux entreprises développant des IA mais la rapidité du développement des véhicules autonomes interpelle Laurent Alexandre[7]. Est-il possible de transformer les 750 000 emplois de chauffeurs aux USA en emplois qualifiés en quelques années ?

Ce domaine de l’automobile est symptomatique de l’ambivalence des discours de certains acteurs de l’IA. Elon Musk, PDG de Tesla, développe des véhicules autonomes susceptibles de participer à ce phénomène de disparition d’emploi de chauffeurs et finance[8] parallèlement des projets visant à « garder l’IA fiable et bénéfique ».

Par ailleurs, l’IA fait l’objet d’une personnification lorsqu’elle prend la forme d’un robot ressemblant à un être vivant. Cette personnification redéfinit l’interaction que l’homme peut avoir avec la machine. L’Homme projette alors des émotions sur le robot. Aujourd’hui les IA des robots ne sont pas des IA fortes ayant une conscience, étant capable d’interagir émotionnellement, d’avoir un ressenti. L’Homme est donc conscient que le robot est une machine mais cela peut parfois demander un effort de réflexion pour se détacher de l’aspect physique de la machine afin de ne pas ressentir des sentiments trop profonds. Par exemple, lorsque le robot Atlas de Boston Dynamics est bousculé par un Homme dans une vidéo[9], le spectateur projette instinctivement sur le robot un sentiment d’empathie.

L’Homme doit donc être capable de mener une réflexion en évitant les biais cognitifs et les filtres d’information afin d’être conscient des effets positifs mais aussi négatifs qu’une IA peut apporter.

Une IA responsable au service de l’Humanité

Malgré de nombreux discours ayant dans ce sens, Ies IA conscientes n’existent pas encore mais elles sont de plus en plus fortes et ont un impact direct et potentiellement rapide sur notre société et l’organisation du travail. Ce débat permet d’appréhender les nombreuses avancées actuelles et futures permises par les IA en respectant une chronologie responsable. Les effets moins bénéfiques de l’IA sont relevés avant qu’ils ne se produisent, cela permet ainsi d’agir en pleines consciences. Cela n’a pas toujours été le cas, la montée en puissance de l’automobile c’est faite par exemple de manière frénétique sans ne jamais avoir évoqué les incidences sur l’environnement.

Il est donc important de définir un projet de société fixant des objectifs à atteindre et des règles à respecter. Ce projet pourrait être porté par une organisation comme l’ONU afin de profiter des avancées permises par l’IA dans de nombreux domaines (santé, éducation, automobile, etc) tout en limitant les possibles effets négatifs.


[1] Bilan et perspective de dix ans d’Intelligence Artificielle en entreprise – Michel Gondran http://goo.gl/o2tHlL

[2] ‪Ce soir ou jamais ! Intelligence artificielle – Vendredi 11 mars 2016 https://goo.gl/i1awae

[3] Il faut se préparer à accueillir les robots – Laurence Devillers – Le Monde http://goo.gl/ykNn5C

[4] Le progrès technologique est-il la solution à tous nos maux ? – Rémi Sussan – Le Monde http://goo.gl/xeRHAa

[5] Google et les transhumanistes – Laurent Alexandre – Le Monde http://goo.gl/TbQyQn

[6] Hawking : « L’intelligence artificielle pourrait mettre fin à l’humanité » – Le Monde  http://goo.gl/DUAGfq

[7] Ce soir ou jamais ! Intelligence artificielle – Vendredi 11 mars 2016 https://goo.gl/i1awae

[8] Les 37 projets d’Elon Musk contre les dangers de l’intelligence artificielle – Le Monde  http://goo.gl/iEoIVe

[9] https://www.youtube.com/watch?v=rVlhMGQgDkY

Laisser un commentaire