Débat vers une IA humanisée ?

© 2018 Illustration extraite de la série photographique Une histoire d’écran, CCA, série photographique pour le CNES.

Forum Vertigo 2020 / COLLOQUE – 26 février 19h – 20h30.
Centre Georges Pompidou, Paris.

Animation Raphaël Bourgois, producteur à France Culture, rédacteur en chef d’AOC.
Avec Laurence Devillers, professeur d’informatique à Sorbonne Université et chercheuse au LIMSI-CNRS.
Jean-Gabriel Ganascia, professeur d’informatique à Sorbonne Université et chercheur au LIP6.
Jim Kurose, professeur.
André Manoukian, compositeur.
Richard Frackowiak, professeur de neurosciences.

https://vertigo.ircam.fr/agenda/debat-vers-une-ia-humanisee/detail

Le débat vers une IA humanisée porte autour des questionnements sur la créativité dans l’IA. Jean Gabriel Ganascia rappelle que l’IA est une « sorte d’archéologie du futur ». Elle se sert d’éléments DATA, autrement dit d’éléments de mémoire et les compile entre eux par des algorithmes. L’Intelligence Artificielle, dit-il, c’est l’idée de se simplifier les choses dans la compréhension du monde. C’est une « sorte de curiosité » car elle permet de comprendre l’intelligence humaine dans ses facultés, ses raisonnements et sa mémoire. Richard Frackowiak dans le projet Human Brain qui a l’ambition de modéliser le cerveau défend l’idée de l’alliance de la biologie du cerveau et de l’information. Par les données récoltées et leurs croisements, il vise à simuler le fonctionnement cérébral afin de mieux appréhender les maladies. C’est selon lui un moment historique dans la compréhension du cerveau et dans ses diverses modalités d’approche. Pour André Manoukian, « on ne peut pas parler d’intelligence artificielle sans esprit ». Un esprit qui porte le projet de l’IA et qui fait l’IA. Les machines créées portent avant tout le trouble existentiel de notre humanité : l’obsession de la mort. Ainsi la finance, les gouvernements et les GAFA portent à grande échelle des projets d’IA qui travaillent sur l’armement, la santé et la mémorisation. La quête de l’immortalité dans certaines start-up de la Silicone Valley met en avant cette sorte de croisade selon ses dires. Son projet Muzeek d’IA compositrice permet de rendre accessible la musique en composant des thèmes et plusieurs variations de partitions s’adaptant automatiquement au découpage de l’image. Par un jeu de patterns et de croisements, cette IA est capable de produire d’infinies variations qu’elle sait reconnaître et identifier. Pour être au plus proche d’une simulation de vie, d’une IA humanisée, il faut savoir désapprendre pour créer, rappelle- t’il, et repérer les influences que subit une démarche, qu’elle soit humaine et artistique. Il utilise l’exemple du groupe de musique des Beatles pour expliquer en quoi les contextes dans lesquels évoluent les sujets dépendent étroitement de leurs émergences. Laurence Devillers rappelle ces fondements perceptifs entre l’homme et son espace :  « on ne sait pas ce qu’est le substrat de la pensée ». La pensée forme la perception du monde et le monde forme la perception de la pensée. Et malgré le projet de l’Human Brain, il y a une part d’inconnu qui reste inaccessible. Elle interroge la perte de la créativité dans cette uniformisation de masse portée par le projet prédictif de l’IA. Au delà du fait que celle-ci puisse être une formidable assistante augmentée pour la créativité et un merveilleux outil créatif : l’IA de masse généralisée porte en elle le projet de la prédication et en fait sa haute valeur. Et ce projet n’est pas prêt de reculer car il porte en lui des leviers financiers considérables et sociaux-politiques. Seulement, dans cette haute valeur prédictive, l’IA empêche les imprévus, le lâcher prise et l’imagination de se manifester tuant ainsi les lieux de la créativité dans son essence. Il s’agit ainsi de rendre conscient l’ensemble de la communauté de ces différents enjeux et se méfier de ce qui est gratuit. Google en voulant prendre par exemple, explique-t’elle, le marché de la santé et l’exercer de manière gratuite pose un problème éthique généralisé. L’IA est un modèle qui est entre soi et la réalité pouvant facilement faire lieu-oeuvre de manipulation. « Comment va t’on rester maître à bord dans cet environnement devenu essentiellement prédicatif et tenu par des puissances lobbyistes  » ? souligne t’elle. Elle rappelle ainsi la question incontournable que pose le libre-arbitre dans l’IA. La surveillance omniprésente et omnigénéralisée par les machines détruit potentiellement les ressorts d’une IA humanisée et du libre arbitre de notre humanité. Il y a ce besoin incontournable d’aléatoire, de magie et de hasard pour faire émerger les foyers de la créativité et ainsi une pensée « libre ». Dans les processus de la pensée décrits par Laurence Devillers, l’IA cherche aujourd’hui à dépasser la distinction entre le raisonnement abstrait et l’instinctif. Seulement cette chercheuse en Intelligence Artificielle soulève ces 4 étapes qui posent pour l’instant problème dans ce processus :

  • « Le raisonnement par abduction : il consiste à inférer des causes probables à un fait observé. L’abduction convoque donc l’imagination, l’intuition, la créativité ce qui n’est pas le fort des machines.
  • La compréhension : celle-ci a besoin du sens commun. La machine ne comprend pas ce qu’elle dit.
  • L’intuition : le cerveau humain calcule le plus souvent hors du champ de la conscience, une grande masse d’informations selon des règles immuables. Il ne voit souvent que ce qu’il s’attend à voir (effet Gorille).
  • La créativité et l’imagination : l’IA peut créer mais elle est incapable d’expliquer ni d’imaginer ce qu’elle a réalisé. »

Jim Kurose quant à lui occupe le poste de directeur adjoint pour l’intelligence artificielle au Bureau de la politique scientifique et technologique de la Maison-Blanche depuis 2018. C’est le seul organe qui peut donner un avis sur la politique en science et technologie qui dépasse les différents intérêts et responsabilités des administrations fédérales traitant de S&T. Par des experts scientifiques venant des universités, le travail de l’OSTP permet de maintenir et de soutenir les avancées transformatrices de la cyber-infrastructure dans une logique pouvant porter à la critique. L’aspect prédicatif des IA empêche la manifestation des imprévus aléatoires pouvant mener à la créativité, garante de l’humanisation et de la protection de l’intelligence humaine. Ce processus objectivé des IA dicté par des algorithmes avec des buts s’apparentant à des idées fixes d’un point A à un point B ne permet pas l’ouverture aux formes mouvantes qui composent le vivant et l’immuable. Une intelligence artificielle humaine et humanisée serait capable de faire face à un processus de sérendipité autonome avec une partie qui tendrait vers un accroissement qui grandit l’homme dans son humanité, c’est à dire dans son libre-arbitre et sa créativité.

Ce processus objectivé des IA dicté par des algorithmes avec des buts s’apparentant à des idées fixes d’un point A à un point B ne permet pas l’ouverture aux formes mouvantes qui composent le vivant et l’immuable. Une intelligence artificielle humaine et humanisée serait capable de faire face à un processus de sérendipité autonome avec une partie qui tendrait vers un accroissement qui grandit l’homme dans son humanité, c’est à dire dans son libre-arbitre et sa créativité.

L’IA humanisée soulève ainsi la question du libre-arbitre, de la créativité et de l’éthique.