center

"“L’Elite à Haut QI” a tort d’être si hautaine à propos de la “Populace à bas QI” : cette dernière est déjà bien adaptée à un monde où elle n’est pas au top de l’échelle d’intelligence. Les autres devront l’apprendre à la dure avec l’arrivée de la singularité en intelligence artificielle.”
François René Rideau (FARE) - 11 Décembre 2017

L’Épaule d’Orion

Nous construisons une machine qui sera fière de nous.”
Slogan de la société Thinking Machines

En 1993, le mathématicien américain Vernor Vinge avait prédit :

D’ici trente ans, nous aurons les moyens technologiques de créer une intelligence surhumaine. Peu de temps après, l’ère humaine sera terminée.

Pour sa prédiction, Vernor Vinge se basait sur le concept de Singularité : dès lors que nous pourrons construire des ordinateurs plus intelligents que nous, ces derniers pourront en construire des plus intelligents encore, qui... Cela implique que le progrès informatique deviendra alors exponentiel, c’est-à-dire qu’aucun humain ne pourra plus suivre : “l’ère humaine sera terminée.” 

Hélas, nous arrivons au bout de ces trente ans (en 2023), et la Singularité semble toujours aussi lointaine. Il n’y a pas d’androïdes pour rêver de moutons électriques (Blade Runner), et ceux qui rêvent d’une Rachel devront attendre encore longtemps. Pire : l’Intelligence Artificielle Forte, celle qui a tant été explorée dans les films, est toujours considérée comme impossible à atteindre avec les technologies actuelles. 

Mais ce n’est qu’une (petite) partie de l’histoire : pendant que nous regardions à côté, l’Intelligence Artificielle Faible a pris le pouvoir sur nos vies.

Si généralement, quand une nouvelle technologie a du succès, elle le fait de manière très visible (les automobiles ont transformé nos paysages, les smartphones ont bouleversé nos comportements, etc.), ce n’est pas toujours le cas (drones), et c’est encore pire pour l’IA Faible : elle nous a déjà tous soumis, mais nous ne nous en sommes toujours pas aperçus. L’ère humaine est-elle déjà terminée ? 

"More Human Than Human"

"Non, non, vous ne pensez pas, vous êtes juste logique."
Niels Bohr à Albert Einstein

La différence entre l’IA Faible et l’IA Forte se situe au niveau de la compréhension : l’IA Forte en a un niveau humain, voire surhumain. Quand l’IA Forte peut penser, l’IA Faible ne peut que simuler la pensée (Neuromonaco 63). Mais qu’est-ce que ça signifie ? 

Il y a environ 130 ans, Ivan Pavlov (Russie, 1849-1936) avait appris à des chiens à associer un son à une récompense, ce qui provoquait une réponse physiologique automatique (“Réflexe Conditionnel” ou “Réflexe de Pavlov”). Les chiens avaient “compris” que le son de la clochette signifiait nourriture et réagissaient en fonction. Cette “compréhension” nous paraît bien éloignée de celle qui nous intéresse tous les jours mais on peut considérer que l’association est notre premier niveau de compréhension. 

Le niveau suivant est celui où la puissance de la clochette est liée à la quantité de récompense. Cela ressemble à juste un apprentissage supplémentaire au premier niveau (“association”) mais ne l’est plus si le lien n’est pas systématique (i.e. : généralement, mais pas toujours, un son plus fort indique plus de nourriture). On parle dans ce cas de corrélation, et c’est notre deuxième niveau. 

Comme nous l’avons déjà vu (Billet Éco 9), le problème des corrélations est que nous sommes particulièrement mauvais à les détecter, et qu’en conséquence nous nous retrouvons souvent croire qu’il y a un lien entre deux événements non liés. Aussi nous avons besoin de nous assurer d’une relation de causalité pour comprendre. Tout le monde a appris que “Corrélation ne signifie pas causalité” mais en fait une corrélation solide est bien un indicateur de causalité, même si celle-ci peut être éloignée (Evoweb, 2000). Par exemple la corrélation entre le nombre de coups de soleil et de baignade en mer est l’indicateur d’une causalité commune aux deux (le soleil) et pas que l’un serait la cause de l’autre (dans notre exemple du chien la causalité se situe au niveau de l’expérimentateur).

Nous avons donc ici un troisième niveau de compréhension, et c’est celui que nous considérons généralement : la connaissance de la causalité, qui nécessite la conscience. L’IA Forte se distingue de l’IA Faible par sa maîtrise de ce troisième niveau, alors que cette dernière ne dépasse pas le deuxième.

Mais les choses sont plus compliquées. Si nous humains sommes mauvais en corrélations, les ordinateurs y sont parfaitement adaptés, ils peuvent gérer des nombres astronomiques de corrélations, au point de ne plus avoir besoin de la connaissance de la causalité (c’était le thème du Billet Éco 9). Les ordinateurs n’ont pas besoin d’atteindre le niveau 3 pour nous dominer.

J’ai vu tant de choses...

Et l’IA Faible nous l’a déjà montré par ses succès dans tous les domaines. 

En sciences, l’IA faible a déjà démontré être meilleure que les spécialistes humains pour détecter certaines maladies, est utilisée pour découvrir de nouvelles molécules thérapeutiques, et a même permis de réaliser des avancées en mathématiques (Davies et al., 2021) et de comprendre comment les chiens perçoivent le monde (contrairement aux humains, ils s’intéressent plus aux actions qu’aux objets : Phillips et al., 2022). Elle permet aussi de trouver des liens qu’on n’aurait pu imaginer (par exemple : elle peut reconstruire votre visage à partir de seulement votre voix : Oh et al., 2019), et est à la base de plus en plus de découvertes.

Même dans ce qui est souvent proposé comme le summum de l’humanité, l’IA Faible commence à dominer, au point qu’Alexander Wales parle d’apocalypse de l’art. Le logiciel DALL·E 2, qui génère automatiquement des images à partir d’une simple description, peut être utilisé pour (créer des logos mais est aussi maintenant capable de compléter un tableau de grand maître en imaginant tout ce qui dépasse du cadre. Un logiciel concurrent, Midjourney, a permis à Jason Allen de gagner un Prix au concours “Colorado State Fair’s fine 2022” (USA) avec son tableau "Théâtre D’opéra Spatial” : 

center half fullsm

Et il ne s’agit même pas de logiciels rares extraordinairement compliqués et chers : un concurrent aux deux cités est déjà disponible gratuitement pour les ordinateurs grand public Apple Mac récents (Diffusion Bee). 

En fait, l’efficacité de l’IA Faible concernant les images a déjà été exploitée pour le MBN : plusieurs images publiées ont été améliorées en résolution par IA pour atteindre le niveau requis par l’impression papier.

... que vous, humains, ne pourriez pas croire

Avec l’Intelligence Artificielle, nous invoquons le Démon.”
Elon Musk - Octobre 2014 (MIT AeroAstro Symposium)

Mais même si ces exemples semblent remettre en question ce qui nous fait croire humains (l’art visuel ne peut plus être considéré comme un support de communication d’humain à humain), ils ne sont qu’une petite partie de l’invasion de l’IA, qui contrôle déjà de plus en plus de notre vie quotidienne.

Par exemple, la ville du centre de l’Allemagne Bad Hersfeld (29 000 habitants) va gérer l’ensemble des feux de circulation par Intelligence Artificielle [Futura Sciences, 2022), ce qui signifie que tous les temps de déplacement, une part importante de la vie de nombreuses personnes, y dépendront d’une IA Faible. 

Elon Musk, le patron de Tesla Inc., qui trouvait satanique l’IA il y a 8 ans (citation ci-dessus), a présenté le 30 septembre 2022 son robot humanoïde Optimus qui, dans trois à cinq ans, est promis “transformer la civilisation” grâce à son intelligence (Le Monde, 2022).

L’IA Faible est encore plus intrusive au niveau de nos opinions.

Nous savons déjà que celles que nous nous croyons propres sont en fait très marquées génétiquement (Neuromonaco 93), et une IA Faible permet de détecter l’orientation politique d’une personne à partir d’une photo de son visage (avec 72% de succès contre 55% pour les humains : Kosinski, 2021).

Mais cela n’empêche pas les IA Faibles de nous influencer : Richard Freed (2018) cite le Dr. B.J. Fogg, créateur du Stanford Persuasive Technology Lab, qui affirme “Nous pouvons désormais créer des machines capables de changer ce que les gens pensent et ce qu’ils font, et ces machines peuvent le faire de manière autonome.” 

De fait : les capacités qu’elle apporte en génération d’images, alliées aux connaissances des “Déclencheurs” (Neuromonaco 53 et 54), notamment dans le domaine de la beauté (Sanilac, 2022), font que déjà en 2020 les personnages virtuels sur Instagram ont provoqué presque trois fois plus d’engagements que les humains (HypeAuditor, 2020). La fabrication automatique du consentement est devenue une réalité.

Et c’est au niveau économique que la domination de l’IA Faible sera la plus impactante. Elle ne nous promet en effet pas seulement une "jobocalypse" (Billet Éco 6), mais une prise de contrôle complète de toute la vie économique.

Il y a plus de 10 ans déjà, en 2011, IBM Watson, qui comprend le langage naturel, avait montré son potentiel en gagnant le jeu Jeopardy! (et le million de dollars de prix qui allait avec). Il remplace maintenant les recherches documentaires des avocats, gère 175 000 emails par jour pour le Crédit Mutuel, et a augmenté de 200% les performances du modèle marketing de Wunderman Thompson, entre autres utilisations.

Mais il ne s’agit là que de remplacement, ou d’amélioration, de travail humain, c’est à un niveau beaucoup plus global que l’impact est le plus fort. L’IA Aladdin® (Asset, Liability, Debt and Derivative Investment Network : Réseau d’investissements en actifs, passifs, dettes et dérivés), de BlackRock, gère 21 600 milliards de dollars sur les marchés financiers (presque 4 fois la valeur totale du CAC 40). 

À ce niveau, toute modification, même minime, des algorithmes a un impact direct sur quelle entreprise peut vivre, ou mourir, c’est-à-dire in fine sur notre vie à tous. Or Aladdin® s’appuie notamment sur les données de Clarity AI qui analyse les données de plus de 30 000 entreprises dans 200 pays selon notamment leur conformité au dogme du développement durable. Une orientation politique et morale décide de notre vie ; Lê Nguyên Hoang (Science4All, 2022) classe Aladdin® comme “l’IA la plus terrifiante”.

La Porte de Tannhäuser

"Les réplicants sont comme toutes les autres machines. Ils sont soit un avantage, soit un danger.Si c'est un avantage, ce n'est pas mon problème."
Blade Runner (1982)

Dans Blade Runner, il y a d’abord les bons (les humains) et les méchants (les réplicants). Et puis le film avance, et puis on ne sait plus, le réplicant est trop humain, le héros est probablement lui aussi un réplicant. Là c’est dès le départ qu’on ne sait pas, on sait juste qu’on ne peut pas savoir.

Le Billet Éco 34 avait décrit comment notre monde est culturellement en train de basculer : "Nous rentrons dans une nouvelle ère (comme déjà indiqué dans le Billet Éco 11), et même si les médias, tels l’orchestre du Titanic, continuent de jouer leur propagande, il est urgent de s’en apercevoir, pour se préparer à rebondir en revenant aux fondamentaux économiques (Base Éco 18)."

C’est un autre bouleversement, tout aussi important, qui est en jeu ici. L’Intelligence Artificielle Faible ne fera pas que renverser les emplois et métiers, elle définira, selon des algorithmes que personne ne pourra jamais maîtriser, qui réussira et qui échouera. Elle va créer un nouvel environnement économique, différent de celui pour lequel nous avons été sélectionnés, et gérer les relations à l’intérieur de ce monde. Sans doute, comme nous l’avons déjà vu (Billet Eco 16), ne pourrons-nous que laisser les ordinateurs se débrouiller entre eux. Quelle place nous restera-t-il alors ? Pourrons-nous nous y adapter ?

Philippe Gouillou

Références : Aladdin® ; Billets Éco : 6 (MBN 50, Décembre 2014)9 (MBN 53, Octobre 2015), 16 (MBN 60, Août 2017) ; et 34 (MBN 79, Juillet 2022) ; Clarity AI ; DALL·E 2 ; Davies et al. (2021, doi:10.1038/s41586–021–04086-x) ; Diffusion Bee ; Evoweb (10 mars 2000) ; Freed (12 mars 2018) ; Futura Sciences (5 septembre 2022) ; HypeAuditor (9 novembre 2020) ; IBM Watson ; Kosinski, (2021, doi:10.1038/s41598–020–79310–1) ; Le Monde (1 octobre 2022) ; Lettres Neuromonaco : 53 (7 janvier 2013)54 (14 janvier 2013)63 (18 mars 2013), et 93 (2 décembre 2013) ; Martins (2 août 2022) ; Midjourney ; Oh et al., (2019, doi:10.3791/64442) ; Phillips et al., (2022, doi:10.3791/64442) ; Sanilac (mars 2022) ; Science4All (20 juin 2022) ; Vinge (30 mars 1993) ; Wales (15 août 2022)

Sources