Billet Eco 9 : Les fournisseurs de décisions

Très bientôt les ordinateurs décideront pour nous.

(Billet Eco paru dans le MBN 53)

Les fournisseurs de decisions

Le 20 juin 1815, à la Bourse de Londres, tous les traders surveillent Nathan Rothschild qui, grâce à ses réseaux, sera le premier informé du résultat de la bataille de Waterloo. Aussi, quand il se met à vendre ses actions, ils le suivent tous au plus vite : les cours s’effondrent, ce qui permet à Rothschild de racheter à très bas prix, et ce faisant de prendre le contrôle de l’économie anglaise et de multiplier sa fortune par vingt. Cette manipulation est restée célèbre (quoique son authenticité soit loin d’être garantie) : elle a marqué la victoire définitive de l’information dans le monde moderne.

Deux siècles après, tout notre vocabulaire reconnaît la primauté de l’information et ne parle que d’elle : nous sommes dans l’ère de l’information, que nous maîtrisons grâce aux technologies de l’information. Il se dit qu’un Occidental moyen est maintenant confronté chaque jour à plus d’informations que n’en avait eût à traiter son ancêtre d’il y a 200 ans au cours de toute sa vie. Et le mouvement s’accélère : "Demain sera logiciel" annonçait le dernier Billet Eco (MBN 52), or que traite un lociciel ? Seulement de l’information. Rien n’arrêtera sa domination absolue.

Rien, si ce n’est les capacités humaines : le "temps de cerveau humain disponible", comme l’avait nommé Patrick Le Lay en juin 2004, n’est pas extensible à l’infini, et à l’intérieur même de ce temps les capacités cognitives de chacun posent une limite infranchissable. Pour poursuivre cette évolution, il faudra soit accroître l’intelligence humaine, soit s’en remettre aux ordinateurs.

Transhumanisme et singularité

L’augmentation des capacités cognitives humaines se fait déjà au travers de certains médicaments (les nootropiques), avec une efficacité suffisante pour que la lutte contre le dopage intellectuel aux examens soit une question de premier plan depuis une dizaine d’années. Mais si les transhumanistes promeuvent cette accélération cognitive, on sait déjà qu’elle ne suffira pas : la croissance de la quantité d’information est exponentielle, aucune drogue ne permettra de suivre un tel rythme.

Il faudra que les ordinateurs nous suppléent. Eux seuls ont un rythme d’évolution suffisamment rapide : il est prévu que d’ici une dizaine d’années ils seront déjà plus intelligents que nous (c’est le "Point de Singularité"). Cela ne signifie pas qu’ils auront le même type d’intelligence : notre cerveau a été façonné par l’évolution pour permettre la transmission de nos gènes, pas pour être parfait. En conséquence, nous sommes perclus de biais et particulièrement mauvais dans énormément de domaines. Un ordinateur n’aura pas cette limite et pourra prendre d’autres voies de développement.

De la causalité à la corrélation

Une caractéristique du cerveau humain est qu’il recherche des causalités : il a besoin de comprendre pour intégrer une situation. Ce mode de fonctionnement offre des avantages (l’esprit scientifique) comme des inconvénients (l’esprit magique) mais constitue surtout une limitation importante : notre cerveau est très souvent dépassé par le nombre de facteurs en jeu et se trouve incapable de détecter les causalités dont il a besoin. L’ordinateur, lui, peut comparer des nombres astronomiques de facteurs, au point qu’il n’a plus besoin de chercher les causalités mais peut se contenter des corrélations.

Une corrélation n’est qu’un signe faible de l’existence d’une causalité. Elle signifie que deux facteurs distincts évoluent ensemble, sans qu’il y ait nécessairement un lien causal direct de l’un sur l’autre. Par exemple, il y a une corrélation entre le nombre de coups de soleil sur la plage et le nombre de personnes se baignant en mer, mais il ne faut pas en déduire que c’est le bain qui brûle la peau, la causalité est ailleurs (ici : le soleil). Les corrélations basées sur peu de facteurs peuvent amener à des résultats absurdes. Par exemple, Tyler Vigen a calculé que le nombre de suicides par pendaison, étranglement et suffocation aux USA est corrélé à plus de 0,99, ce qui est énorme, avec le nombre d’avocats en Caroline du Nord… C’est pourquoi, à notre niveau humain, les corrélations non étayées par des explications ne sont considérées qu’avec prudence : nous avons besoin de connaître le lien causal pour être sûrs avant toute décision.

L’ordinateur qui peut, lui, détecter des corrélations entre un nombre astronomique de facteurs ne souffre pas de cette faiblesse. Cela signifie précisément que les ordinateurs pourront mieux que nous décider à notre place en se basant sur des informations que nous serons fondamentalement incapables de comprendre.

La fin du besoin de QI

Nous avons tous dans nos poches des ordinateurs connectés à des moteurs de recherche qui ont révolutionné notre rapport au monde : nous savons qu’à tout moment nous trouverons en quelques secondes l’information dont nous avons besoin.

Ces smartphones évoluent : déjà leurs nouvelles versions commencent à prédire nos demandes afin d’y répondre avant même que nous ne le sachions. Bientôt ils pourront prendre des décisions pour nous : nos achats quotidiens, quelle voiture nous devons choisir, dans quel pays nous devons aller, qui nous devons rencontrer, …

Bien sûr ils n’imposeront pas ces choix : ils nous les proposeront, à nous de les suivre, ou pas. Mais nous remarquerons vite que nous y soumettre nous est positif, que leurs décisions sont meilleures que celles que nous aurions pu prendre sans eux. Tout comme les machines nous ont libérées du besoin d’être fort, les ordinateurs nous affranchiront du besoin d’être intelligent.

L’avenir

Les moteurs de recherche s’orientent déjà vers ce nouveau marché et vont progressivement se transformer en "Fournisseurs de Décisions" : des outils qui sauront dicter notre vie afin que nous vivions mieux. Cette évolution entraînera des conséquences fascinantes. Des questions se posent qui n’ont pas encore de réponse : comment seront gérées les compétitions pour l’accès aux ressources rares ? Au moins aux débuts, ce sont ceux qui concevront ces logiciels qui le détermineront et ils disposeront ainsi d’un pouvoir jusqu’alors jamais connu sur la vie de chacun : ils seront les véritables maîtres du monde, et le resteront.

Tout se jouera ces toutes prochaines années : c’est parce que l’intelligence n’aura bientôt plus la même importance qu’elle est la plus nécessaire maintenant.

Philippe Gouillou

Références : Tyler Vigen (Spurious Correlations, 2015) ; Billet Eco MBN 52 ; Lettre Neuromonaco 76

Sources citées