Les conséquences de la technologie
En 1960, dans un discours sur la question de la technologie, le philosophe Martin Heidegger déclarait : « Les conséquences de la technologie sont tout sauf technologiques. Au début, cela ressemblait à l'une de ses expressions sombres et auto-enveloppantes, comme une gravure d'Escher. C'était en fait une prophétie. Une prophétie que nous vérifions aujourd'hui dans toute sa portée prévoyante. La technologie, selon le philosophe allemand, fait partie du destin de l'être, quelque chose qui relève de son ontologie. Et c'est vrai.
Les conséquences de la technologie sont énormes et générales. L'intelligence artificielle est la technologie suprême aujourd'hui, bien qu'elle en soit encore à ses balbutiements. Ses conséquences seront donc suprêmes. Les technologues eux-mêmes, c'est-à-dire ceux qui le poussent en tant que Panzerdivision, sont très, très alarmés. Elon Musk, le commandant en chef de cette division, a déclaré que "l'intelligence artificielle peut déclencher la troisième guerre mondiale", qui sera une guerre menée dans le cyberespace.
Les mêmes protagonistes de la révolution technologique, même les plus jacobins, commencent à s'interroger sur ce dont ils ne se sont jamais souciés, les conséquences de leurs actes. Les Américains savent désormais - c'est écrit dans un rapport officiel de plus de 500 pages - qu'un président est là où il est parce qu'il y a Facebook et qu'il y a les réseaux sociaux. Il y a un espace, c'est-à-dire sans toit ni loi. Thomas Friedman, lauréat du prix Pulitzer et chroniqueur du New York Times, a écrit quelque chose de définitif sur cet espace :
« Avons-nous atteint le point de non-retour ? Oui, c'est quand nous avons réalisé qu'une masse critique de nos vies et de notre travail s'était glissée du monde souterrain vers le domaine du cyberespace. Ou plutôt, une masse critique de nos relations s'est déplacée vers un territoire où tout le monde est connecté mais personne n'est en charge.
Après tout, il n'y a pas de projecteurs dans le cyberespace, il n'y a pas de policiers qui patrouillent dans les rues, il n'y a pas de juges, il n'y a pas de Dieu pour punir les méchants et récompenser les bons et certainement pas de ligne d'assistance à appeler si Poutine vole les élections. Si quelqu'un jure sur Twitter ou Facebook, à moins qu'il n'y ait une menace mortelle, bonne chance si vous voulez que le camouflet soit puni, surtout s'il est anonyme, ce qui arrive souvent dans le cyberespace.
Et le cyberespace est le territoire dans lequel nous passons désormais des heures et des heures de notre journée, où nous faisons la plupart de nos achats, la plupart de nos réunions, où nous cultivons nos amitiés, où nous apprenons, où nous faisons la plupart de nos affaires, où nous enseigner, où nous nous informons et où nous essayons de vendre nos biens, nos services et nos idées.
C'est là que le président des États-Unis ainsi que le chef de l'Etat islamique peuvent communiquer aussi facilement avec des millions d'abonnés via Twitter, sans avoir besoin d'éditeurs, de vérificateurs, de cabinets d'avocats et d'autres filtres.
L'intelligence artificielle sera-t-elle une pomme empoisonnée ?
Non, du moins ce n'était pas le cas dans les intentions des fondateurs de cette technologie extrême, qui y voyaient un nouveau chapitre du développement humain, mais un chapitre écrit collectivement par l'humanité tout entière.
Pour bien éclaircir cet aspect il y a un livre qui vient de sortir qui rentre droit dans la genèse de la pensée, des élaborations et des actions des scientifiques et inventeurs visionnaires qui sont la source conceptuelle et instrumentale de l'IA. Le livre est La pomme empoisonnée. Aux origines de l'intelligence artificielle (goWare, disponible en versions papier et ebook) par Mario Ricciardi, professeur émérite à l'École polytechnique de Turin, et Sara Sacco, jeune éditrice. Le livre clarifie clairement les buts et les intentions des premières idées de la machine cognitive dès les années XNUMX.
Précisément dans le chapitre consacré à Heidegger, Ricciardi exprime clairement, dirons-nous, la dialectique de la machine cognitive. Il l'exprime en ces termes :
« Les technologies de l'information et la théorie de la calculabilité de Turing comportent un risque terrible. Deux visions profondes s'affrontent donc :
a) machine idéale, parce qu'elle est universelle (pensée abstraite à partir de la théorie computationnelle de Turing) ;
b) machine diabolique, infernale, à partir du concept d'asservissement à la technologie.
La littérature de science-fiction elle-même s'est polarisée entre ces deux extrêmes, préférant peut-être le second pour sa plus grande veine narrative.
Le livre, avec des introductions détaillées et avec le support de matériel visuel, offre les écrits fondamentaux sur la genèse de l'IA. Cela commence par l'essai d'Alan Turing sur les machines et l'intelligence. Les réflexions découlent de Norbert Wiener qui, par la cybernétique, a transformé l'idée de l'ordinateur comme outil de calcul en une machine de communication et donc en un médium universel. Il a également fondé la science de la cybernétique, la science sous-jacente de l'IA.
Il y a ensuite l'écriture visionnaire de Vannevar Bush sur le Memex (le fameux As we think – désormais introuvable dans une traduction italienne exacte), le médium instrumental par lequel la société du savoir et la diffusion de la science auraient dû transiter, en somme , la société de l'information .
Il y a les considérations d'Engelbart, l'inventeur de la souris et de beaucoup d'autres choses que nous utilisons aujourd'hui comme le réfrigérateur, sur le concept d'augmentation et les idées de Ted Nelson pour développer le langage de la créativité personnelle à travers les machines et aussi augmenter les arts libéraux .
Nous avons demandé à Mario Ricciardi une contribution sur ces sujets que nous publions volontiers ci-dessous.
La vision de Tim
Dans une récente interview avec le "Guardian", Tim Berners-Lee réaffirme sa ferme conviction que le Web doit être basé sur une "plate-forme ouverte qui permet à quiconque de partager des informations, d'accéder à des opportunités et de collaborer au-delà des frontières géographiques". La neutralité et la liberté d'Internet ont été mises à rude épreuve par des "gardiens numériques de plus en plus puissants dont les algorithmes peuvent être transformés en armes par des maîtres manipulateurs. Les gens sont déformés par des IA très bien formées qui trouvent comment les distraire
"Le gaz est un service public, l'eau propre aussi et la connectivité aussi", a déclaré Berners-Lee, "fait partie de la vie". L'intelligence artificielle peut donc être un bien commun ; mais est-ce vraiment le cas et les forces économiques, financières, politiques et culturelles sont-elles d'accord avec Berners-Lee ?
Une intelligence commune n'est pas la base du "capitalisme de plateforme". La valeur est extraite des connexions et les smartphones sont les agents de développement les plus dynamiques.
L'économie des plateformes
De nombreux auteurs parlent de « platform capitalism » (Nick Srnicek, Platform Capitalism, Cambridge, Polity Press, 2017.), une nouvelle économie en plein essor, qui croît chaque année à deux chiffres et permet à quelques grandes entreprises de drainer des parts croissantes de richesse. Son pouvoir n'est pas basé sur les produits qu'ils vendent. Une plateforme ne possède pas les moyens de production mais fournit et contrôle les moyens de connexion. Selon une définition largement admise, une plateforme est un modèle économique qui crée de la valeur en facilitant les échanges entre groupes de personnes ou entreprises : le plus souvent entre producteurs et consommateurs.
Par rapport au passé, le schéma est inversé car les services que ces plateformes nous fournissent sans demander d'argent en échange (recherche et boite mail Google, connexions vidéo Skype, réseaux sociaux...) ou à bas coût (Amazon, Uber...) sont liés à les informations que nous leur fournissons.
Nous sommes à la fois des consommateurs (nous achetons des biens en ligne) et des collaborateurs gratuitement, générant en permanence du contenu et publiant des avis sur les biens. Le vrai produit, ce sont les informations personnelles (habitudes, choix, etc. etc.) transformées en données qui sont accumulées, traitées et vendues pour optimiser le processus. Nous sommes nous-mêmes le produit que les entreprises numériques « vendent » sur le marché.
Intelligence commune
Ce panorama nous apprend qu'un programme partagé d'intelligence commune (common intelligence) n'est pas à l'ordre du jour. C'est plutôt la croissance d'une masse d'utilisateurs, consommateurs actifs mais non équipés, qui est favorisée. Dans ce contexte, il est très difficile pour les machines de permettre - comme le dit Alan Turing - de "transformer les intellectuels en gens ordinaires", c'est-à-dire de distribuer l'intelligence de manière collaborative au public d'humains le plus large et le plus averti possible.
Tout commence dans les années 30 : les protagonistes sont de véritables héros qui agissent avant tout dans le monde académique et de la recherche. de Turing à Vannevar Bush, la primauté de l'esprit s'affirme, et l'intelligence produite dans les années 30 prend forme : pour Turing, « construire un cerveau » ; pour Vannevar Bush « comme on peut le penser ».
Les promesses et les réalisations des années 60 ont suivi:
1962 : Douglas Engelbart écrit Augmenter l'intellect humain. Un cadre conceptuel.
1968 : la mère de toutes les présentations. La souris apparaît, les connexions dans les lieux de travail et la valeur positive de la collaboration sont découvertes.
1965 : Ted Nelson introduit le mot hypertexte dans un article à la conférence nationale de l'ACM.
Dans les années suivantes encore une évolution globale mais pleine de contradictions :
1990 : Tim Berners-Lee lance le World Wide Web.
2015 : le triomphe de la valeur absolue des connexions. Facebook atteint le record de 1 milliard de connectés en une journée (mondialisation des contacts).
Les pionniers dont nous parlons ont imaginé et prédit à la fois un esprit numérique et une société numérique. La comparaison avec l'intelligence répandue et la société dans laquelle nous vivons n'est pas difficile.
Esprit numérique
Construire le cerveau artificiel. En 1943, alors qu'il travaillait sur des codes militaires secrets dans le laboratoire de Bletchley Park, Alan Turing avoua à un collaborateur son ambition de "construire un cerveau". Il avait déjà conçu une machine universelle, ce qu'on a communément appelé la machine de Turing, en rupture avec le paradigme de la machine de Taylor : one best way.
Pour Taylor, il y avait une « single best way » (une meilleure façon) d'effectuer toute opération conformément au fondement théorique de Heidegger : l'essence de la technique n'a rien de technique. Heidegger pour exprimer le destin inéluctable que la technique impose à l'homme utilise le mot Gestell (étagère) : la technique oblige l'homme non seulement à mettre de l'ordre mais à tout ranger dans un ordre déjà préétabli. (Dans un prochain article, nous offrirons aux lecteurs les considérations de Ricciardi sur la pensée de Heidegger sur la technologie [NDLR]).
Il y a donc une valeur « révolutionnaire », un changement de paradigme qui appartient à un domaine plus général. La théorie donne naissance à la soi-disant machine de Turing : en fait jamais fabriquée par Turing lui-même. Avec un peu d'imagination et beaucoup de « rétrospective », nous pouvons penser à la bande qui stocke les données et les maintient immuables et disponibles, comme le matériel du futur ordinateur, à la mémoire de masse. Les entrées activées par les programmes sont le logiciel, véritable pivot de la machine universelle.
Société numérique
Construire une société qui ne permet plus les catastrophes du XXe siècle. Pour Wiener, c'est la société dans laquelle vivre efficacement signifie vivre avec une quantité adéquate d'informations.
A l'opposé du destin inéluctable que nous impose la seconde loi de la thermodynamique : « nous faisons naufrage sur une planète désormais condamnée », la communication peut être un espoir en révélant l'essence de la société dont les machines sont les protagonistes.
A la vision dramatique, c'est-à-dire celle de combattre l'entropie mais sans espoir, s'oppose l'utopie selon laquelle la communication sauvera le monde. La diffusion de l'information et donc la communication sont des éléments fondamentaux, droits constitutifs pour assurer la pleine citoyenneté. La nouvelle science, la cybernétique, développe la « thèse » de Wiener selon laquelle la société est constituée de messages produits et diffusés en son sein.
La réflexion sur le statut scientifique du concept d'information et sur les "voies intrinsèques de communication" dans la société offre de nouveaux indicateurs sur ce que Wiener appelle "la nature des communautés sociales", ouvertes ou fermées, communicantes ou non. La cybernétique eut un succès inattendu pour Wiener, mais son influence déclina rapidement.
Intelligence et rêve
Nelson et Engelbart. Rêve contre Intelligence. Devant 1000 ingénieurs, Engelbart parle de l'ordinateur comme d'un « processeur de symboles et d'un outil pour augmenter l'intelligence humaine ». Il présente pour la première fois la souris, un système hypermédia et un système de visioconférence.
Une grande importance est accordée à l'utilisateur et à son interaction avec la machine. En effet, Engelbart soutient que "l'utilisateur et l'ordinateur sont des composants qui changent dynamiquement, toujours en symbiose, avec pour effet d'améliorer l'intelligence initiale de l'utilisateur".
La réponse est l'hypertexte et le travail collaboratif. C'est une nouvelle façon de penser et de communiquer ; une nouvelle façon de travailler dans des environnements à fort contenu technologique et scientifique. L'hypertexte selon Ted Nelson est une révolution culturelle: abandonner le code alphabétique et le paradigme logique-séquentiel et créer une nouvelle société faite de personnes et de connexions, de réseaux et d'inventions continues.
Nelson a imaginé pouvoir créer, sur la base de ce système innovant d'organisation de documents, un réseau mondial d'échange et de partage de textes et d'informations, une sorte de World Wide Web ante litteram. Mais Nelson était radicalement opposé au World Wide Web tel qu'il a été créé puis popularisé par Berners Lee. Xanadu n'accepte aucune limite car ce sont les connexions, les liens, les relations qui rendent cet environnement vivant et opérationnel. Le système de réseau ne peut se référer qu'à un univers continuellement changeant et continuellement actif.
Curieusement, ces grands innovateurs (à l'exception d'Engelbart) ne mettent pas réellement en œuvre leurs projets.
La machine de Turing est une appropriation ultérieure par des informaticiens ; Bush ne peut pas fabriquer Memex. Il n'a pas les bonnes technologies. Nelson est encore aux prises aujourd'hui avec un projet inachevé : Xanadu est un programme qui ne finit pas, car il ne peut pas aller jusqu'au bout.
