Ni apocalypse ni utopie quant à l'avenir de l'intelligence artificielle et du progrès technologique : telle est l'approche adoptée par le Énergie numérique, le livre intéressant du professeur Luisa TorchiaÉtudiant de Sabino Cassese et professeur titulaire de droit administratif à l'université Roma Tre, Torchia a récemment publié un essai dans la revue Il Mulino. Cet essai aborde de manière systématique et accessible toutes les questions d'actualité liées à l'intelligence artificielle, ainsi qu'aux opportunités et aux risques du progrès technologique. Mais qu'est-ce que le pouvoir numérique, au juste ? « C'est un pouvoir privé, concentré entre les mains de quelques entreprises américaines et chinoises qui ont atteint une taille telle qu'elles peuvent dominer les marchés et concurrencer les États », voire plus. Un pouvoir immense qui exige une régulation efficace, ce que l'Amérique de Trump refuse catégoriquement. Mais le défi n'est pas terminé. Voici ce que Torchia développe dans l'entretien avec… PREMIER en ligne.
Professeur Torchia, il est significatif que le dernier chapitre de votre livre « Digital Power » s’ouvre sur un sujet brûlant d’actualité et s’intitule : L'avenir numérique entre apocalypse, utopie et réalismeIl semblerait que vous penchiez pour la troisième option, mais comment envisagez-vous concrètement l'avenir du pouvoir numérique ?
C’est un avenir qui reste à écrire et qui dépend fortement de plusieurs facteurs. Il dépend avant tout de la volonté des sociétés, des États, des organisations internationales, des communautés scientifiques et des individus de ne pas se laisser, pour ainsi dire, « désarmer » par la perspective apocalyptique qui, comme toutes les apocalypses, engendre une grande angoisse et paralyse toute action, car la prédiction apocalyptique suppose non seulement que la fin du monde est imminente, mais aussi que cette fin est inévitable. Et, comme Christian Friedrich Hebbel l’a judicieusement observé il y a près de deux siècles, «Il y a des gens qui seraient même consolés par la fin du monde, pourvu qu'ils l'aient prédite.« La perspective apocalyptique est donc aussi, paradoxalement, consolatrice, car elle justifie l’incapacité ou le refus d’agir et de réagir. »
Alors, de quoi a-t-on besoin ?
Parallèlement, il ne faut pas se laisser berner par les promesses de progrès extraordinaires et futurs pour tous. La vision utopique du développement technologique est démentie par les nombreuses promesses non tenues. Aucun nouveau médicament ou traitement salvateur contre le cancer et les maladies dégénératives n'a été découvert, aucune solution n'a été trouvée au changement climatique, aucune source d'énergie bon marché n'a été identifiée, aucune œuvre d'art, littéraire ou musicale d'une qualité comparable à la production humaine n'a été « créée ». On peut se demander si les déclarations des géants de la tech concernant le « magnifique et prometteur » développement technologique – toujours projeté à plusieurs années, voire des décennies – ne sont pas de simples messages publicitaires destinés à attirer les capitaux nécessaires à des investissements colossaux dont les bénéfices sont eux aussi reportés à un avenir indéterminé.
Qu'en penses-tu?
Je crois qu'une approche réaliste est non seulement possible, mais aussi nécessaire. Elle ne nie pas les immenses avantages du progrès technologique, mais se concentre d'abord sur les bénéfices concrets, et non sur les promesses. Elle prend ensuite en compte les risques inhérents aux nouvelles technologies, ainsi que la répartition profondément inégale de ces avantages et de ces risques. Certains groupes et entreprises s'accaparent largement ces bénéfices et font peser tous les risques et inconvénients sur d'autres groupes et communautés. Ce phénomène, largement perçu aujourd'hui, explique la méfiance croissante envers les géants de la tech, l'opposition à la construction de centres de données, désormais très forte même aux États-Unis, et la multiplication des poursuites contre les plateformes pour violation du droit de la concurrence, des droits de propriété intellectuelle, du droit à la vie privée et atteinte à la santé mentale des jeunes.
Un chemin difficile à parcourir ?
Il s'agit manifestement d'un chemin difficile à emprunter, mais les géants de la tech eux-mêmes commencent à ressentir la pression d'une opinion publique de plus en plus hostile et perçoivent clairement le risque d'une responsabilité toujours croissante – et coûteuse – qui pourrait leur être imputée. Paradoxalement, mais pas totalement, ils voient la solution dans l'intervention publique, tant réglementaire que financière, de plus en plus préconisée par ceux qui, jusqu'ici, s'opposaient farouchement à toute tentative de régulation externe, affirmant avec force que l'autorégulation était suffisante. Les règles imposées par l'État peuvent également être détournées pour entraver la concurrence entre les grands acteurs et désavantager les plus petits, tout en érigeant des barrières à l'entrée pour les nouveaux entrants. Les règles doivent donc être établies avec le plus grand soin et la plus grande précision, et faire l'objet d'un examen régulier afin de garantir leur efficacité et de permettre des corrections rapides.
Quelles sont les caractéristiques dominantes du pouvoir numérique ?
« En synthétisant les résultats de l’analyse menée dans mon livre, le pouvoir numérique peut être défini comme un pouvoir privé, global, structuré en plateformes, extractif, normatif, conformiste et persuasif, omniprésent. »
Il s'agit avant tout d'un pouvoir privé, concentré entre les mains de quelques entreprises américaines et chinoises, qui ont atteint une taille telle qu'elles leur permettent de dominer les marchés et de concurrencer les États.
Impressionnant.
Il s'agit donc d'un pouvoir à portée mondiale, opérant sans frontières territoriales et proposant des produits et services devenus essentiels à la vie individuelle et collective partout dans le monde. Ce pouvoir est structuré selon le modèle de plateforme, point de rencontre de l'offre et de la demande d'informations, de biens et de services, devenu si indispensable aux utilisateurs finaux comme aux entreprises qu'il empêche, ou du moins rend très difficile, de quitter la plateforme dominante, notamment en raison du manque d'alternatives. Les systèmes basés sur les LLM sont également intégrés aux plateformes existantes (comme Gemini pour Google) ou adoptent le modèle de plateforme, offrant une gamme toujours plus large de services intégrés inaccessibles séparément. C'est un pouvoir « extractif », qui cherche à obtenir les ressources nécessaires à son exercice sans en supporter les coûts et en s'appropriant les revenus de manière excessive. C'est un pouvoir normatif, car il établit les règles des interactions sur les plateformes et, avec les applications les plus récentes, les règles de pratique des activités médicales, bancaires ou financières. Il s'agit d'un pouvoir conformiste, voire fondamentalement conformiste, car, par le biais de modèles, il réduit la diversité du réel pour en restituer une version simplifiée et uniforme, fondée sur un ordre purement statistique et non sur des considérations morales, éthiques ou sociales. Ce pouvoir est persuasif et omniprésent aux niveaux économique, politique et social, car la technologie sur laquelle il repose est désormais partie intégrante de la vie quotidienne, avec l'utilisation croissante non seulement d'applications spécialisées, mais peut-être plus encore d'intelligence artificielle générative capable d'interagir en langage naturel.
Dans votre livre, vous illustrez très clairement comment le pouvoir numérique est devenu un pouvoir politique et comment le capitalisme numérique est devenu plus puissant que les États et met en danger la démocratie elle-même : est-ce un défi que nous avons perdu à jamais, ou pouvons-nous encore espérer rééquilibrer le rapport de force entre pouvoir numérique et pouvoir démocratique ?
Un élément distinctif et caractéristique du pouvoir numérique est sa concentration : une concentration si forte et si impénétrable que ni le marché ni l'État n'ont été en mesure, du moins pour l'instant, de mettre en place des mesures efficaces de redistribution. Le pouvoir concentré ressemble dangereusement au pouvoir illimité, et le pouvoir illimité est, par définition, un pouvoir arbitraire. Comme tout pouvoir, le pouvoir numérique requiert une légitimité, et cette légitimité ne peut aujourd'hui reposer uniquement sur la force : les entreprises technologiques doivent aussi vendre leurs produits et services, convaincre les consommateurs de leur utilité, voire de leur caractère essentiel, tout comme elles doivent lever des capitaux et tenir leurs promesses de rentabilité, convaincre les collectivités d'accueillir leurs centres de données, et rassurer les États quant au respect de leur souveraineté. Ce n'est pas un hasard si les dirigeants des géants de la tech fantasment souvent sur de nouvelles planètes, voire des régions entières de la planète, qui leur seraient réservées.
Pourquoi font-ils cela?
Parce qu'ils perçoivent la société et ses règles comme une contrainte à laquelle ils ne veulent pas se soumettre, une contrainte dont ils aimeraient se libérer. Or, cette perspective est totalement illusoire, comme le démontrent deux réactions différentes. Dans les pays autocratiques, tels que la Chine, l'État exerce un contrôle strict sur les entreprises technologiques ainsi que sur l'utilisation et la diffusion des technologies. Je ne souhaite certes pas prendre l'autocratie comme exemple, mais cela montre que le pouvoir public, lorsqu'il est exercé par la volonté, n'est pas impuissant. En effet, dans le cas de la Chine, l'État exige que les modèles d'intelligence artificielle reflètent les « valeurs » du socialisme, ce qui prouve que la technologie n'est pas neutre. Dans les pays démocratiques, on observe une intolérance et une méfiance croissantes envers l'innovation technologique, qui détruit des emplois, crée des inégalités et des discriminations, accentue la pauvreté et la marginalisation de groupes et de communautés entières. La démocratie, avec sa capacité d'inclusion, de pluralisme et de délibération, constitue un antidote possible et pourrait être renforcée précisément en tant qu'outil permettant aux sociétés modernes de se défendre et de préserver leurs valeurs et leurs objectifs collectifs. L’espoir est donc possible, mais il doit être cultivé, exercé et défendu, et c’est une tâche qui incombe à chacun d’entre nous, en tant que citoyens de pays démocratiques.
Pour maîtriser le pouvoir numérique sans étouffer l'innovation technologique, ni sans se laisser submerger, vous affirmez que la réglementation est essentielle. Dans ce domaine, l'Europe est en avance, tandis que les États-Unis de Trump hésitent à s'engager. Mais si la réglementation du pouvoir numérique ne s'étend pas au marché intérieur, son efficacité semble inévitablement limitée. Ou pas ? Comment surmonter ce décalage entre l'Europe et les États-Unis ?
Tout d'abord, il pourrait s'agir d'un décalage temporel : cela dépendra beaucoup des élections américaines qui débuteront en novembre et de la situation politique aux États-Unis au cours des deux prochaines années. Réglementer l'innovation est complexe car l'objet des règles évolue constamment. C'est pourquoi l'approche réglementaire européenne en matière d'intelligence artificielle est essentiellement fondée sur les risques : les risques sont inévitables, mais ils peuvent être atténués et, surtout, mieux appréhendés grâce à un système de contrôle permettant de les détecter. La réglementation européenne peut être critiquée pour sa lourdeur – et une tentative de simplification est en cours avec le Digital Omnibus – mais elle présente un avantage majeur : aucune grande entreprise technologique ne peut renoncer au marché européen, l'un des plus vastes et des plus riches au monde. Ainsi, malgré de nombreuses critiques et résistances, aucune grande entreprise technologique n'a quitté l'Europe, malgré la réglementation. Le décalage entre les États-Unis et l'UE existe donc, mais n'empêche pas l'application des règles européennes, en Europe et parfois même au-delà de ses frontières, car de nombreux systèmes juridiques convergent vers les mêmes principes et outils de réglementation et de contrôle de l'intelligence artificielle. L'argument selon lequel les obstacles à l'innovation sont freinés perd de sa pertinence lorsque l'innovation sort de sa phase embryonnaire, comme c'est le cas actuellement pour l'intelligence artificielle. La réglementation est le principal outil permettant à une industrie de garantir la sécurité de ses produits et de gagner la confiance des consommateurs : personne ne prendrait l'avion ni n'achèterait de médicaments sans avoir la certitude raisonnable que le voyage et le traitement sont sûrs et sans risque.
Quelle est selon vous la meilleure option ?
Naturellement, la meilleure option serait une réglementation mondiale, à laquelle adhéreraient de nombreux États et organisations internationales. Cette convergence n'est pas impossible. Dans mon ouvrage, je présente deux exemples où elle s'est concrétisée : l'énergie atomique et le clonage. Les différences entre ces deux exemples sont évidentes : l'énergie atomique relève généralement des États, tandis que la capacité de clonage émerge dans les laboratoires de recherche. Dans le premier cas, les États ont eu recours à des traités internationaux, tandis que dans le second, un consensus s'est dégagé sur le choix, adopté individuellement par chaque État, d'interdire le clonage reproductif. Dans les deux cas, cependant, la perception des dangers et des risques encourus – illustrés de façon dramatique par Hiroshima et Nagasaki dans le cas de la bombe atomique – ainsi que la conviction que des solutions nationales isolées seraient totalement inadaptées – ont conduit à l'adoption de règles communes acceptées par les États et les chercheurs et qui, du moins pour l'instant, n'ont pas été violées ou, en cas de violations potentielles, comme en Iran concernant l'énergie atomique, ont fait l'objet de mécanismes de contrôle internationaux. Dans les deux cas, pour faire simple, il s'agit de règles fondamentalement fondées sur des interdictions et sur l'acceptation par les parties concernées de l'exercice d'un pouvoir de contrôle du respect de ces interdictions par les autorités ou agences nationales ou internationales.
Mais une tentative de convergence en matière d'IA a-t-elle été entreprise ?
En 2023, le G7 a également tenté d'établir des principes directeurs internationaux et des règles de conduite communes en matière d'innovation technologique, en adoptant des principes judicieusement nommés « Processus d'Hiroshima pour l'IA ». Ces principes directeurs internationaux devraient s'appliquer à l'ensemble du cycle de vie de l'IA (et donc à toutes les parties prenantes impliquées dans les différentes phases), et le Code de conduite international fournit des lignes directrices auxquelles les développeurs d'IA peuvent adhérer volontairement. La mise en œuvre du Processus d'Hiroshima pour l'IA est confiée à l'OCDE, qui a défini le cadre des rapports de suivi en février 2025.
Comme le montre également votre ouvrage, le défi posé par le pouvoir numérique se joue à l'échelle internationale, mais que peut faire l'Italie au sein de l'Europe pour se placer dans la meilleure position possible pour y participer ?
L'Italie ne dispose pas d'importants capitaux d'investissement ni de ressources naturelles considérables, mais elle possède d'excellentes universités et est capable de former des chercheurs de haut niveau – qui partent ensuite à l'étranger en quête de réussite : nous les formons et transmettons ensuite ce savoir-faire à d'autres pays. Elle bénéficie d'une tradition culturelle et d'une expertise technique qui, malgré la disparition de nombreuses expériences industrielles ces dernières années, perdurent. Si, au lieu de disperser ce riche patrimoine culturel et technique, il était concentré dans des centres de recherche et de production, où on lui permettrait d'atteindre une masse critique et de l'intégrer au système manufacturier et au secteur public, nous pourrions apporter une contribution significative.
