Il sujet de la régulation des plateformes est sans doute d'actualité et la récente décision de l'Autorité de protection des données personnelles l'a également démontré suspendre l'activité ChatGPT en Italie, une décision qui a soulevé de nombreuses polémiques mais qui doit aussi être évaluée à la lumière des gigantesques problèmes de sécurité posés par l'intégration de la plateforme dans de nombreuses applications.
Alarme pour l'évolution de l'intelligence artificielle générative
L'alarme plus autoritaire a été donnée il y a quelques jours par Jen de l'Est, directeur de CISA, l'agence américaine de cybersécurité et de sécurité des infrastructures, dans un discours au Conseil de l'Atlantique. Je défini à l'est les outils d'IA générative le plus gros problème de sécurité auxquels nous devrons faire face au cours de ce siècle. La raison réside dans la facilité avec laquelle le jailbreak ChatGPT est accompli, c'est-à-dire la possibilité d'entrer des codes tiers en surmontant les restrictions de la plateforme. LE risques ils sont liés à la possibilité d'insérer du code malveillant et de le diffuser massivement ; l'utilisation de données sensibles de l'entreprise pour alimenter les plateformes ; la possibilité de générer des campagnes de phishing extrêmement réalistes et personnalisées pour la propagation de ransomwares. C'est précisément à cause de ces risques que certaines entreprises comme JPMorgan avoir l'utilisation de ChatGPT est interdite.
Commentant les risques liés à l'utilisation de plates-formes d'intelligence artificielle générative et la nécessité d'un système de réglementation qui contrôle leur circulation et leur utilisation, Easterly a évoqué les problèmes posés par la propagation des médias sociaux qui s'est déroulée sans règles et avec l'objectif déclaré de Zuckerberg de « bouge vite et casse les choses » et qui détruit maintenant la santé mentale de nos enfants.
La poussée de tous les grands groupes à intégrer au plus vite une application d'intelligence artificielle générative dans leurs plateformes, sans aucun problème sur les méthodes d'utilisation et de sécurité et de marque tout appel à la prudence car rétrograde est inspiré par un mentalité anti-innovation cela ressemble beaucoup à ce qui s'est passé entre la fin des années XNUMX et le début des années XNUMX, lorsqu'une série d'entrepreneurs ont commencé à utiliser l'infrastructure Internet sans autorisation à des fins commerciales. Là National Science Foundation qui avait développé la dorsale Internet pour connecter les centres informatiques des universités et des agences gouvernementales et qui avait limité son utilisation aux seuls utilisateurs certifiés, a été contraint, en raison de la pression politique exercée par les nouvelles entreprises, d'ouvrir l'infrastructure à un usage commercial en 1992 .
Internet et les premières inquiétudes sur sa régulation
Cependant, l'infrastructure Internet n'avait pas été construite à ces fins et une exigence essentielle manquait dans les spécifications du projet, à savoir un système de sécurité intrinsèque. L'objectif étant de garantir la résilience des infrastructures, les points d'accès devaient être clairement identifiables et protégés. Avec l'ouverture à des fins commerciales, les points d'accès se sont multipliés sans contrôle, augmentant de façon exponentielle la vulnérabilité. Pour cette raison, une gigantesque industrie de la cybersécurité s'est développée, qui croît plus rapidement que la croissance d'Internet lui-même.
L'industrie liée à Internet réussi dans la première moitié des années XNUMX à exercer une forte pression politique sur le Congrès et l'administration américaine créant les conditions d'une réforme radicale du système des communications qui aboutit à l'approbation de la Loi sur les télécommunications de 1996 et les interventions législatives ultérieures. L'aspect le plus significatif était le garantie d'immunité civile et pénale aux plateformes les empêchant d'être assimilés à des éditeurs. L'industrie jouissait d'une sympathie politique et publique proportionnelle à son antipathie envers les entreprises de télécommunications, des géants qui avaient dominé le marché pendant cent ans, avec peu de volonté d'innover et de servir les clients.
La la diffusion internationale d'Internet a été très rapide malgré quelques hésitations initiales. On craignait que les services américains utilisent l'infrastructure pour leurs activités de renseignement (lo Scandale Echelon avait déjà émergé en Nouvelle-Zélande en 1996) et on pensait qu'à la fin tout serait ramené au sein de l'UIT (Union Internationale des Télécommunications) selon le schéma qui avait toujours caractérisé le monde des télécommunications. L'objectif des États-Unis cependant, il s'agissait de diffuser la technologie à l'échelle planétaire tout en maintenant un contrôle ferme de l'infrastructure. Pour cette raison, l'administration américaine a exercé une très forte pression diplomatique. Ira Magazine, bras droit de Clinton pour les questions les plus compliquées, a convaincu l'Europe d'accepter sans discussion les thèses américaines. C'est ainsi que plus tard le a été approuvé Safe Harbor qui a permis aux entreprises américaines de opèrent en Europe dans les mêmes conditions avec lesquels ils ont travaillé dans le États-Unis.
Seule la Chine a réglementé Internet depuis le début
Seulement je cinesi ils se sont inquiétés depuis le début réguler internet. Parler avec Xiahong, responsable des relations publiques d'une startup liée à Internet, je deux journalistes de « Wired » Jérémie Barmé e Vous avez chanté rapportaient en des termes extrêmement incisifs les problèmes qui deviendraient alors visibles aussi en Occident bien des années plus tard : réseau hégémonique qui porte atteinte aux droits d'autrui. Ça ne fait aucun doute que Internet si une colonie: un colonie d'informations. A partir du moment où vous vous connectez, vous êtes confronté à l'hégémonie britannique. Il ne s'agit pas de rendre Internet plus pratique pour les non-anglophones. Notre idéal est de créer un réseau exclusivement chinois ».
Après au moins 16 interventions législatives et réglementaires, en 2000, le IXe Congrès national du peuple approuvé les décisions visant à assurer la la sécurité sur Internet: un acte par lequel un cadre organique a été défini pour guider le développement de la nouvelle infrastructure. Je ne veux pas discuter des objectifs du gouvernement chinois à l'époque, mais le conscience que Les Chinois avaient le phénomène.
In Europa à la place il y en avait un conformité substantielle contre les demandes de l'administration américaine, avec un minimum de profondeur et de discussion uniquement sur les implications du scandale Echelon. Il y a eu un rapport qui a été présenté au Parlement européen et qui s'est terminé par un débat embarrassé en septembre 1998, au cours duquel, tout en admettant la légitimité des outils de contrôle de masse pour prévenir le crime et le terrorisme, il a souligné la nécessité d'un plus grand contrôle démocratique des outils.
Le Parlement européen, cependant, était en fin de mandat et n'aurait pas eu le temps de lancer une initiative à cet égard. Après les élections européennes, la discussion sur Echelon a été reprise par le nouveau parlement au début des années 2000 dans le cadre des travaux sur la protection de la vie privée, et a cette fois donné lieu à une commission d'enquête temporaire dans le but de vérifier l'existence et la fonctionnalité d'Echelon et de vérifier les initiatives à adopter pour protéger les citoyens et les entreprises européennes.
L'affaire Max Schrems
Dans l'inertie du parlement, l'initiative décisive fut prise de façon surprenante par un jeune étudiant en droit autrichien, Max Schrems: remettre le rôle des plateformes électroniques au centre de la discussion. Plus tard à Révélations de Snowden, Schrems a déposé une plainte contre Facebook Ireland auprès du commissaire irlandais à la protection des données.
La plainte s'inspirait du traité Safe Harbor que les États-Unis avaient signé avec l'Union européenne en 2000, et visait à pour prévenir que données collectées par Facebook Ireland Ltd ont été transférés à Facebook Inc. aux États-Unisle. Le commissaire irlandais a d'abord rejeté l'affaire comme frivole et sans fondement, mais Schrems n'a pas abandonné. À travers plusieurs degrés de jugement et avec le soutien croissant des organisations de la société civile, il a réussi à atteindre la Cour de justice européenne, qui, avec une sentence historique d'octobre 2015, a invalidé le traité Safe Harbor que l'Union européenne avait si péniblement élaboré.
L'Union européenne s'est trouvée contrainte de renégocier le traité avec les États-Unis sur d'autres bases et a élaboré en quelques mois un nouvel accord entré en vigueur mi-2016. Détermination de Schrems, qui avait entre-temps fondé une organisation appelée Noyb, (acronyme de none of your business), pour défendre ses raisons. Avec le soutien de l'organisation, Schrems a soulevé uneun autre procès contre Facebook, a de nouveau atterri devant la Cour de justice : dans l'arrêt rendu le 16 juillet 2020, la Cour a établi que la législation européenne mise en œuvre à la hâte après l'annulation de la sphère de sécurité ne répond pas aux exigences de proportionnalité requises par le droit de l'Union car la surveillance basée sur les droit interne ne se limitent pas au strict nécessaire.
En attendant, le Commission européenne il a rattrapé le terrain perdu en lançant de nombreux actes / réglementer l'utilisation d'internet, mais l'efficacité de ces interventions risque d'être limitée en l'absence d'intervention réglementaire du Congrès américain. Le législateur américain, qui a récemment promu une série d'auditions et d'enquêtes factuelles sur les activités des plateformes, est conscient des problèmes mais peine aussi à intervenir en raison de la très forte opposition à une intervention législative qui réglemente leur activité. . L'argument principal est que la réglementation freine l'innovation.
La comparaison entre Ietf et ISO
En réalité, le succès d'internet ne vient pas de l'absence de régulation mais de la méthode de travail qu'avait adopté le Internet Engineering Task Force (ietf). Une méthode de travail à des années-lumière de celle de l'industrie traditionnelle des télécommunications. David Clark, l'un des pionniers du web, au début des années XNUMX, au plus fort de la bataille des standards de réseaux qui oppose la communauté internet à l'ISO (l'Organisation internationale de normalisation) l'exprime ainsi : « Nous refusons les rois, les présidents et le vote. Au lieu de cela, nous croyons à un consensus approximatif et au travail de codage ». Dans l'IETF, il n'y a pas de membres permanents mais seulement des participants, et il n'y a même pas de mécanisme de vote : le système de consensus est basé sur la fonctionnalité des solutions techniques.
D'autre part, précisément en raison de ses caractéristiques bureaucratiques, le processus de développement de protocole au sein de l'ISO était très lent et la formation d'un consensus plus difficile, tandis que la méthode de travail de la communauté des ingénieurs Internet était beaucoup plus rapide et efficace et était basée sur la acceptation tacite du principe que chacun pouvait participer au développement, en mettant ses idées à disposition : au final, la solution qui fonctionnait le mieux était retenue. Mike Padlipski, l'un des premiers membres du groupe de travail qui a développé les protocoles de réseau ARPANET, il a résumé effectivement la diversité des deux approches qualifiant celui de communauté Internet comme méthode descriptive et celle deISO comme méthode prescriptive. Ajoutant malicieusement que "si l'approche descriptive adoptée par la communauté Internet est adaptée à la technologie, le modèle prescriptif utilisé par les organismes de normalisation tels que l'ISO est mieux adapté à la théologie". En réalité, l'élément fondamental qui différenciait les deux approches était qu'Internet se contentait d'un modèle "best effort", c'est-à-dire sans garantie de performance, alors qu'Iso et Itu poursuivaient un modèle à qualité garantie, comme le demandaient les entreprises de télécommunications. Entre les deux modèles, le la différence est plus théorique que réelle, car avec la croissance des performances technologiques, la qualité s'améliore au point de rendre les deux modèles indiscernables, mais dans le premier cas, l'amélioration est obtenue avec des coûts nettement inférieurs.
