Moniteur du Premier ministre britannique À Rishi Sun sur risques et dangers de l’intelligence artificielle à la veille du premier sommet mondial sur l'IA, fortement désiré par lui, qui aura lieu les 1er et 2 novembre au site technologique historique de Bletchley Park. En fait, ici Alan Turing, mathématicien et précurseur des technologies de l'information, a réussi à déchiffrer Enigma, la machine utilisée par les Allemands pour crypter et déchiffrer les messages pendant la Seconde Guerre mondiale.
L'intelligence artificielle entraînera "de nouvelles connaissances, de nouvelles opportunités de croissance économique, de nouveaux progrès dans les capacités humaines et la possibilité de résoudre des problèmes que nous pensions autrefois insolubles", mais aussi "de nouveaux dangers et de nouvelles peurs", a déclaré Sunak dans un discours prononcé à Londres. annonçant le création du premier institut mondial de sécurité de l'intelligence artificielle.
Les dangers de l'intelligence artificielle
Un rapport gouvernemental rédigé par 50 experts souligne que l’IA pourrait représenter un « menace existentielle » à l'avenir. Sunak estime donc qu'il est nécessaire de répondre à ces craintes dès maintenant pour assurer « une tranquillité d'esprit maximale » aux citoyens.
En effet, l’IA pourrait être utilisée non seulement à des fins de fraude et de cyberattaques, mais d’ici 2025, elle pourrait renforcer les capacités des groupes terroristes dans le développement d'armes, la planification d'attaques et la diffusion de matériel de propagande.
« Si nous nous trompons – dit Sunak – l’intelligence artificielle pourrait faciliter la construction d’armes chimiques ou biologiques. Les groupes terroristes pourraient utiliser l’IA pour semer la peur et la destruction à une échelle encore plus grande. Les criminels pourraient l’exploiter à des fins de cyberattaques, de désinformation, de fraude ou même d’abus sexuels sur des enfants. Et dans les cas les plus improbables et les plus extrêmes, il existe même le risque que l’humanité perde complètement le contrôle, grâce au type d’IA parfois appelé superintelligence.
Et d’ici 2030, les risques incluraient également la « désinformation massive » et le soutien aux terroristes dans le développement d’armes biologiques.
Royaume-Uni : le premier centre mondial pour la sécurité de l'IA est né
Il naîtra donc au Royaume-Uni le premier centre mondial qui travaillera sur la façon dont sécuriser l’intelligence artificielle. Le centre se concentrera sur l’analyse, l’évaluation et le test de nouveaux modèles d’IA pour contribuer aux connaissances mondiales sur le sujet.
Le nouvel institut « fera progresser les connaissances mondiales sur la sécurité de l'IA et examinera, évaluera et testera soigneusement de nouveaux types d'IA afin de comprendre de quoi chaque nouveau modèle est capable. Dans l'institut, nous explorerons tous les risques découlant des dommages sociaux tels que les préjugés et la désinformation, jusqu'aux risques les plus extrêmes qui nous affecteront tous", a déclaré Rishi. Autel.
Sunak veut faire du Royaume-Uni un leader en matière d'IA
La création du premier centre de sécurité et le prochain sommet mondial sur l'IA ont une tâche très précise : faire devenir le Royaume-Uni il leader mondial dans la régulation de l’IA. Objectif clairement exprimé par le Premier ministre britannique Sunak. Il reste cependant à voir quel sera le soutien qui se cache derrière ces intentions.
Le Royaume-Uni prédit des investissements importants en technologie, reconnaissant les avantages potentiels importants, en particulier dans les domaines médical et scientifique, mais il est nécessaire d'en faire d'abord des environnements sûrs.
Les objectifs du Sommet
Le Sommet mondial sur l'IA, les 1er et 2 novembre à Bletchley Park, réunira des institutions, des partenaires internationaux, des experts en IA, des entreprises technologiques et la société civile. Il y aura environ 1Invités 00 dont le PDG de Google DeepMind, Demis Hassabis, et le vice-président des États-Unis Kamala Harris. Au sommet, ils devraient les Chinois participeront également car, comme pour le climat, « nous ne pouvons pas ignorer Pékin. Vous ne pouvez pas avoir de stratégie sérieuse sans la participation de la Chine, même si ce n'est pas la chose la plus facile à faire », a déclaré Sunak. Chine c'était là première nation à adopter des règles sur l'intelligence artificielle. L'L'Union européenne avec l''Aux Actes, est cependant en cours de définition.
Le gouvernement anglais a défini cinq objectifs clés du sommet :
- Une compréhension partagée des risques posés par l’IA et de la nécessité d’agir
- Un processus avancé pour une collaboration internationale sur la sécurité de l’IA et sur la manière de soutenir les cadres nationaux et internationaux.
- Les mesures appropriées que chaque organisation devrait prendre pour accroître la sécurité de l’IA
- Domaines de collaboration potentielle sur la recherche sur la sécurité de l'IA, y compris l'évaluation des capacités des modèles et le développement de nouvelles normes pour soutenir la gouvernance
- Montrer comment garantir le développement sûr de l’IA permettra d’utiliser l’IA à des fins bénéfiques à l’échelle mondiale
L'ONU crée un comité pour l'IA
Aussi "ONU prend le terrain sur le sujet, créant un Comité sur l'intelligence artificielle avec une quarantaine d'experts de différents domaines, dans le but de développer des règles communes sur l'IA. Le comité est présidé par Amandeep Singh Gill, envoyé technologique de l'ONU, et comprend des experts de la recherche, de la politique et du troisième secteur. Il y a également une présence italienne au sein du comité avec père Paolo Benanti, professeur à l'Université pontificale grégorienne.
Le Comité sera confronté à des défis liés à différentes perspectives, comprenant différentes valeurs et formations, essayant d'écrire une stratégie globale sur l'IA. L'un des objectifs est d'évaluer les risques et les avantages de l'IA et la manière dont elle peut contribuer aux objectifs de développement durable et de promotion de la coopération internationale.
Il reste à préciser à l'avenir si le Comité sur l'IA prendra une forme permanente, similaire à l'Agence de l'énergie atomique, ou s'il restera un groupe d'experts de haut niveau, similaire au Groupe d'experts intergouvernemental sur l'évolution du climat.
