Europa ha llegado a un acuerdo que se convertirá en ley sobre regulación de la Inteligencia Artificial: es el primero del mundo en establecer normas para la IA. Soy seis son las principales prohibiciones identificable dentro del texto del "ley IA“, el paquete de reglas que deberán respetar los productores y usuarios de software que utilice esta tecnología. Prohibiciones que no se aplicarán a los organismos encargados de hacer cumplir la ley, a algunos organismos públicos que operan en el sector de la seguridad y, en circunstancias excepcionales, a algunos órganos judiciales.
Il primera prohibición, que – si se quisiera – podría ser suficiente para incluir a todos los demás, es lo que impide el uso de sistemas reconocimiento biométrico que hacen uso, para la categorización, de los llamados "datos sensibles“, es decir: origen racial y étnico, creencias religiosas, filosóficas o políticas, afiliación a partidos, sindicatos o asociaciones, estado de salud, orientación sexual, datos genéticos o biométricos. Por tanto, no será posible identificar automáticamente a una persona mediante la recopilación de este tipo de datos.
Il segunda prohibición prevé la imposibilidad de recopilar datos de Internet u otras fuentes de vídeo con el fin de crear bases de datos reconocimiento facial (en cambio, se puede utilizar en casos específicos), aprovechando las capacidades de la inteligencia artificial. Se trata básicamente de la exclusión específica de una de las primeras aplicaciones de la tecnología de IA.
In tercera derrotar, no será posible explotar las capacidades de la IA para el reconocimiento de emociones (deducida aproximadamente a través de parámetros extraídos de adquisiciones particulares de imágenes y vídeos de una persona, como temperatura corporal, dilatación de las pupilas, muecas en el rostro, tono de voz), tanto en área de trabajo, tanto en el campo escuela.
Cuarto impedimento: El clasificación social basados en hábitos o características personales.
Quinto: El manipulación conductual humano. Sí, porque hoy en día un sistema de inteligencia artificial puede confundir a una persona hasta el punto de afectar su libre albedrío. Puede hacerlo mediante la reproducción de imágenes y vídeos que parecen reales, alterando la realidad y engañando a las personas haciéndoles oír o ver algo que, en cambio, es exclusivamente artificial.
Última prohibición eso es lo que evitará explotar la inteligencia artificial en todos aquellos casos en los que el usuario del fruto de la tecnología sea identificado como sujeto vulnerable, es decir, condicionada por la propia edad, discapacidad, situación social o económica.
De hecho, todas las prohibiciones podrían resumirse en un único impedimento: el uso de inteligencia artificial para catalogación de datos sensibles, asociado a otros datos personales. Está bastante claro que, a través de los datos personales, junto con los datos de ingresos -por poner un ejemplo- ya es posible extraer una muestra de sujetos vulnerables. La alteración de la realidad también se produce a partir de datos pertenecientes a una persona, reproducidos por la IA, en parte tal cual y en parte enriquecidos con gestos nunca realizados y palabras nunca pronunciadas. En esencia, el reglamento se traduce en algunos límites a "bases de datos”y sobre el uso de la IA paraextracción de relaciones dentro de ellos de otra manera no identificables.
Excepciones a las prohibiciones europeas
El Consejo Europeo ha introducido varias exenciones en todos los casos amenaza de terrorismo, búsqueda de víctimas e lucha contra el crimen (aunque debería especificarse mejor el nivel de delincuencia). Por tanto, exención total de las prohibiciones para los policías cuando se dediquen a las actividades antes mencionadas, pero con la posibilidad de intervención para limitar su uso o para obligar a la transparenciapor el legislador nacional. El uso de bases de datos de alto riesgo para operar sistemas de inteligencia artificial estará, en cualquier caso, condicionado a la autorización judicial.
Además, todos los proveedores y organismos públicos que utilicen estos sistemas deben informar las transacciones en un base de datos de la UE, de modo que siempre sea posible rastrear los fines y circunstancias que determinaron su uso. Para la policía y las agencias de control de inmigración, habrá una sección no pública dedicada, a la que solo podrá acceder una autoridad supervisora independiente.
Dudas sobre la eficacia de la ley y las represalias sobre la economía de los países europeos
La introducción de la ley está prevista por fases. Podrían pasar hasta 2 años antes de que entre plenamente en vigor. Mientras tanto, cualquiera podría aprovechar estos largos tiempos y explotar la IA para hacer todo lo que las reglas no permitirían, una vez implementadas.
Realmente parece que Europa no ha tenido en cuenta al mundo entero. de código abierto de inteligencia artificial. En esencia, el derecho comunitario exige una aplicación ex ante de las normas sobre seguridad informática, la transparencia de los procesos de formación y el intercambio de documentación técnica antes de llegar al mercado. Así, en todos aquellos casos en los que el producto final no está destinado al mercado, pero para investigar, las reglas no se aplican. En estos pliegues, el mundo del código abierto, compuesto en gran medida por la colaboración entre particulares para compartir conocimientos, podría explotarse para no tener que someterse a ninguna de las prohibiciones. También es necesario comprender las intenciones de Europa en cuanto a la regulación deinteligencia artificial generativa, es decir, si los productos finales de la IA también estarán regulados, es decir, lo que la IA genera, después de los datos catalogados utilizados para la "formación" y, sí, sujetos a obligaciones y prohibiciones. Por el momento, sólo parece que Europa pretende obligar a los desarrolladores a garantizar que los sonidos, imágenes y textos producidos sean claramente identificado como artificial.
Hay que recordar que Europa está imponiendo límites dentro de su territorio, pero Internet, como sabemos, no tiene fronteras, por eso, como dicen: una vez hecha la ley, se encuentra el engaño. uno sera suficiente VPN y se sortearán los riesgos. Una VPN es una red privada virtual que "engaña" a quienes prestan un servicio, haciéndoles creer que el usuario que lo solicita proviene de un país que no es aquel donde realmente se originó la solicitud. De esta forma la tecnología será perfectamente explotable sin ninguna prohibición. Entre otras cosas, las mayores empresas de IA se encuentran en Estados Unidos. En Europa no hay gigantes como Microsoft, Google, Databricks, Anduril o Antrophic, de hecho ni siquiera los hay de tamaño mediano.
Sin embargo, hay quienes sostienen que La nueva legislación europea podría perjudicar a las empresas del viejo continente, ya que fuera de Europa todos podrán desarrollar y probar todo tipo de tecnología basada en IA, mientras que aquí las empresas tendrán que lidiar con estrictas regulaciones europeas.
