Ni apocalipsis ni utopía sobre el futuro de la inteligencia artificial y el progreso tecnológico: este es el enfoque que la Energía digital, el interesante libro del profesor Luisa TorchíaTorchia, estudiante de Sabino Cassese y catedrático de Derecho Administrativo en la Universidad Roma Tre, publicó recientemente un ensayo en Il Mulino. El ensayo aborda de forma sistemática pero accesible todos los temas de gran actualidad relacionados con la IA y las oportunidades y riesgos del progreso tecnológico. Pero, ¿qué es exactamente el poder digital? "Es poder privado, concentrado en manos de unas pocas empresas estadounidenses y chinas que han alcanzado tal tamaño que pueden dominar los mercados y competir con los estados" e incluso más allá. Un poder enorme que requiere una regulación eficaz, precisamente lo que la América de Trump no quiere. Pero el desafío no ha terminado. Esto es lo que Torchia argumenta en la entrevista con PRIMERO en línea.
Profesor Torchia, significativamente el último capítulo de su libro “Poder digital” comienza con un tema candente de interés actual en estos días y está titulado El futuro digital entre el apocalipsis, la utopía y el realismo.Parece que te inclinas por la tercera opción, pero ¿cómo ves realmente el futuro de la energía digital?
Es un futuro aún por escribir y depende significativamente de varios factores. Depende ante todo de la voluntad de las sociedades, los estados, las organizaciones internacionales, las comunidades académicas y los individuos de no dejarse, por así decirlo, "desarmar" por la perspectiva apocalíptica, que, como en todos los apocalipsis, produce gran ansiedad e inhibe toda acción, porque la predicción apocalíptica presupone no solo que el mundo está a punto de terminar, sino también que este final es inevitable. Y, como observó astutamente Christian Friedrich Hebbel hace casi dos siglos,Hay personas que incluso se consolarían con el fin del mundo, siempre y cuando lo hubieran predicho.“La perspectiva apocalíptica es, por tanto, también paradójicamente, consoladora, porque justifica la incapacidad o la falta de voluntad para actuar y reaccionar.”
¿Qué se necesita entonces?
Al mismo tiempo, no debemos dejarnos engañar por las promesas de grandes y extraordinarios beneficios futuros para todos. La visión utópica del desarrollo tecnológico se ve desmentida por las numerosas promesas incumplidas. No se han descubierto nuevos fármacos que salven vidas ni tratamientos para el cáncer y las enfermedades degenerativas, no se ha encontrado ninguna solución para el cambio climático, no se han identificado fuentes de energía de bajo coste, no se ha «generado» nuevo arte, ni nueva literatura, ni nueva música de calidad comparable a la producción humana. Y cabe preguntarse si las declaraciones de las grandes empresas tecnológicas sobre las «magníficas y progresistas fortunas» del desarrollo tecnológico —siempre proyectadas a varios años o incluso décadas de distancia— no son simplemente mensajes publicitarios destinados a atraer el capital necesario para enormes inversiones cuyos beneficios también se posponen a un futuro indeterminado.
¿Qué opinas?
Creo que un enfoque realista no solo es posible, sino también necesario. No niega las enormes ventajas y beneficios del progreso tecnológico, sino que se centra primero en las ventajas reales, no en las promesas. Luego, toma en cuenta tanto los riesgos que conllevan las nuevas tecnologías como la distribución totalmente desigual de esas ventajas y riesgos. Hay grupos y empresas que se benefician enormemente de esos beneficios y trasladan todos los riesgos y desventajas a otros grupos y comunidades. La percepción de este fenómeno está muy extendida hoy en día y explica la creciente desconfianza hacia las grandes empresas tecnológicas, la oposición a la construcción de centros de datos, ahora muy fuerte incluso en Estados Unidos, y la proliferación de demandas contra plataformas por violaciones de la ley de competencia, los derechos de propiedad intelectual, la privacidad y por perjudicar la salud mental de los jóvenes.
¿Un camino difícil de recorrer?
Es evidente que se trata de un camino difícil de seguir, pero las grandes empresas tecnológicas están empezando a sentir la presión de una opinión pública cada vez más hostil y perciben claramente el riesgo de una responsabilidad cada vez mayor —y costosa— que podría atribuírseles. Paradójicamente, aunque no del todo, ven la solución en la intervención pública, tanto regulatoria como financiera, cada vez más defendida por quienes hasta ahora se han opuesto con vehemencia a los intentos de regulación externa, afirmando enfáticamente que la autorregulación era suficiente. Las normas impuestas por el Estado también pueden utilizarse indebidamente para mitigar la competencia entre las grandes empresas y perjudicar a las más pequeñas, elevando simultáneamente las barreras de entrada para los nuevos competidores. Por lo tanto, las normas deben establecerse con sumo cuidado y precisión, y estar sujetas a revisión para garantizar su eficacia y permitir una rápida corrección.
¿Cuáles son las características predominantes de la energía digital?
“Sintetizando los resultados del análisis realizado en mi libro, el poder digital puede definirse como un poder privado, global, estructurado en plataformas, extractivo, normativo, conformista y persuasivo, y omnipresente.
Se trata, ante todo, de un poder privado, concentrado en manos de unas pocas empresas estadounidenses y chinas, que han alcanzado tal tamaño que les permite dominar los mercados y competir con los Estados Unidos.
Impresionante.
Se trata, pues, de un poder de alcance global, que opera sin fronteras territoriales y ofrece o vende productos y servicios que se han vuelto esenciales para la vida individual y colectiva en todo el mundo. Es un poder estructurado según el modelo de plataforma, como punto de encuentro para la oferta y la demanda, para la información, los bienes y los servicios, que se ha vuelto tan indispensable tanto para los usuarios comerciales como para los usuarios finales que impide, o al menos dificulta enormemente, salir de la plataforma dominante, en parte debido a la falta de alternativas. Los sistemas basados en LLM también se integran en plataformas existentes (como Gemini para Google) o siguen el modelo de plataforma, ofreciendo una gama cada vez más amplia de servicios integrados a los que no se puede acceder por separado. Es un poder extractivo, que busca obtener los recursos necesarios para su ejercicio sin asumir los costos y apropiándose de los ingresos en gran medida. Es un poder normativo, porque establece las reglas para las interacciones en las plataformas y, con las aplicaciones más recientes, también las reglas sobre cómo se practican las actividades médicas, bancarias o financieras. Es un poder conformista y con tendencia al conformismo, pues a través de modelos reduce la diversidad de la realidad y luego devuelve una versión simplificada y uniforme de la misma, basada en un orden meramente estadístico y no moral, ético o social. Es un poder persuasivo y omnipresente en los ámbitos económico, político y social, porque la tecnología en la que se basa se ha convertido en parte integral de la vida cotidiana, con el creciente uso no solo de aplicaciones especializadas, sino quizás aún más de inteligencia artificial generativa capaz de interactuar mediante el lenguaje natural.
En su libro, usted ilustra con gran claridad cómo el poder digital se ha convertido en poder político y cómo el capitalismo digital se ha vuelto más poderoso que los estados, poniendo en peligro la propia democracia: ¿es este un desafío que hemos perdido para siempre, o aún podemos esperar restablecer el equilibrio de poder entre el poder digital y el poder democrático?
Un elemento distintivo y característico del poder digital es la concentración: una concentración tan fuerte e impenetrable que ni el mercado ni el Estado han podido, al menos por ahora, implementar medidas efectivas de redistribución. El poder concentrado se asemeja peligrosamente al poder ilimitado, y este último es, casi por definición, arbitrario. Sin embargo, como todo poder, el poder digital también requiere legitimidad, y esta legitimidad hoy no puede basarse únicamente en la fuerza: las empresas tecnológicas también necesitan vender productos y servicios en el mercado, convencer a los consumidores de que sus productos y servicios son útiles e incluso esenciales, del mismo modo que necesitan captar capital y cumplir sus promesas de rentabilidad, convencer a las comunidades de que acojan sus centros de datos y convencer a los Estados de que no ponen en peligro su soberanía. No es casualidad que los directivos de las grandes tecnológicas a menudo fantaseen con nuevos planetas o zonas de este planeta reservadas para ellos.
¿Por qué lo hacen?
Porque perciben la sociedad y sus reglas como una restricción a la que no quieren someterse, de la que desean liberarse. Sin embargo, esta es una perspectiva completamente ilusoria, como lo demuestran dos reacciones diferentes. En países autocráticos, como China, el Estado ejerce un control férreo sobre las empresas tecnológicas y el uso y la difusión de la tecnología. Ciertamente no quiero señalar la autocracia como ejemplo, pero demuestra que el poder público, si existe la voluntad, no es impotente. De hecho, en el caso de China, el Estado exige que los modelos de inteligencia artificial reflejen los "valores" del socialismo, lo que demuestra que la tecnología no es neutral. En los países democráticos, existe una creciente intolerancia y desconfianza hacia la innovación tecnológica que destruye empleos, crea desigualdad y discriminación, acentúa la pobreza y la marginación de grupos y comunidades enteras. La democracia, con su capacidad inclusiva, pluralista y deliberativa, es un posible antídoto y podría fortalecerse precisamente como una herramienta que permita a las sociedades modernas defenderse y preservar los valores y los objetivos colectivos. Por lo tanto, la esperanza es posible, pero debe cultivarse, ejercerse y defenderse, y esta es una tarea que nos corresponde a cada uno de nosotros, como ciudadanos de países democráticos.
Para gestionar el poder digital sin frenar la innovación tecnológica, pero sin verse desbordado, usted argumenta que la regulación es clave. En este ámbito, Europa lleva la delantera, mientras que Estados Unidos, bajo el mandato de Trump, se muestra reacio a hacerlo. Sin embargo, si la regulación del poder digital no se extiende al mercado interno, parece inevitable que su eficacia se vea limitada. ¿O no? ¿Cómo se puede superar esta divergencia entre Europa y Estados Unidos?
En primer lugar, podría tratarse de una desalineación contingente: depende mucho de lo que ocurra en las elecciones estadounidenses que comienzan en noviembre y en Estados Unidos durante los próximos dos años. Regular la innovación es difícil porque el objeto de las normas cambia constantemente, y por esta misma razón, el enfoque regulatorio europeo de la inteligencia artificial se basa esencialmente en el riesgo: los riesgos no se pueden evitar, pero sí se pueden mitigar y, sobre todo, comprender mejor si existe un sistema de control que los detecte. La regulación europea puede ser criticada por su engorro —y se está intentando simplificarla con la Ley Ómnibus Digital—, pero tiene una ventaja importante: ninguna gran empresa tecnológica puede renunciar al mercado europeo, uno de los más grandes y ricos del mundo. Por lo tanto, a pesar de las numerosas críticas y la resistencia, ninguna gran empresa tecnológica ha abandonado Europa, a pesar de la regulación. La desalineación entre Estados Unidos y la UE, por consiguiente, existe, pero no impide la aplicación de las normas europeas, dentro de Europa e incluso a veces fuera de sus fronteras, porque muchos sistemas jurídicos están convergiendo en torno al mismo tipo de principios y herramientas para regular y controlar la inteligencia artificial. Además, el argumento de que la regulación obstaculiza la innovación se vuelve menos Resulta convincente cuando la innovación emerge de su fase embrionaria, como ha sucedido con la inteligencia artificial. La regulación es la principal herramienta mediante la cual una industria puede garantizar la seguridad de sus productos y ganarse la confianza del consumidor: nadie abordaría un avión ni compraría medicamentos a menos que tuviera la certeza razonable de que el viaje y el tratamiento son seguros y no presentan riesgos.
¿Cuál crees que es la mejor opción?
Naturalmente, la mejor opción sería una regulación global, con la participación de numerosos Estados y organizaciones internacionales. Esta convergencia no es imposible. En mi libro, presento dos ejemplos donde esta convergencia se ha producido: la energía atómica y la clonación. Las diferencias entre ambos ejemplos son claras: la energía atómica tiende a pertenecer a los Estados, mientras que la capacidad de clonación surge en laboratorios de investigación. En el primer caso, los Estados han recurrido a tratados internacionales, mientras que en el segundo, ha habido una convergencia en la decisión, adoptada individualmente por cada Estado, de prohibir la clonación reproductiva. En ambos casos, sin embargo, la percepción de los peligros y riesgos que implica —en el caso de la bomba atómica, demostrados dramáticamente en Hiroshima y Nagasaki—, junto con la convicción de que las soluciones nacionales aisladas serían completamente inadecuadas, ha llevado a la adopción de normas compartidas que Estados e investigadores han aceptado y que, al menos por ahora, no se han infringido o, en caso de posibles infracciones, como en Irán con respecto a la energía atómica, se han sometido a mecanismos de control internacional. En ambos casos, para decirlo de forma muy sencilla, se trata de normas basadas fundamentalmente en prohibiciones y en la aceptación por parte de las partes involucradas del ejercicio de la facultad de supervisar el cumplimiento de dichas prohibiciones por parte de autoridades u organismos nacionales o internacionales.
Pero, ¿se ha intentado alguna vez lograr la convergencia en materia de IA?
El G7 también intentó establecer principios rectores internacionales y normas de conducta compartidas en materia de innovación tecnológica en 2023, adoptando los principios denominados Proceso de IA de Hiroshima. Estos principios rectores internacionales deben aplicarse a todo el ciclo de vida de la IA (y, por lo tanto, a todas las partes interesadas en las distintas fases), y el Código Internacional de Conducta proporciona directrices a las que los desarrolladores de IA pueden adherirse voluntariamente. La implementación del Proceso de IA de Hiroshima está encomendada a la OCDE, que definió el marco para los informes de seguimiento en febrero de 2025.
El desafío al poder digital se está desarrollando, como también muestra su libro, a nivel internacional, pero ¿qué puede hacer Italia dentro de Europa para situarse en la mejor posición para participar en este juego?
Italia no cuenta con grandes cantidades de capital de inversión ni recursos naturales, pero posee excelentes universidades y es capaz de formar investigadores de primer nivel, quienes luego emigran en busca de fortuna: nosotros los formamos y transmitimos este legado a otros países. Tiene una tradición cultural y de conocimientos técnicos que, a pesar de la destrucción de tantas experiencias industriales en los últimos años, aún perdura. Si, en lugar de dispersar esta riqueza cultural y de conocimientos, se concentrara en centros de investigación y producción, se le permitiera alcanzar una masa crítica y se integrara en red con el sistema manufacturero y el sector público, podríamos realizar una contribución significativa.
