La alarma de las grandes tecnológicas sobre el desarrollo descontrolado deinteligencia artificial En los últimos días, el tema ha generado una avalancha de respuestas, posturas, interpretaciones e incluso reacciones políticas. El mensaje generalizado era la necesidad de mayor cautela. Sin embargo, el presidente estadounidense Donald Trump intervino con contundencia, intentando describir —a su manera— el juego que Estados Unidos está jugando con China. ante todo y, a su vez, con el mundo entero. Sin embargo, el problema sigue presentándose como un enredo de declaraciones que resultan poco útiles, cuando no directamente desalentadoras, para comprender el fenómeno. ¿Puede la IA realmente amenazar a la humanidad? Y en medio del tenso dualismo entre Washington y Pekín, ¿qué camino puede tomar Europa? ¿Debería acelerar o frenar su desarrollo en inteligencia artificial? Pero el verdadero problema reside en otra parte: la regulación.
Aquí, en esta entrevista con PRIMERO en línea, ¿qué opinas? Marco Bentivogli, ex secretario general de la Fim Cisl y ahora profesor y asesor principal de la Escuela de Posgrado en Gestión de la Universidad Politécnica de MilánExperto en trabajo, innovación, IA e industria, Bentivogli es el coordinador nacional de Con sede en Italia y lleva a cabo actividades de investigación sobre el impacto de la IA en el trabajo y sobre productividad y estrategias de adopción en la industria manufacturera. «Decir que la IA pronto estará fuera de control no es una confesión de debilidad. Es una demostración de poder», afirma Bentivogli. «Es la forma más eficaz de comunicar al mercado que tu producto es tan potente que da miedo, y por lo tanto, debe adquirirse ahora, antes que la competencia, antes de que sea demasiado tarde».
Amodei, Altman y Musk: uno tras otro, los directores ejecutivos de las grandes empresas tecnológicas estadounidenses han optado por exponerse y Dar la voz de alarma sobre la IAComo si la tecnología prevaleciera sobre el futuro de la humanidad. Es cierto que la competencia con China ha alcanzado niveles altísimos, en parte gracias al extenso entrenamiento de Pekín basado en modelos estadounidenses, y resulta evidente que se ha vuelto necesario pedir a Estados Unidos que intervenga para frenar a China. Pero la pregunta, Bentivogli, es: ¿son estas alarmas también «artificiales» hoy en día, o, por el contrario, justificadas en su opinión? ¿Cuál es su verdadero objetivo?
Una alarma lanzada por quienes desarrollan tecnología debe leerse dos veces. Primero, por su contenido; segundo, por quien la emite. Amodei, Altman y Musk no son meros observadores. Son los protagonistas de una carrera que mueve cientos de miles de millones de dólares y tienen interés en definir las reglas antes que nadie. Vivimos en una era donde el miedo se ha convertido en la herramienta de venta más poderosa. Esto se aplica a la seguridad, la salud, las finanzas e incluso más a la IA. Hablar de apocalipsis, del fin del control humano y de máquinas que escapan de sus creadores sirve precisamente a este propósito.
¿Se trata, entonces, de una demostración de fuerza?
Decir que la IA pronto será incontrolable no es una confesión de debilidad, sino una demostración de poder. Es la forma más eficaz de comunicar al mercado que tu producto es tan poderoso que da miedo y, por lo tanto, debe comprarse ahora, antes que la competencia, antes de que sea demasiado tarde. Ningún vendedor de aspiradoras ha advertido jamás que su aparato podría destruir a la humanidad. Quienes venden inteligencia lo hacen porque el miedo certifica el poder, y el poder justifica el precio. Anunciar la catástrofe es la mejor campaña publicitaria jamás concebida, con la ventaja de ser gratuita y amplificada diariamente por los periódicos.
¿Y la solicitud de detener su desarrollo?
“Incluso la petición de detener el desarrollo de la IA, que aparece periódicamente en las cartas abiertas de los gurús, es técnicamente una boutade¿Quién supervisaría un cierre? ¿Afectaría a todas las empresas? ¿Y qué ocurriría mientras tanto en los laboratorios? No hay respuesta, porque la propuesta es un engaño, pura estrategia de marketing. En lugar de eso, centrémonos en dar a conocer estas herramientas y prestemos menos atención a los supuestos expertos. Actualmente, tienen un grave problema: su modelo de negocio aún no es estable. Atraviesan enormes dificultades financieras para mantener la carrera, y los problemas éticos sirven para encubrir los financieros.
¿Cuál es el aspecto político de toda esta historia?
También hay un segundo objetivo, político. Quienes declaran públicamente el peligro se acreditan como los únicos capaces de gestionarlo y exigen que los políticos protejan sus propios intereses, con barreras a los chips, la energía y los datos, y con reglas adaptadas a quienes ya están dentro. La misma lógica se aplica en el frente chino. Cuando las agencias estadounidenses informan sobre protocolos de seguridad debilitados en los modelos de DeepSeek y la Casa Blanca acusa a Alibaba de apoyar el aparato militar de Pekín, estamos en una batalla que es solo aparentemente técnica. Como todas las batallas semánticas sobre IA, abierto, seguro, soberano, incontrolableSe esconde una lucha de poder. Las advertencias no son falsas. Son interesadas. Y el verdadero riesgo no es que la tecnología prevalezca sobre la humanidad, sino que la humanidad renuncie a tomar decisiones y delegue la dirección en quienes ya han decidido por sí mismos. El peligro de la IA no es la sustitución, sino la irresponsabilidad. Esto se aplica a las empresas, los gobiernos e incluso a los tres directores ejecutivos.
Trump dijo: “Somos líderes comparados con China, y francamente, quiero que sigamos siéndolo, porque quien gane en IA, gana”. ¿Es eso realmente cierto?
Es un grito de guerra. Y ni siquiera describe bien el juego que está jugando Estados Unidos. El mundo de la IA se está organizando en dos alianzas: la iniciativa china de cooperación global Waico, por un lado, y el bloque occidental liderado por Estados Unidos, 'Pax Silica', por el otro. La primera se presenta como cooperación universal y corteja al Sur Global. La segunda construye una red selectiva de aliados, con mercados para todos excepto una frontera reservada para los fieles. Hay una paradoja que debería hacernos reflexionar. La sociedad abierta produce modelos cerrados, la sociedad cerrada distribuye las cargas a todos. Pero cuidado con lo que dices. Los modelos chinos son pesas abiertas, No Open SourceDeepSeek, Qwen y Kimi proporcionan los pesos, es decir, los parámetros entrenados, y nada más. Sin datos de entrenamiento, sin código, sin información sobre filtros ni opciones culturales. Es una caja negra portátil, mejor que una caja negra que reside en la nube de otra persona, pero sigue siendo una caja negra. Ninguno de los bloques es realmente Open Source en el sentido establecido por la Iniciativa de Código Abierto, y quien confunda ambas cosas les hace un favor a ambas."
¿Cuál es, entonces, la apertura china?
“La apertura de China no es generosidad, es mercantilizaciónPiense en el agua embotellada frente al agua del grifo. Mientras el agua de buena calidad sea escasa, quien la venda controlará el precio. Si alguien la hiciera gratuita para todos, el negocio de quienes la vendían colapsaría y el poder pasaría a quien controlara la red de distribución. China no puede competir con los estadounidenses en la rentabilidad de los modelos cerrados, así que está intentando eliminarlos para todos, como hizo Google con Android. Si se elimina el peso, se conquista el estándar. Singapur construyó su modelo nacional sobre Qwen, y Huawei lleva DeepSeek a la nube en países africanos.
Así?
Así que no, quien gane con este modelo no lo gana todo. El valor reside en los chips, la nube, las aplicaciones, los estándares y, sobre todo, la adopción; es decir, la capacidad de un sistema de producción para incorporar la tecnología en los procesos y la organización del trabajo. Trump tiene razón en una cosa: es una competencia entre sistemas. Pero el ganador es quien transforma la tecnología en productividad, salarios y bienes públicos, no quien posee el modelo más grande.
Si bien la carrera por la IA se caracteriza ahora como una contienda entre Estados Unidos y China, es cierto que Europa también cuenta con sus "campeones continentales", como la startup francesa Mistral. Sin embargo, la brecha sigue siendo innegable: ¿corremos el riesgo de quedarnos como meros espectadores? ¿Hemos perdido ya la partida?
No es una batalla perdida. Es una batalla en la que estamos actuando como sonámbulos. El mayor riesgo para Europa no es la demora, sino la adhesión pasiva a un modelo industrial decidido en otro lugar, con reglas excelentes para tecnologías que no controlamos. Mistral es un gran ejemplo, pero no será la solución europea si lo medimos con los estándares estadounidenses. Intentar replicar OpenAI o Anthropic con un programa nacional es económicamente inviable. Requiere decenas o cientos de miles de millones y una masa crítica de infraestructura y experiencia que no poseemos.
Sin embargo…
Sin embargo, la cuestión es diferente. Para obtener un papel de liderazgo entre los dos bloques, deberíamos al menos usar la tecnología, y aquí la brecha europea, e italiana, es monstruosa. La adopción sigue siendo muy baja. Según la última encuesta del ISTAT, el 16,4 por ciento de las empresas italianas con al menos diez empleados utilizan al menos una tecnología de IA. Esto duplica la cifra del año anterior, pero se mantiene por debajo del promedio europeo del 20 por ciento, con una brecha cada vez mayor entre las grandes empresas, más de una de cada dos, y las pequeñas y medianas empresas, poco más de una de cada seis. Casi el 60 por ciento de las empresas que consideraron una inversión y luego la abandonaron señalan la falta de habilidades. Y en la industria manufacturera, estamos mayormente atascados con proyectos piloto. No se puede negociar con las superpotencias de la IA desde una posición de no uso. El primer acto de soberanía es aprender a usar estas herramientas dentro de los procesos de producción, no anunciar un modelo nacional. Y hay un problema más insidioso porque es diario e invisible.
¿Qué?
¿A quién estamos formando mientras trabajamos? Millones de empresas y trabajadores utilizan IA en la nube a diario. Cada aviso, cada documento subido, cada corrección es material que, en las versiones gratuitas, casi siempre alimenta los modelos futuros del proveedor. La empresa paga por usar la IA y, al mismo tiempo, le entrega su propio conocimiento: experiencia en procesos, jerga del sector, casos resueltos, errores corregidos por expertos. El capital cognitivo acumulado durante décadas migra al extranjero sin que nadie haya decidido cederlo. Nuestra industria manufacturera es una mina de oro, y la estamos dejando explotar gratuitamente.
¿Entonces la vía europea no existe?
El camino europeo existe, pero es diferente. Independencia relativa, no soberanía plena. Infraestructura y capacidad informática, experiencia industrial distintiva, la capacidad de transición rápida a modelos de código abierto propios y relaciones negociadas con las superpotencias de la IA, en lugar de la ilusión de reemplazarlas. Y dejemos de confundir los anuncios con las estrategias. Muchos modelos nacionales "soberanos" surgen sin ninguna ambición de competir; sirven para demostrar que "nosotros también tenemos un modelo". Son ejercicios de visibilidad para políticos que buscan resultados simbólicos. La brecha más grave no es tecnológica, sino de cultura política y de gestión.
Medición del retorno económico: Según declaraciones de figuras de Silicon Valley como Alex Karp, CEO de Palantir, y Satya Nadella, CEO de Microsoft, se argumenta que muchas empresas están pagando precios elevados por el uso de modelos de lenguaje de IA sin obtener ganancias de productividad proporcionales a la inversión. ¿Es esto realmente cierto?
Sí, es cierto, y no es ninguna sorpresa. Es la paradoja de Solow, que se repite puntualmente con cada ola tecnológica. La tecnología está presente en todas partes, excepto en las estadísticas de productividad. Muchas empresas han comprado licencias, lanzado proyectos piloto y nombrado gerentes de innovación. Luego, lo han dejado todo igual. Los mismos procesos, las mismas jerarquías, la misma organización del trabajo. A eso le llamo adoptar la IA sin cambiar nada. ¿Cuál es el retorno de la inversión (ROI) de la IA? La productividad no reside en el modelo en sí, sino en la reorganización que este posibilita. Una empresa que utiliza un modelo de aprendizaje automático para escribir correos electrónicos más rápido no ha ganado nada. Una empresa que rediseña el flujo entre la oficina técnica, producción y mantenimiento en torno a los datos que procesa la IA está haciendo algo diferente. La adopción de la IA requiere ideas, trabajo y arquitectos organizativos que acompañen la transformación. La mayoría de las empresas italianas, como mucho, compran licencias y luego se quejan de que la productividad no aumenta. Cuando Karp y Nadella afirman que las empresas pagan sin obtener resultados proporcionales, tienen razón, pero señalan el problema equivocado.
¿Cuál sería el problema correcto a indicar?
El problema no es el precio de la tecnología. Es que dentro de la empresa no hay nadie con la autoridad ni las habilidades necesarias para transformar la tecnología en una forma de trabajar diferente. Por eso insisto en el rol del arquitecto del trabajo y en los equipos de apoyo a la transición. La IA sin un plan organizacional es un costo, no una inversión. Y también existe el riesgo contrario, lo que yo llamo "la IA lo hizo", es decir, usar la IA como excusa para decisiones gerenciales que no tienen nada que ver con ella.
Más allá del contraste entre entusiasmo y escepticismo, hay un área que no debe subestimarse: la aplicación de la IA en la atención médica. El sindicato de médicos Anaao-Assomed, en un informe elaborado por su centro de investigación, destacó que «la adopción sistemática de la inteligencia artificial y la digitalización ofrece ahorros potenciales de hasta 22 millones de euros. Para salvar la sanidad pública, estos recursos y el tiempo liberado para los profesionales deben gestionarse estratégicamente a través de una infraestructura pública y transparente, en lugar de derivar en recortes o privatizaciones». ¿Qué opinas al respecto?
El informe de Anaao plantea un punto acertado y sugiere algo que merece debate. Lo acertado es que la IA en la atención médica libera tiempo y recursos, y ese tiempo debería dedicarse a la relación médico-paciente, no a recortes. Un médico que invierte gran parte de su tiempo en documentación y burocracia representa un desperdicio que la IA puede reducir. Estoy totalmente de acuerdo con esto. En los países desarrollados, los médicos cuentan con un panel de control avanzado para cada paciente, con datos interoperables que protegen la privacidad. Aquí, escriben a mano. El sistema de historiales clínicos aún no funciona en todas las regiones. Lo que se debe debatir es si una infraestructura pública y transparente es suficiente para garantizar que los ahorros se destinen a la dirección correcta.
¿En el sentido de que no es suficiente?
No, no es suficiente. La infraestructura es un requisito previo, no una garantía. El tiempo liberado no se redistribuye solo. Necesitamos una reorganización del trabajo sanitario que nadie está planificando actualmente, con profesionales involucrados en el proceso y no como meros ejecutores posteriores. De lo contrario, los ahorros terminarán donde siempre: en el presupuesto, y los médicos acabarán con más pacientes y las mismas horas de trabajo.
Hay un punto que los sindicatos médicos deberían destacar antes que nadie: la IA en la atención médica funciona si los datos clínicos se gestionan como un bien público. La historia clínica electrónica, tras veinte años, aún está en desarrollo. Antes de hablar de ahorros de 22 millones de euros, hablemos de cómo lograr que esos datos sean utilizables, seguros e interoperables. Sin esto, la IA en la atención médica seguirá siendo solo una teoría en conferencias.
Según Bill Gates, la solución no es detener la IA, sino «prepararse para gobernarla». Esto se repite siempre que nos topamos con un nuevo fenómeno, impresionante por su magnitud y alcance. Fácil de decir, en resumen, pero difícil de llevar a la práctica. ¿Qué se debe hacer para gobernar la IA?
Gates tiene razón, pero la afirmación es tan general que no compromete a nadie. Gobernar la IA implica cuatro aspectos concretos, ninguno de los cuales son leyes. El primero es la gobernanza del trabajo. La IA transforma las tareas, las habilidades y las jerarquías. Si este cambio lo decide únicamente el proveedor de tecnología o la alta dirección, generará resistencia y fracaso. La transición debe gestionarse de forma conjunta, con la participación de los trabajadores y sus representantes en el proceso de diseño, en lugar de ser informados a posteriori.
¿El segundo?
El segundo aspecto es la gobernanza de datos, tanto contractual como organizacional. Existen versiones empresariales con cláusulas explícitas de no capacitación, las cuales deberían ser obligatorias. El uso informal de cuentas gratuitas por parte de los empleados, conocido como IA en la sombra, es actualmente el principal canal de fuga de conocimiento corporativo. Y conviene no confundir la ubicación del servidor con la soberanía. El caso de OVHcloud, que obligó a un tribunal canadiense a entregar datos almacenados en Francia, demuestra que quién controla la empresa, qué leyes se aplican y cómo está diseñada la infraestructura son factores importantes. La soberanía digital no es un punto en el mapa.
El tercer aspecto es la gestión de competencias. No necesitamos millones de programadores. Necesitamos personas que sepan cuestionar la tecnología, interpretar los resultados y comprender dónde falla. En Italia, la formación de adultos se encuentra entre las más bajas de Europa. Ninguna gobernanza de la IA puede sostenerse sobre esta base.
Falta el cuarto.
El cuarto es regular la adopción. La Ley de IA regula los riesgos, y eso está bien. Pero no hay una política de adopción industrial para los cientos de miles de pequeñas y medianas empresas que no tienen una científico de datos Y nunca lo conseguirán. Necesitamos apoyo local y profesionales reconocidos para abrir escuelas de IA y centrarnos en la transferencia de tecnología y habilidades. La elección entre la nube, los pesos abiertos y el código abierto no es una decisión de TI que deba delegarse al departamento de TI o a políticos que no entienden la diferencia. Es una decisión sobre la organización del trabajo, sobre la preservación del conocimiento colectivo, sobre el poder. No nos limitemos a preguntarnos cuán abierto es el modelo. Preguntémonos cuán vulnerables y explotados seguimos estando, sin darnos cuenta.