El inteligencia artificial Se está moviendo muy rápido. Quizás demasiado rápido. No solo sus críticos lo han estado diciendo en las últimas semanas, sino también algunas de las personas que están construyendo los modelos más avanzados. Darío Amodei, Director General Antrópico, pidió a las grandes tecnológicas que redujeran el ritmo de desarrollo de los modelos de vanguardia. Sorprendentemente, incluso la necesidad de mayor precaución se ha alineado. Sam Altman, director ejecutivo de OpenAI, y Elon Musk.
Sin embargo, reducir la velocidad no es fácil. En el fondo está el competencia entre Estados Unidos y ChinaEn una llamada telefónica con Jensen Huang, CEO de Nvidia, Donald Trump Calificó los temores sobre la IA de "farsa" y criticó la petición de Amodei. Su postura es clara: quien gane la carrera por la inteligencia artificial "lo ganará todo". Una línea muy alejada de la de Naciones Unidas, que exigen normas y coordinación internacional. También Pekín Considera la IA un riesgo para la seguridad, pero al mismo tiempo un área decisiva de la competencia tecnológica global.
LEA TAMBIÉN OpenAI pospone su salida a bolsa: Altman descarta la salida a bolsa en 2026.
La IA está en marcha, pero las alarmas también aumentan: aquí te explicamos por qué.
¿Por qué tanta preocupación? No solo porque los sistemas se están volviendo más poderosos, sino también más autónomoLa perspectiva es la de una IA capaz de contribuir al desarrollo de versiones cada vez más avanzadas de sí misma, la llamada superación personal recursiva, acelerando el progreso más allá de la capacidad humana para seguirlo y controlarlo. Entonces existe el riesgo de "desalineación“: un sistema puede perseguir un objetivo de manera efectiva, pero mediante estrategias imprevistas por sus desarrolladores o incompatibles con los intereses humanos. Algunos experimentos ya han demostrado la existencia de modelos capaces de intentar eludir instrucciones o restricciones.
Esta es también la razón por la que La alarma va en aumento. entre los investigadores. Jacob Coxon, de Anthropic, dejó la empresa advirtiendo que la IA podría convertirse en una amenaza existencial en diez años. Antes que él, en 2024, Jan Leike OpenAI había dejado denunciando la creciente prioridad que se da a los productos sobre la seguridad, mientras que Ilya Sutskever Había abandonado la empresa tras trabajar en problemas relacionados con la alineación y la superinteligencia.
El problema es que la carrera de la IA no se trata solo de seguridad, sino también de ventaja tecnológica y económicaEstados Unidos teme perder terreno frente a China y, según un informe de la NSA, la CISA y el FBI citado en el debate estadounidense, los laboratorios chinos han utilizado la "destilación" a gran escala, analizando modelos occidentales millones de veces para usar sus respuestas para entrenar sus propios sistemas y así reducir los costos de desarrollo.
También están presionando el acelerador los Se necesitan enormes inversiones Para los modelos y centros de datos: detener la actividad sería costoso para las empresas y podría abrir espacio para la competencia. Una moratoria también tendría un efecto mixto: podría aumentar la seguridad, pero dificultaría la entrada de startups y proyectos de código abierto, fortaleciendo a los grandes grupos que ya dominan el mercado.
Bill Gates: "Esta vez la transformación es diferente"
Es dentro de este escenario que las palabras de adquieren un peso particular Bill Gates. En su último discurso sobre Notas de puertasEl fundador de Microsoft afirma que hemos entrado en una fase diferente a las anteriores. transformaciones tecnológicasLa IA se está extendiendo mucho más rápidamente y puede intervenir en una gran cantidad de actividades y profesiones.
Su postura no es detener la innovación, sino preparándose y sus consecuencias. «La IA podría convertirse en la mejor herramienta para la igualdad jamás inventada o en la peor fuente de injusticia», escribe Gates. La tecnología puede generar enormes beneficios, pero sin normas y herramientas adecuadas, también corre el riesgo de agravar las desigualdades.
El primer punto de comparación es el trabajoNo solo los trabajos repetitivos están expuestos: la IA también puede afectar a las profesiones cualificadas, especialmente a los puestos de nivel inicial e intermedio, dificultando que los jóvenes entren en el mercado y adquieran experiencia. Y el problema no es solo económico: el trabajo proporciona ingresos, pero también identidad, relaciones y un sentido de participación en la sociedad. Por eso Gates insiste en es necesario intervenir antes de que se complete la transformación.“No podemos darnos el lujo de avanzar despacio.”
De los deepfakes a la atención médica: la doble cara de la IA
Para Gates, considerar la inteligencia artificial únicamente desde la perspectiva de sus riesgos sería un error. La misma tecnología que puede poner en peligro millones de empleos puede acelerar la investigación científicacontribuir al desarrollo de farmaci e vacunas, mejorar el Salud y hacerlo más eficiente agricultura e servicios publicos en países de bajos ingresos.
La IA también puede brindar soporte. educación, salud mental, pequeñas empresas e Personas con discapacidades, además de liberar tiempo de tareas repetitivas. Pero estos beneficios no llegarán automáticamente: serán necesarios inversiones, políticas publicas y las intervenciones filantrópicas para evitar que sigan concentradas en manos de unos pocos.
Esta es la dirección que ha tomado la Fundación Gates, que ha anunciado una inversión de mil millones de dólares en dos años para llevar la IA a los países más pobres: el 40% de los fondos se destinará a la sanidad, el 40% a la educación, el 10% a la agricultura y el 10% restante a la infraestructura de datos local. El objetivo es también mejorar la eficacia de los modelos en lenguas menos representadas en África y Asia, apoyando herramientas de diagnóstico, investigación de fármacos y vacunas, y aplicaciones agrícolas.
La cuestión, entonces, no es solo cuán rápido los modelos se volverán más poderosos, sino cuán rápido la sociedad podrá... desarrollar las herramientas para gobernarlos y comprueba los resultados.
El verdadero desafío es gobernar la carrera de la inteligencia artificial.
Para Gates, la respuesta reside en seguridad, protección social e normasDe ahí la propuesta de empezar a decidir qué dejar en manos de los humanos incluso cuando las máquinas son capaces de hacerlo. Es el principio que Gates define como "Humano reservadoEsta idea va acompañada de la necesidad de replantear el sistema tributario, con posibles impuestos sobre los robots y el uso de la IA para financiar la reconversión laboral y apoyar a las comunidades más expuestas a la transformación.
A nivel internacional, Gates imagina formas de cooperación entre gobiernos e instituciones para abordar riesgos que ningún país puede manejar solo: desde la seguridad de los modelos hasta las implicaciones energéticas de los centros de datos, pasando por el uso de la IA para ciberataques, vigilancia, desinformación o aplicaciones militares. Gates advierte que Ningún gobierno está suficientemente preparado hoy en día. gestionar una transformación de esta magnitud.
La contradicción persiste: todos reconocen la necesidad de regular la IA, pero nadie quiere ser el primero en frenar mientras otros siguen avanzando a toda velocidad. Por eso la advertencia de Gates... No se trata tanto de una invitación a contenerse como a prepararse. La cuestión ahora no es si la IA cambiará el mundo, sino si las instituciones, las empresas y las sociedades serán lo suficientemente rápidas para crear las normas necesarias. «Tienes la oportunidad de actuar ahora», escribe Gates. Ralentizar el desarrollo tecnológico puede no ser la solución, pero tardar en dominarlo sería sin duda un error.
