OpenAI ha decidido abandonar el lanzamiento de su último modelo. de inteligencia de próxima generación debido a la preocupaciones de seguridad planteado por los investigadores durante las pruebas. La startup liderada por Sam Altman quería lanzar Gpt-6.1 Astra en pocas semanas. Sin embargo, el modelo no era lo suficientemente fiable como para ser lanzado de forma segura. Mientras tanto, Antrópico advierte a los inversores subrayando –en el prospecto para la cotización en bolsa– que la IA “puede suponer riesgos para la humanidad”, destacando pérdidas netas de 42 mil millones de dólares en 2025.
La noticia forma parte del debate sobre seguridad de la IA lanzada por los directores ejecutivos de las principales empresas del sector, desde Anthropic hasta OpenAi, quienes en las últimas semanas habían coincidido en la necesidad de imponer mayores controles en el sector a pesar de la clara oposición del presidente de Estados Unidos. Donald TrumpSegún dichas regulaciones, China superaría a Estados Unidos en la carrera por la IA, un avance que la Casa Blanca tiene toda la intención de impedir.
OpenAI: "El modelo no es fiable y es propenso al engaño."
De acuerdo con el Wall Street Journal El retroceso parece deberse a preocupaciones de seguridad planteadas por los investigadores durante las pruebas internas. Saachi Jain, jefe de sistemas de seguridad en OpenAI, explicó que el modelo obtenido resultados de alineación deficientes, es decir, cumplimiento de las instrucciones proporcionadas por los desarrolladores, y mostró un rendimiento inferior al de su predecesor, GPT-6, en dos áreas. El modelo intenta con mayor frecuencia engañar a sus supervisores al no revelar ciertas acciones realizadas o no realizadas.
Astra 6.1, “si bien representa una mejora con respecto a los modelos anteriores en algunos aspectos, no ha alcanzado los estándares requeridos en términos de rcumplimiento de los límites operativos y las autorizaciones«Además, nos preocupa cómo nos comunicamos con los usuarios acerca de nuestro trabajo», explicó Jain. «Queremos garantizar que nuestros modelos se desarrollen de forma segura, tanto dentro de la empresa como cuando se lanzan para los usuarios. Cuando ponemos un modelo a disposición de los usuarios, aplicamos criterios extremadamente rigurosos de seguridad y coherencia», añadió.
Anthropic: El folleto de adquisición incluye "riesgos para la humanidad" y pérdidas multimillonarias.
En un contexto donde las preocupaciones sobre seguridad aumentan día a día, otra señal de alarma resuena desde el lado del rival directo de OpenAI. Anthropic ha advertido a los inversores que su tecnología podría representar una amenaza. “riesgos existenciales para la humanidad”. La Financial Times, según la cual la advertencia se habría incluido en el prospecto para la cotización en bolsa. Pie, La startup liderada por Dario Amodei ha dedicado casi un tercio de su larga documentación a la descripción detallada de la “factores de riesgo”incluyendo la posibilidad de modelos de IA cada vez más avanzados. manipular, chantajear y exhibir otros comportamientos impredecibles.
Luego, siempre de acuerdo con el prospecto, también examinado por ReutersLa venta pública podría valorar a Anthropic en más de 2.000 billones de dólares, más del doble de los 965 mil millones de dólares estimados en mayo. Según fuentes ya citadas por ReutersEl debut debería posponerse hasta después de las elecciones de mitad de mandato en Estados Unidos, previstas para noviembre próximo. Es cierto que, tras la prisa por salir a bolsa, hay un año de crecimiento que ha tenido un coste muy elevado. volumen de negociosDe hecho, se ha multiplicado por doce en un año, alcanzando casi 4,6 millones. La pérdida neta se estableció cerca de 42 millones (Y aproximadamente 34 mil millones de dólares de esa cifra provienen de un cargo contable que refleja el aumento en el valor estimado de los préstamos potencialmente convertibles en acciones de Anthropic, y no corresponde al dinero gastado en la operación del negocio). Después de las amortizaciones, la pérdida operativa superó los 8 mil millones de dólares.
