OpenAI a décidé d'abandonner le lancement de son dernier modèle de l'intelligence de nouvelle génération grâce à préoccupations en matière de sécurité soulevé par les chercheurs lors des tests. La start-up dirigée par Sam Altman souhaitait lancer Gpt-6.1 Astra en quelques semaines. Cependant, le modèle n'était pas suffisamment fiable pour être commercialisé en toute sécurité. Entre-temps, Anthropique met en garde les investisseurs en soulignant – dans le prospectus d’introduction en bourse – que l’IA « peut présenter des risques pour l’humanité », mettant en évidence pertes nettes de 42 milliards dollars en 2025.
Cette information s'inscrit dans le cadre du débat sur sécurité de l'IA lancé par les PDG des principales entreprises du secteur, d'Anthropic à OpenAi, qui avaient déclaré ces dernières semaines être d'accord sur la nécessité d'imposer des contrôles plus stricts au secteur malgré l'opposition manifeste du président américain Donald Trump, selon lesquelles de nouvelles réglementations permettraient à la Chine de dépasser les États-Unis dans la course à l'IA, un dépassement que la Maison Blanche entend bien empêcher.
OpenAI : « Le modèle est peu fiable et sujet à la tromperie. »
Selon la Wall Street Journal Ce revirement semble être dû à des problèmes de sécurité soulevés par les chercheurs lors de tests internes. Saachi Jain, responsable des systèmes de sécurité chez OpenAI, a expliqué que le modèle Il a obtenu résultats d'alignement médiocres, c'est-à-dire la conformité aux instructions fournies par les développeurs, et a montré des performances inférieures à celles de son prédécesseur, GPT-6, dans deux domaines. Le modèle tente plus fréquemment de tromper ses supérieurs en omettant de divulguer certaines actions effectuées ou non effectuées.
L'Astra 6.1, « bien que représentant une amélioration par rapport aux modèles précédents à certains égards, n'a pas atteint les normes requises en termes de… »respect des limites et autorisations d'exploitation« Nous accordons une grande importance à la manière dont nous communiquons avec les utilisateurs au sujet de notre travail », a expliqué Jain. « Nous voulons garantir que nos modèles sont développés en toute sécurité, tant en interne qu’au moment de leur mise à disposition des utilisateurs. Lorsque nous mettons un modèle à disposition, nous appliquons des critères de sécurité et de conformité extrêmement rigoureux », a-t-il ajouté.
Anthropic : Le prospectus de rachat évoque des « risques pour l'humanité » et des pertes se chiffrant en milliards de dollars.
Alors que les préoccupations sécuritaires s'accroissent de jour en jour, un autre signal d'alarme retentit, provenant du concurrent direct d'OpenAI. Anthropic a averti les investisseurs que sa technologie pourrait constituer une menace. « des risques existentiels pour l’humanité ». le Financial Times, selon lequel l'avertissement aurait dû figurer dans le prospectus d'introduction en bourse. Selon Pi, La start-up dirigée par Dario Amodei a consacré près d'un tiers de sa longue documentation à la description détaillée de « facteurs de risque », y compris la possibilité de modèles d'IA de plus en plus avancés manipuler, faire du chantage et adopter d'autres comportements imprévisibles.
Puis toujours conformément au prospectus, également examiné par ReutersL'introduction en bourse pourrait valoriser Anthropic à plus de 2 000 milliards de dollars, soit plus du double des 965 milliards estimés en mai. Selon des sources déjà citées par ReutersL'introduction en bourse devrait être reportée après les élections de mi-mandat américaines prévues en novembre prochain. Il est vrai que cette précipitation cache une année de croissance à un coût très élevé. chiffre d'affairesEn fait, elle a été multipliée par douze en un an, atteignant presque 4,6 milliards de dollars, perte nette il s'est installé près de 42 milliards (Et environ 34 milliards de dollars de ce chiffre proviennent d'une charge comptable qui reflète l'augmentation de la valeur estimée des prêts potentiellement convertibles en actions Anthropic, et ne correspondent pas à des dépenses liées à l'exploitation de l'entreprise.) Après dépréciation, la perte d'exploitation a dépassé 8 milliards de dollars.
