OpenAI a decis să renunțe la lansarea celui mai recent model al său. inteligenței de generație următoare datorită preocupări legate de securitate ridicate de cercetători în timpul testelor. Startup-ul condus de Sam Altman dorea să lanseze Gpt-6.1 Astra în câteva săptămâni. Cu toate acestea, modelul nu era suficient de fiabil pentru a fi lansat în siguranță. Între timp, Antropică avertizează investitorii subliniind – în prospectul pentru listarea la bursă – că IA „poate prezenta riscuri pentru umanitate”, evidențiind pierderi nete de 42 de miliarde de dolari în 2025.
Știrea face parte din dezbaterea despre Siguranța IA lansat de directorii generali ai principalelor companii din sector, de la Anthropic la OpenAi, care în ultimele săptămâni declaraseră că sunt de acord asupra necesității de a impune controale mai stricte asupra sectorului, în ciuda opoziției clare a președintelui SUA Donald Trump, conform căreia noile reglementări ar permite Chinei să depășească Statele Unite în cursa inteligenței artificiale, o depășire pe care Casa Albă are toată intenția să o prevină.
OpenAI: „Modelul este nesigur și predispus la înșelăciune.”
Potrivit Wall Street Journal Revenirea la subiect pare să se datoreze preocupărilor legate de securitate ridicate de cercetători în timpul testelor interne. Saachi Jain, șeful sistemelor de securitate de la OpenAI, a explicat că modelul El a obtinut rezultate slabe ale alinierii, adică respectarea instrucțiunilor furnizate de dezvoltatori și a demonstrat performanțe mai scăzute decât predecesorul său, GPT-6, în două domenii. Modelul încearcă mai frecvent să să-și înșele superiorii prin omiterea dezvăluirii anumitor acțiuni efectuate sau neefectuate.
Astra 6.1, „deși reprezintă o îmbunătățire față de modelele anterioare în anumite privințe, nu a atins standardele necesare în ceea ce privește rezistența la rupere”respectarea limitelor de funcționare și a autorizațiilor„, precum și modul în care comunicăm cu utilizatorii despre munca noastră”, a explicat Jain. „Dorim să ne asigurăm că modelele noastre sunt dezvoltate în siguranță, atât în cadrul companiei, cât și atunci când sunt lansate utilizatorilor. Când punem un model la dispoziția utilizatorilor, aplicăm criterii extrem de stricte de securitate și aliniere”, a adăugat el.
Anthropic: Prospectul de preluare include „Riscuri pentru umanitate” și pierderi de miliarde de dolari
Într-un context în care preocupările legate de securitate cresc zi de zi, un alt clopot de alarmă sună din partea rivalului direct al OpenAI. Anthropic a avertizat investitorii că tehnologia sa ar putea reprezenta o amenințare. „riscuri existențiale pentru umanitate”. Acest lucru este dezvăluit de Financial Times, conform căreia avertismentul ar fi fost inclus în prospectul pentru listarea la bursă. Conform Ft, Startup-ul condus de Dario Amodei a dedicat aproape o treime din documentația sa lungă descrierii detaliate a „factori de risc”, inclusiv posibilitatea unor modele de inteligență artificială din ce în ce mai avansate manipula, șantaja și manifesta alte comportamente imprevizibile.
Apoi, întotdeauna conform prospectului, examinat și de Reuters, vânzarea publică ar putea evalua Anthropic la peste 2.000 trilioane de dolari, mai mult decât dublul celor 965 de miliarde de dolari estimate în mai. Conform surselor deja citate de Reuters, debutul ar trebui amânat până după alegerile intermediare din SUA, programate pentru noiembrie anul viitor. Este adevărat că în spatele grabei de listare se ascunde un an de creștere care a venit cu un cost foarte mare. cifra de afaceri, de fapt, a crescut de douăsprezece ori într-un an, ajungând aproape 4,6 miliarde de dolari. pierdere netă s-a așezat lângă 42 miliarde de euro (Și aproximativ 34 de miliarde de dolari din această cifră provin dintr-o cheltuială contabilă care reflectă creșterea valorii estimate a împrumuturilor potențial convertibile în acțiuni Anthropic și nu corespunde banilor cheltuiți pentru funcționarea afacerii.) Fără reducerile de valoare, pierderea operațională a depășit 8 miliarde de dolari.
