Nouă confruntare între Antropici e Guvernul Statelor UniteStartup-ul a anunțat suspensie la nivel global al celor mai puternice modele ale sale, Fabula 5 și Miturile 5după ce a primit o directivă federală care interzice utilizarea de către cetățenii străini, atât în interiorul, cât și în afara Statelor Unite.
Măsura, care a fost adoptată pe baza reglementărilor americane privind controlul exporturilor de tehnologii sensibile, este justificată de Washington prin motive de „siguranță naţional„Rezultatul este o oprire imediată și totală a producției ambelor modele, la doar trei zile de la lansarea lor.”
Antropică blochează noile modele după restricțiile guvernului SUA
Potrivit companiei, directiva nu afectează doar utilizatorii internaționali: aceasta blochează și accesul oricărui cetățean non-american, inclusiv angajaților străini ai Anthropic, indiferent de locație.
O condiție care, în fapt, făcea imposibilă aplicarea unei restricții selective. Prin urmare, compania a decis să suspende complet Fable 5 și Mythos 5 la nivel global, clarificând faptul că alte modele ale familiei Claude nu sunt implicate și să rămână operaționale. Ordinul a sosit la Washington vineri după-amiază (în jurul orei 23:00, ora Italiei) și impunea implementarea imediată a măsurii.
Fable 5 și Mythos 5: Modelele „de frontieră” ale lui Anthropic
Cele două sisteme reprezintă cea mai recentă generație de modele dezvoltate de Anthropic și se bazează pe Previzualizare Claude Mythos, Un model experimental conceput pentru cercetare avansată în domeniul securității cibernetice. Acest sistem poate analiza codul software și infrastructura pentru a identifica vulnerabilități, erori și potențiale defecte de securitate, ceea ce îl face un instrument deosebit de sensibil din perspectivă geopolitică.
Versiunea preliminară a fost inițial accesibilă doar unui grup select de companii și centre de cercetare, în cadrul programului Project Glasswing, o inițiativă dedicată testării avansate de securitate a inteligenței artificiale. Conform rezultatelor inițiale partajate, modelul a ajutat la identificarea numeroaselor probleme critice în sistemele reale, accelerând activitățile de remediere și auditare.
Fable 5, în special, a fost primul model din această nouă generație fabricat disponibil în formă comercială la scară largă. Anthropic îl prezentase ca un sistem cu capabilități avansate și noi măsuri de securitate integrate, concepute pentru a reduce riscul de utilizare abuzivă.
Securitate, limitări și problema „jailbreak”
Încă de la lansare, Anthropic s-a concentrat pe un sistem de protecții consolidate pentru a limita utilizarea necorespunzătoare a modelelor, în special în zone sensibile precum securitate cibernetică ofensator. Cu toate acestea, aceste măsuri au provocat și critic de către utilizatori, care în unele cazuri le consideră excesiv restrictiv e penalizare pentru utilizare legitimă.
Compania recunoaște, de asemenea, o limită structurală a întregului sector: niciun model de inteligență artificială nu poate fi considerat complet imun la „jailbreak„sau încercări de a eluda protecțiile de securitate. Scopul declarat nu este de a elimina complet riscul, ci de a face ca aceste atacuri să fie foarte dificil de efectuat sau extrem de costisitoare, prin combinarea apărării tehnice cu monitorizare continuă și sisteme de intervenție rapidă.”
Compania fondată și condusă de Dario Amodei Anthropic a contestat decizia guvernului SUA, spunând că nu este de acord cu ideea că simpla sugestie a unei exploatări limitate ar putea duce la eliminarea unui model de pe piață. „Guvernul ar trebui să poată interveni în sistemele nesigure, dar numai printr-un proces transparent și echitabil, bazat pe date tehnice verificabile”, a declarat Anthropic, adăugând că decizia încalcă aceste principii.
Presiunea de reglementare și conflictul deschis cu Washingtonul
Cazul vine pe fondul presiunilor crescânde din partea guvernului SUA asupra sectorului inteligenței artificiale, care este considerat din ce în ce mai mult strategic pentru securitatea națională și competiția geopolitică globală.
Anthropic, care a depus recent în mod confidențial prospectul său la SEC în pregătirea pentru listarea la Bursa de Valori din New York, se află deja în centrul tensiunilor cu autoritățile americane. pentagon are într-adevăr a clasificat compania ca potențial riscul lanțului de aprovizionare, o denumire rară în sectorul tehnologic privat și de obicei rezervată entităților considerate sensibile la securitatea națională. Ca răspuns la aceste măsuri, startup-ul a lansat și un proces împotriva administrației americane, încă în curs de desfășurare.
