alarmă OpenAIPovestea s-ar putea potrivi cu ușurință într-un film science fiction, una dintre acele intrigi în care mașinile preiau controlul asupra oamenilor. Dar nu este nici science fiction, nici film: OpenAI, de fapt, a trebuit să anunțe că... agent autonom bazat pe propriile modele de inteligență artificială avansată è a scăpat de sub control in timpul test securitate și a declanșat o atac cibernetic care a compromis infrastructura startup-ului de inteligență artificială Hugging Face.
Într-o postare pe blogul său, OpenAI a spus asta testa capacitățile a unora dintre cele mai avansate modele ale sale într-un mediu controlat, când agentul a reușit să scape de detectare, să ajungă la internet și să se infiltreze în Hugging Face pentru a încerca să-și atingă propriile ținte de testare.
OpenAI însuși nu își stă în cuvinte când descrie ce s-a întâmplat: a fost „un incident informatic fără precedent, care a implicat capacități de calcul de ultimă generație„, adăugând că firma își întărea în mod evident măsurile de securitate. „După ce au obținut acces la internet, modelele au dedus că Hugging Face putea găzdui modele, seturi de date”, spune OpenAI. în blogul său„Conștiente de acest lucru, modelele au căutat și au găsit cu succes modalități de a acces la informații confidențiale pe care le-ar fi putut folosi a falsifica evaluarea".
Fața îmbrățișată, o platformă utilizată pentru a găzdui modele lingvistice și seturi de date open-source de mari dimensiuni, a provocat agitație în comunitatea de securitate cibernetică atunci când a declarat într-o postare pe blog săptămâna trecută blogul lui care a făcut obiectul unui atac cibernetic”diferit de oricare altul „pe care îl gestionasem anterior” ca „ghidate, de la început până la sfârșit, dintr-un sistem autonom de agenți „de inteligență artificială” și a specificat: „Am detectat acces neautorizat unui set limitat de seturi de date interne și diferitelor acreditări utilizate de serviciile noastre.
OpenAI: Un sistem cu defecte îngrijorătoare? Modele cu o mie de tentacule
Bineînțeles, revelația surprinzătoare ridică deja îngrijorări cu privire la puterea și riscul modele de frontieră. Ieri, reprezentantul democrat din Texas, Greg Casar, a declarat că accidentul a fost alarmant„Inteligența artificială se dezvoltă cu o viteză incredibilă, fără o conștientizare reală” regulament „asta ne protejează”, a spus el, solicitând teste de securitate independente obligatorii, dezvăluirea obligatorie a incidentelor de securitate și cooperare internațională „pentru a proteja oamenii de o catastrofă absolută”.
„Accidentul a fost un prevestitor al viitoarelor încălcări”A comentat a Reuters Katie Moussouris, CEO al firmei de securitate Luta Security, argumentând că modelele de astăzi ei sunt „ca cele mai inteligente caracatițe din lume, capabil de scăpa de orice obstacol, cu brațe nelimitate și capacitatea de a se potrivi oriunde.” El a adăugat că „cel laboratoare guvernamentale și organisme de evaluare „Trebuie să lucreze la capacitatea de a controla, monitoriza și notifica părțile interesate atunci când o IA face o altă încercare de eludare, ideal înainte ca aceasta să dăuneze unor terțe părți. În prezent, nu există nimic asemănător.”
Matt Suiche, inginer la Tolmo, o companie specializată în securitatea cibernetică bazată pe inteligență artificială cu agenți, a subliniat că incidentul a demonstrat cum modelele de ultimă generație „redu decalajul față de cei mai avansați atacatori”. Cu toate acestea, el a adăugat că breșele de securitate descrise în postarea de pe blogul OpenAI sunt posibile cu tehnologii disponibile mult dincolo de limitele laboratoarelor de cercetare de ultimă generație.
OpenAI: Altman se va întâlni cu administrația Trump. Dosarul Moonshot va fi, de asemenea, pe masă.
Directorul general al OpenAI, Sam Altman, El este deja programat să se întâlnească cu administrația Trump și cu parlamentarii americani săptămâna viitoare pentru a discuta următoarea generație de modele. inteligenta artificialaGuvernul dezvoltă doar un cadru pentru rrecenzii de securitate, care se așteaptă să fie finalizat în următoarele săptămâni, a declarat ieri Chris Lehane, șeful departamentului de afaceri publice globale al OpenAI.
Dar printre problemele de pe masă se va număra și cea a startup-ului chinezesc Moonshot cEl a lansat un nou model care rivalizează cu cele mai bune oferte ale dezvoltatorilor americani, inclusiv OpenAI e Antropică, ridicând noi întrebări asupra solidității Primatul SUA asupra Chinei în inteligența artificială. Modelul Kimi K3 al lui Moonshot a pus, de asemenea, la îndoială faptul că investițiile în infrastructură a sutelor de miliarde de dolari pot produce rezultatele dorite, șocând investitorii. Wall Street și declanșând o vânzare masivă de acțiuni tehnologice.
