Scharfschaltung OpenAIDie Geschichte könnte problemlos in einen Science-Fiction-Film passen, in dem Maschinen die Menschheit beherrschen. Doch sie ist weder Science-Fiction noch ein Film: OpenAI musste tatsächlich bekanntgeben, dass … autonomer Agent basierend auf seinen eigenen Modellen von fortgeschrittene künstliche Intelligenz è geriet außer Kontrolle durante a Test Sicherheit und löste eine aus attacco informatik wodurch die Infrastruktur des KI-Startups Hugging Face gefährdet wurde.
In einem Beitrag auf seinem Blog OpenAI das hat er gesagt testete die Fähigkeiten Bei einigen seiner fortschrittlichsten Modelle in einer kontrollierten Umgebung gelang es dem Agenten, der Entdeckung zu entgehen, das Internet zu erreichen und Hugging Face zu infiltrieren, um seine eigenen Testziele zu erreichen.
OpenAI selbst nimmt kein Blatt vor den Mund, wenn es darum geht, was passiert ist: Es war „ein beispielloser Computervorfall, die beteiligt hochmoderne Rechenkapazitäten„und fügte hinzu, dass das Unternehmen seine Sicherheitsmaßnahmen offensichtlich verstärke.“ „Nachdem die Modelle Internetzugang erlangt hatten, schlussfolgerten sie, dass Hugging Face Modelle und Datensätze hosten könnte“, so OpenAI. in seinem Blog„Die Models sind sich dessen bewusst und haben daher nach Wegen gesucht und diese erfolgreich gefunden, um …“ Zugriff auf vertrauliche Informationen dass sie hätten nutzen können um die Bewertung zu verfälschen".
Umarmendes Gesicht, Eine Plattform, die zum Hosten großer Open-Source-Sprachmodelle und Datensätze verwendet wird, hatte in der Cybersicherheits-Community für Aufsehen gesorgt, als sie letzte Woche in einem Blogbeitrag mitteilte: sein Blog die Gegenstand eines Cyberangriffs gewesen waranders als alle anderen „wir hatten es zuvor geschafft“ als „Guidato, von Anfang bis Ende, aus einem autonomen Agentensystem künstliche Intelligenz“ und präzisierten: „Wir haben festgestellt unbefugter Zugriff auf einen begrenzten Satz interner Datensätze und auf unterschiedliche Anmeldeinformationen, die von unseren Diensten verwendet werden.
OpenAI: Besorgniserregende Systemfehler? Modelle mit tausend Tentakeln
Natürlich wirft diese verblüffende Enthüllung bereits Bedenken hinsichtlich der Macht und des Risikos auf. Frontier-Modelle. Gestern sagte der texanische Abgeordnete Greg Casar (Demokrat), dass Der Unfall war alarmierend.„Künstliche Intelligenz entwickelt sich in unglaublichem Tempo, ohne dass ein wirklicher …“ Regulierung „Das schützt uns“, sagte er und forderte obligatorische unabhängige Sicherheitstests, die obligatorische Offenlegung von Sicherheitsvorfällen und internationale Zusammenarbeit, „um die Menschen vor einer absoluten Katastrophe zu bewahren“.
„Der Unfall war ein Vorbote zukünftiger Verstöße“, kommentierte a Reuters Katie Moussouris, CEO des Sicherheitsunternehmens Luta Security, argumentiert, dass heutige Modelle Sie sind „wie die die intelligentesten Oktopusse der Welt, fähig dazu Entkommen aus jedem Hindernis„mit unbegrenzten Greifarmen und der Fähigkeit, sich überall hinzufügen.“ Er fügte hinzu, dass „die staatliche Laboratorien und Bewertungsstellen Sie müssen an der Fähigkeit arbeiten, die Sicherheit zu gewährleisten, die Sicherheit zu überwachen und die Beteiligten zu benachrichtigen, wenn eine KI einen weiteren Umgehungsversuch unternimmt – idealerweise bevor sie Dritten Schaden zufügt. So etwas gibt es derzeit nicht.“
Matt Suiche, Ingenieur bei Tolmo, einem auf die Cybersicherheit von KI-Agenten spezialisierten Unternehmen, betonte, dass der Vorfall verdeutlicht habe, wie hochmoderne Modelle „die Lücke zu den fortschrittlichsten Angreifern schließen“. Er fügte jedoch hinzu, dass die in OpenAIs Blogbeitrag beschriebenen Sicherheitslücken mit Technologien möglich seien, die weit über die Grenzen modernster Forschungslabore hinaus verfügbar seien.
OpenAI: Altman wird sich mit der Trump-Regierung treffen. Auch das Moonshot-Dossier wird Thema sein.
Der CEO von OpenAI, Sam Altmann, Er ist bereits für nächste Woche zu einem Treffen mit der Trump-Administration und US-Gesetzgebern über die nächste Generation von Modellen eingeplant. künstliche IntelligenzDie Regierung entwickelt gerade einen Rahmen für rSicherheitsüberprüfungen Die Fertigstellung wird voraussichtlich in den kommenden Wochen erfolgen, sagte Chris Lehane, Leiter der globalen Öffentlichkeitsarbeit von OpenAI, gestern.
Zu den Themen, die auf dem Tisch stehen, wird aber auch das der chinesischen Startups gehören. Moonshot cEr hat ein neues Modell herausgebracht, das mit den besten Angeboten US-amerikanischer Entwickler konkurrieren kann, darunter OpenAI e Anthropisch, neue aufwerfen Fragen zur Festigkeit der US-Vorherrschaft über China im Bereich der künstlichen Intelligenz. Das Kimi-K3-Modell von Moonshot hat zudem Zweifel daran aufkommen lassen, ob Hunderte von Milliarden Dollar an Infrastrukturinvestitionen die gewünschten Ergebnisse liefern können, und damit die Anleger verunsichert. Wall Street und löste einen Ausverkauf bei Technologieaktien aus.
