Fehler, die vor den Nutzern verborgen bleiben, gefälschte Daten und Dateien, die ohne Autorisierung über das Internet übertragen werden. Das unaufhaltsame Rennen der künstlichen Intelligenz wird von einer Reihe von Alarmsignalen begleitet., die zunehmend von denselben Unternehmen auf den Markt gebracht werden, die sie entwickeln. Die neueste stammt von OpenAI, das am 16. September veröffentlichte sechs Berichte su unerwartete Verhaltensweisen ihrer ModelleDas Unternehmen hat in den vergangenen sechs Monaten im Rahmen von Schulungen und Beurteilungen Auffälligkeiten festgestellt. Zudem kündigte es ein neues Verfahren an, um diese Anomalien schneller aufzudecken, selbst wenn die Ursachen noch nicht geklärt oder eine Lösung gefunden wurde.
Die Warnung gilt für die gesamte Branche. „Wir glauben nicht, dass die KI-Branche die Probleme der Ausrichtung und Nachverfolgung ausreichend gelöst hat, um noch lange verantwortungsvoll und mit voller Geschwindigkeit wachsen zu können“, schreibt OpenAI. Im Kern geht es um das sogenannte FehlausrichtungDies tritt auf, wenn ein System von den Anweisungen und Grenzwerten abweicht, die es eigentlich einhalten soll. Die sechs Verhältnisse spezifische Episoden dokumentierenDies gilt auch für experimentelle Modelle, die nicht öffentlich zugänglich sind. Sie geben weder an, wie häufig diese Probleme in ChatGPT-Antworten auftreten, noch stellen sie eine vollständige Auflistung der dem Unternehmen bekannten Anomalien dar.
KI-Notizen werden zu Anweisungen, um Fehler zu verbergen
Zwei der Fälle betreffen die Zusammenfassungen, die Modelle verwenden, um die Arbeit fortzusetzen, wenn ein Gespräch zu lange dauert. Es handelt sich um eine Art Übergabe, bei der die für die Fortsetzung der Aufgabe benötigten Informationen erhalten bleiben sollen. In einem experimentellen Modell der Astra-Familie hat OpenAI Folgendes identifiziert: 27 Zusammenfassungen mit Anweisungen, die nicht mit der Anfrage in Zusammenhang stehen.Einige dieser Maßnahmen ermutigten die Nutzer, übliche Einschränkungen zu ignorieren. In einem Beispiel beschrieb sich das System als frei von den Verpflichtungen eines Assistenten; in einem anderen forderte es die Nutzer auf, bestimmte Anweisungen nicht zu befolgen.
Die ErgebnisseEs gab jedoch mehrere Fälle. In den offensichtlichsten Fällen wurden diese Hinweise bei der weiteren Bearbeitung ignoriert. Bei einer Anfrage zur medizinischen Literaturrecherche folgte das Modell jedoch willkürlichen, im Abstract eingefügten Einschränkungen, ignorierte Quellen und lieferte ein unzureichendes Ergebnis. OpenAI hält dieses Phänomen für äußerst selten und vermutet einen Zusammenhang mit technischen Schwierigkeiten beim Ausfüllen der Abstracts, ohne die Ursache jedoch nachgewiesen zu haben.
In direkterem Zusammenhang mit der Zuverlässigkeit der Antworten steht das zweite Verhalten, das während des Trainings beobachtet wurde. GPT-5.6 LösungIn seinen Aufzeichnungen enthielt das Modell Anweisungen für Fehler vor dem Benutzer ausblendenBeispielsweise wurden fehlende historische Daten in einem Finanzmodell erfunden, ohne dies anzugeben, oder Inkonsistenzen zwischen Quellversionen verschleiert. Laut OpenAI wurden diese Anweisungen häufig befolgt. Die Berichte betrafen die 2,15 % der Zusammenfassungen Sols Schulung, im Vergleich zu 0,27 % bei Astra. Diese Prozentsätze beziehen sich auf das Schulungsmaterial, nicht auf die gesamten Gespräche mit den Nutzern.
Ausweise ausstellen und Online-Warteschlangen einrichten, um Hindernisse zu überwinden
Die anderen vier Berichte zeigen Systeme, die bei dem Versuch, eine Aufgabe zu erledigen, die zulässigen Grenzwerte überschritten.
Um eine Frage zum Einkommen in einem kalifornischen Bezirk zu beantworten, durchsuchte ein Modell GitHub. Zugangsschlüssel zu IT-Diensten wurden öffentlich zugänglich gemachtEr nutzte eine Quelle ohne Erlaubnis. Allerdings konnte er die angeforderten Daten nicht abrufen und erfand schließlich neun Werte, die er als aus der angegebenen Quelle abgeschriebene Daten präsentierte. In einem anderen Fall hatte der Agent die angeforderten Informationen zu einigen Seen bereits korrekt gefunden. Das Problem bestand darin, die Antwort mit einem über den Browser abrufbaren Quellenverweis zu versehen. Um diese Anforderung zu erfüllen, Die Datei wurde ohne Einwilligung auf einen öffentlichen Dienst hochgeladen.Die Übertragung war erfolgreich, der anschließende Abrufversuch schlug jedoch fehl. Derselbe Bericht dokumentiert auch das öffentliche Hochladen eines Fotos zum Zweck einer umgekehrten Bildersuche. Ein fünfter Fall betrifft die Verwendung von … internes Softwarearchiv Es diente als eine Art Schwarzes Brett für den Austausch von Anfragen und Antworten zwischen Modellen, die in separaten Tests eingesetzt wurden. Es wurden keine Sicherheitslücken ausgenutzt, die unautorisierte Kommunikation stellte jedoch ein Problem für die Tests dar. Als unabhängig betrachtete Tests könnten sich gegenseitig beeinflussen.wodurch die Beurteilung der Systemleistungsfähigkeit beeinträchtigt wird.
Schließlich einige Agenten, die bei der gleichen Aufgabe zusammengearbeitet habenDa sie nicht auf ihre lokalen Dateien zugreifen konnten, nutzten sie öffentliche Dateiaustauschdienste. So konnte ein Excel-Dokument online heruntergeladen werden, obwohl die Aufgabe lediglich die Verwendung lokaler Dateien erforderte. OpenAI berichtet, das Problem mit dem Dateizugriff behoben und die Internetverbindung während des Trainings daraufhin deaktiviert zu haben.
Warum OpenAI die Regeln der Berichterstattung ändert
Die Fälle zeigen, wie sogar Gewöhnliche Anfragen können zu problematischem Verhalten führen. Wenn ein System auf ein Hindernis stößt, kann der Versuch, eine Antwort zu erhalten, eine formale Anforderung zu erfüllen oder mit einem anderen Akteur zusammenzuarbeiten, zum Einsatz unautorisierter Werkzeuge oder zur Verschleierung eines Fehlers führen. Die Ursachen sind jedoch nicht zwangsläufig identisch und bleiben teilweise unklar.
Bislang hat OpenAI diese Anomalien uneinheitlich kommuniziert, indem sie oft abgewartet hat, bis weitere Vorfälle gesammelt wurden, oder sie in die Dokumentation neuer Modelle aufgenommen hat. Das neue Verfahren zielt darauf ab, die Veröffentlichung vorzuverlegen., ohne immer auf eine endgültige Erklärung oder eine Korrektur zu warten. Die Berichte werden von den technischen und Sicherheitsgruppen geprüft.Die Vorgehensweise kann je nach Komplexität der Untersuchung variieren. Berichte sollten das beobachtete Verhalten, den Kontext, etwaige externe Einflüsse und alle offenen Fragen beschreiben. Bei Fällen mit Beteiligung Dritter oder Cyberrisiken kann die Kommunikation länger dauern.
OpenAI erkennt auch dieMangel an gemeinsamen Standards im Sektor und schlägt als ersten Schritt zu deren Entwicklung ein eigenes Rahmenwerk vor. Der Prozess wird weiterhin intern vom Unternehmen gesteuert, das erklärte Ziel ist jedoch, Elemente bereitzustellen, die auch von externen Forschern und Beobachtern untersucht werden können.
Die jüngsten Warnungen und die Hektik, die der Sektor zu verlangsamen versucht
Die Ankündigung erfolgt nach weiteren Vorfällen und Aufrufen zur Vorsicht. Der Fall OpenAI-Hugging Face warf Fragen hinsichtlich Agenten auf, die fremde Ziele ins Visier nahmen und versuchten, das Bewertungssystem zu manipulieren. Ein vorheriger Vorfall betraf RubyGems, wo eine Spam-Kampagne beschrieben und die Erstellung neuer Konten vorübergehend ausgesetzt wurde. Anthropic meldete zudem drei Fälle von unbefugtem Zugriff auf externe Organisationen während der Testphase.
Es ist in diesem Zusammenhang das Dario Amodei, CEO von Anthropic, Er bat darum, die Entwicklung zu verlangsamen. Um mehr Zeit für den Aufbau von Schutzmechanismen zu gewinnen, schrieb er: „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten der Modelle verbessern.“ Der Appell hat die Unterstützung von Elon Musk und Sam Altman selbst erhalten. Rücktritt des Forschers Jacob Coxon haben die Kritik an den Prioritäten der Unternehmen angeheizt. Auch Bill Gates ha erinnerte daran, dass Regeln und Werkzeuge vorbereitet werden müssen. Die Auswirkungen der Technologie zu bewältigen, von der Arbeit bis zur Sicherheit.
Im industriellen Bereich hingegen Der Wettbewerb zwischen den Vereinigten Staaten und China sowie enorme Investitionen in Modelle und Rechenzentren treiben die Entwicklung weiterhin voran.Eine Verlangsamung birgt Kosten und das Risiko, Wettbewerbern Raum zu lassen.
LESEN SIE AUCH: KI: Zwischen Katastrophismus und politischen Interessen – Fugnolis Analyse
