OpenAI erschüttert die Weltkünstliche Intelligenz. Die Firma von Sam Altman hat beschlossen, sein engagiertes Team aufzulösen Risikominderung Langfristige KI, bekannt als „Superalignment-Team„. Die im Juli 2023 gegründete Gruppe wurde gegründet, um die Sicherheit und Ethik des Einsatzes fortschrittlicher KI zu bewerten. Seit einigen Wochen beginnt OpenAi jedoch damit, Teammitglieder wieder in andere Projekte und Forschung zu integrieren. Die Auflösung des KI-Sicherheitsteams erfolgte im Anschluss daran Rücktritt von Mitbegründer Ilya Sutskever und der Co-Leiter des Teams Jan Leike im Streit mit der Unternehmensspitze.
Leike: „Ich dachte, OpenAI sei der beste Ort der Welt“
Leike hat brachte seinen Widerspruch öffentlich zum Ausdruck Zu den Prioritäten des Unternehmens sagte er, dass die KI-Sicherheit bei der Produktion fortschrittlicherer Modelle in den Hintergrund gerückt sei. In einem Beitrag auf X teilte er seine Bedenken und seine Enttäuschung darüber mit, dass die Sicherheitskultur außer Acht gelassen wird. Er betonte die dringende Notwendigkeit, zu verstehen, wie KI-Systeme gesteuert und gesteuert werden können, die intelligenter als Menschen sind.
„Ich bin OpenAI beigetreten, weil ich dachte, es sei der beste Ort der Welt, um meine Forschung durchzuführen. Allerdings war ich schon lange mit der Führung des Unternehmens uneinig darüber, welche Prioritäten sie setzen sollte, und nun sind wir am Wendepunkt angelangt. In den letzten Monaten sind mein Team und ich in unserem eigenen Unternehmen gegen den Strom gefahren. In den letzten Jahren hat sich die Kultur von Sicherheit und ethische Prozesse waren von neuen Produkten überschattet".
„OpenAI muss ein Unternehmen werden, bei dem die Sicherheit an erster Stelle steht“, schrieb Leike anschließend in einem Beitrag auf X und forderte alle OpenAI-Mitarbeiter auf, „mit der Verantwortung zu handeln“, die für das, was sie aufbauen, erforderlich ist.
OpenAI hört nicht auf, beginnen Sie mit dem neuen ChatGPT und vereinbaren Sie mit Reddit eine Schulung
In einem Interview mit Bloomberg hat OpenAI Auflösung des Teams bestätigt KI-Sicherheitsstrategie „Superalignment“. Die Gruppe wurde aufgelöst, da die Kontrolle durch die Aufsichtsbehörden zunahm. In der Zwischenzeit hört Altmans Unternehmen jedoch nicht auf und hat kürzlich eine weiterentwickelte Version des Chatbots auf den Markt gebracht, die multimodale Modi umfasst und nicht nur Text, sondern auch Sprache und Video verwendet. Sam Altman verglich diese Innovation mit der in Filmen vorhandenen künstlichen Intelligenz und zitierte Scarlett Johanssons Figur in „Her“.
Ferner OpenAI ist eine Partnerschaft mit Reddit eingegangen, der Social-News- und Forum-Plattform, um die Inhalte der Plattform zu nutzenTraining von Modellen der künstlichen Intelligenz wie ChatGPT. Ähnlich wie bei einem früheren Deal zwischen Reddit und Google ermöglicht diese Partnerschaft Reddit, Benutzern und Moderatoren KI-gestützte Tools anzubieten, während OpenAI auch Werbepartner der Plattform wird.
OpenAI verwendet große Textmengen, um seine KI-Systeme zu trainieren, und greift dabei häufig auf Online-Daten, einschließlich Zeitungsarchiven, zurück. Das Unternehmen hat unterzeichnete Verträge mit verschiedenen Zeitungen, wie die Financial Times und die Associated Press, Zugang zu ihren Inhalten zu erhalten, aber es gab auch solche rechtliche Probleme: Die New York Times und Autoren wie George RR Martin und John Grisham verklagen OpenAI (und Microsoft) wegen Urheberrechtsverletzung durch die unbefugte Nutzung ihrer Materialien.
Altman: Zumindest vorerst kein OpenAI-Browser
Sam Altman Er dementierte auch die Ankündigung von Reuters vor einigen Tagen bevorstehende Einführung eines ChatGPT-basierten Browsers von OpenAI. Er klärte die Situation in einem Social-Media-Beitrag auf und bestätigte, dass es derzeit weder GPT-5 noch einen ChatGPT-basierten Browser geben wird. Zumindest für jetzt. Tatsächlich seines Aussagen widersprechen nicht völlig der Idee eines OpenAI-Browsers mit integriertem ChatGPT, auch wenn das Projekt vielleicht nur auf einen späteren Zeitpunkt verschoben wird.
