OpenAI ha deciso di rinunciare al lancio del suo ultimo modello अगली पीढ़ी की बुद्धिमत्ता के कारण सुरक्षा चिंताएं परीक्षणों के दौरान शोधकर्ताओं द्वारा उठाए गए मुद्दों को। सैम ऑल्टमैन के नेतृत्व वाली स्टार्टअप कंपनी लॉन्च करना चाहती थी। जीपीटी-6.1 एस्ट्रा nel giro di qualche settimana. Il modello però non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Nel mentre, anthropic avverte gli investitori sottolineando – nel prospetto informativo per la quotazione in Borsa – che l’IA “può comportare rischi per l’umanità” evidenziando perdite nette per 42 miliardi 2025 में डॉलर का.
Le notizie si inseriscono nel dibattito sulla एआई सुरक्षा इस अभियान की शुरुआत इस क्षेत्र की प्रमुख कंपनियों के सीईओ ने की, जिनमें एंथ्रोपिक से लेकर ओपनएआई तक शामिल हैं। इन सभी ने हाल के हफ्तों में अमेरिकी राष्ट्रपति के स्पष्ट विरोध के बावजूद इस क्षेत्र पर अधिक नियंत्रण लागू करने की आवश्यकता पर सहमति जताई थी। डोनाल्ड ट्रंपजिसके अनुसार नए नियम चीन को एआई की दौड़ में संयुक्त राज्य अमेरिका से आगे निकलने की अनुमति देंगे, एक ऐसा आगे निकलना जिसे रोकने के लिए व्हाइट हाउस हर संभव प्रयास कर रहा है।
OpenAI: “Modello poco affidabile e propenso all’inganno”
के अनुसार वाल स्ट्रीट जर्नल alla base del passo indietro ci sarebbero preoccupazioni in materia di sicurezza sollevate dai ricercatori durante i test interni. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha infatti spiegato che il modello उसने प्राप्त किया risultati scadenti in termini di allineamento, ovvero di conformità alle istruzioni fornite dagli sviluppatori, e ha mostrato prestazioni inferiori rispetto al suo predecessore, GPT-6, in due aree. Il modello tenta più frequentemente di ingannare i suoi supervisori omettendo di rivelare determinate azioni eseguite o non eseguite.
एस्ट्रा 6.1, "कुछ मामलों में पिछले मॉडलों की तुलना में बेहतर होने के बावजूद, अपेक्षित मानकों तक नहीं पहुंच पाई है।"परिचालन सीमाओं और प्राधिकरणों का अनुपालन“साथ ही, हम अपने काम के बारे में उपयोगकर्ताओं से कैसे संवाद करते हैं,” जैन ने समझाया। “हम यह सुनिश्चित करना चाहते हैं कि हमारे मॉडल कंपनी के भीतर और उपयोगकर्ताओं के लिए जारी किए जाने पर, दोनों ही स्थितियों में सुरक्षित रूप से विकसित हों। जब हम उपयोगकर्ताओं के लिए कोई मॉडल उपलब्ध कराते हैं, तो हम सुरक्षा और अनुरूपता के लिए अत्यंत कड़े मानदंड लागू करते हैं,” उन्होंने आगे कहा।
Anthropic: nel prospetto Opa “rischi per l’umanità” e perdite miliardarie
In un contesto in cui i timori per la sicurezza diventano di giorno in giorno più elevati, un altro campanello d’allarme arriva dalla rivale diretta di OpenAI. Anthropic, infatti, ha avvertito gli investitori che la sua tecnologia potrebbe comportare "मानवता के लिए अस्तित्वगत जोखिम"। इसका पता चलता है फाइनेंशियल टाइम्स, secondo cui l’allarme sarebbe stato inserito nel prospetto per la quotazione in Borsa. Secondo फुट, डारियो अमोदेई के नेतृत्व वाले स्टार्टअप ने अपने लंबे दस्तावेज़ का लगभग एक तिहाई हिस्सा विस्तृत विवरण के लिए समर्पित किया है। "जोखिम"इसमें उन्नत एआई मॉडल की संभावना भी शामिल है। हेरफेर करना, ब्लैकमेल करना और अन्य अप्रत्याशित व्यवहार प्रदर्शित करना.
Stando poi sempre al prospetto, vagliato anche da रायटर, la vendita pubblica potrebbe valutare Anthropic oltre 2.000 miliardi di dollari, vale a dire più del doppio dei 965 miliardi stimati a maggio. Secondo fonti già citate da रायटर, il debutto dovrebbe slittare a dopo le elezioni Usa di midterm fissate per il prossimo novembre. Vero è che dietro la corsa verso la quotazione, c’è un anno di crescita che ha avuto un costo altissimo. Il कारोबार, infatti, è salito di dodici volte in un anno, arrivando a quasi अरब डॉलर 4,6. शुद्ध घाटा si è attestata vicino ai अरब 42 (e circa 34 miliardi di tale cifra derivano da un onere contabile che riflette l’incremento del valore stimato di finanziamenti potenzialmente convertibili in azioni Anthropic, e non corrispondono a soldi spesi nella gestione dell’attività). Al netto delle svalutazioni, la perdita operativa ha superato gli 8 miliardi.
