OpenAI ha deciso di rinunciare al lancio del suo ultimo modello интеллекта следующего поколения благодаря проблемы безопасности Выявлено исследователями в ходе испытаний. Стартап, возглавляемый Сэмом Альтманом, хотел запустить... Gpt-6.1 Астра nel giro di qualche settimana. Il modello però non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Nel mentre, Антропный avverte gli investitori sottolineando – nel prospetto informativo per la quotazione in Borsa – che l’IA “può comportare rischi per l’umanità” evidenziando perdite nette per 42 miliardi долларов в 2025 году.
Le notizie si inseriscono nel dibattito sulla безопасность ИИ Инициатива была выдвинута генеральными директорами ведущих компаний сектора, от Anthropic до OpenAi, которые в последние недели заявляли о своем согласии с необходимостью усиления контроля над сектором, несмотря на явное противодействие президента США. Дональд ТрампСогласно этим новым правилам, Китай сможет обогнать Соединенные Штаты в гонке искусственного интеллекта, и Белый дом намерен всячески этому препятствовать.
OpenAI: “Modello poco affidabile e propenso all’inganno”
в соответствии с Wall Street Journal alla base del passo indietro ci sarebbero preoccupazioni in materia di sicurezza sollevate dai ricercatori durante i test interni. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha infatti spiegato che il modello полученный risultati scadenti in termini di allineamento, ovvero di conformità alle istruzioni fornite dagli sviluppatori, e ha mostrato prestazioni inferiori rispetto al suo predecessore, GPT-6, in due aree. Il modello tenta più frequentemente di ingannare i suoi supervisori omettendo di rivelare determinate azioni eseguite o non eseguite.
Astra 6.1, «хотя и представляет собой улучшение по сравнению с предыдущими моделями в некоторых аспектах, не соответствует требуемым стандартам с точки зрения качества».соблюдение эксплуатационных ограничений и разрешений«А также то, как мы общаемся с пользователями о нашей работе», — пояснил Джайн. «Мы хотим гарантировать, что наши модели разрабатываются безопасно как внутри компании, так и при их предоставлении пользователям. Когда мы предоставляем модель пользователям, мы применяем чрезвычайно строгие критерии безопасности и соответствия», — добавил он.
Anthropic: nel prospetto Opa “rischi per l’umanità” e perdite miliardarie
In un contesto in cui i timori per la sicurezza diventano di giorno in giorno più elevati, un altro campanello d’allarme arriva dalla rivale diretta di OpenAI. Anthropic, infatti, ha avvertito gli investitori che la sua tecnologia potrebbe comportare «экзистенциальные риски для человечества». В Financial Times, secondo cui l’allarme sarebbe stato inserito nel prospetto per la quotazione in Borsa. Secondo футов, Стартап, возглавляемый Дарио Амодеи, посвятил почти треть своей обширной документации подробному описанию... «факторы риска»включая возможность создания все более совершенных моделей искусственного интеллекта. манипулировать, шантажировать и демонстрировать другое непредсказуемое поведение..
Stando poi sempre al prospetto, vagliato anche da Reuters, la vendita pubblica potrebbe valutare Anthropic oltre 2.000 miliardi di dollari, vale a dire più del doppio dei 965 miliardi stimati a maggio. Secondo fonti già citate da Reuters, il debutto dovrebbe slittare a dopo le elezioni Usa di midterm fissate per il prossimo novembre. Vero è che dietro la corsa verso la quotazione, c’è un anno di crescita che ha avuto un costo altissimo. Il оборот, infatti, è salito di dodici volte in un anno, arrivando a quasi 4,6 миллиардов долларов. La чистый убыток si è attestata vicino ai 42 млрд. (e circa 34 miliardi di tale cifra derivano da un onere contabile che riflette l’incremento del valore stimato di finanziamenti potenzialmente convertibili in azioni Anthropic, e non corrispondono a soldi spesi nella gestione dell’attività). Al netto delle svalutazioni, la perdita operativa ha superato gli 8 miliardi.
