OpenAI ha deciso di rinunciare al lancio del suo ultimo modello da inteligência de próxima geração devido ao preocupações com a segurança levantada por pesquisadores durante testes. A startup liderada por Sam Altman queria lançar Gpt-6.1 Astra nel giro di qualche settimana. Il modello però non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Nel mentre, Antrópico avverte gli investitori sottolineando – nel prospetto informativo per la quotazione in Borsa – che l’IA “può comportare rischi per l’umanità” evidenziando perdite nette per 42 miliardi de dólares em 2025.
Le notizie si inseriscono nel dibattito sulla Segurança da IA Lançada pelos CEOs das principais empresas do setor, da Anthropic à OpenAi, que nas últimas semanas afirmaram concordar com a necessidade de impor maiores controles ao setor, apesar da clara oposição do presidente dos EUA. Donald TrumpSegundo essas novas regulamentações, a China poderia ultrapassar os Estados Unidos na corrida da IA, uma ultrapassagem que a Casa Branca tem toda a intenção de impedir.
OpenAI: “Modello poco affidabile e propenso all’inganno”
De acordo com o Wall Street Journal alla base del passo indietro ci sarebbero preoccupazioni in materia di sicurezza sollevate dai ricercatori durante i test interni. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha infatti spiegato che il modello obtido risultati scadenti in termini di allineamento, ovvero di conformità alle istruzioni fornite dagli sviluppatori, e ha mostrato prestazioni inferiori rispetto al suo predecessore, GPT-6, in due aree. Il modello tenta più frequentemente di ingannare i suoi supervisori omettendo di rivelare determinate azioni eseguite o non eseguite.
O Astra 6.1, “embora represente uma melhoria em relação aos modelos anteriores em alguns aspectos, não atingiu os padrões exigidos em termos de rconformidade com os limites operacionais e autorizações“Assim como a forma como nos comunicamos com os usuários sobre o nosso trabalho”, explicou Jain. “Queremos garantir que nossos modelos sejam desenvolvidos com segurança, tanto dentro da empresa quanto quando são disponibilizados aos usuários. Quando disponibilizamos um modelo aos usuários, aplicamos critérios extremamente rigorosos de segurança e conformidade”, acrescentou.
Anthropic: nel prospetto Opa “rischi per l’umanità” e perdite miliardarie
In un contesto in cui i timori per la sicurezza diventano di giorno in giorno più elevati, un altro campanello d’allarme arriva dalla rivale diretta di OpenAI. Anthropic, infatti, ha avvertito gli investitori che la sua tecnologia potrebbe comportare “Riscos existenciais para a humanidade”. O Financial Times, secondo cui l’allarme sarebbe stato inserito nel prospetto per la quotazione in Borsa. Secondo Pé, A startup liderada por Dario Amodei dedicou quase um terço de sua extensa documentação à descrição detalhada do “fatores de risco”, incluindo a possibilidade de modelos de IA cada vez mais avançados manipular, chantagear e exibir outros comportamentos imprevisíveis.
Stando poi sempre al prospetto, vagliato anche da Reuters, la vendita pubblica potrebbe valutare Anthropic oltre 2.000 miliardi di dollari, vale a dire più del doppio dei 965 miliardi stimati a maggio. Secondo fonti già citate da Reuters, il debutto dovrebbe slittare a dopo le elezioni Usa di midterm fissate per il prossimo novembre. Vero è che dietro la corsa verso la quotazione, c’è un anno di crescita che ha avuto un costo altissimo. Il volume de negócios, infatti, è salito di dodici volte in un anno, arrivando a quasi 4,6 mil milhões de dólares. A perda líquida si è attestata vicino ai 42 bilhões (e circa 34 miliardi di tale cifra derivano da un onere contabile che riflette l’incremento del valore stimato di finanziamenti potenzialmente convertibili in azioni Anthropic, e non corrispondono a soldi spesi nella gestione dell’attività). Al netto delle svalutazioni, la perdita operativa ha superato gli 8 miliardi.
