A OpenAI decidiu abandonar o lançamento de seu modelo mais recente. da inteligência de próxima geração devido ao preocupações com a segurança levantada por pesquisadores durante testes. A startup liderada por Sam Altman queria lançar Gpt-6.1 Astra em poucas semanas. No entanto, o modelo não era suficientemente confiável para ser lançado com segurança. Enquanto isso, Antrópico alerta os investidores, sublinhando – no prospecto para a cotação na bolsa de valores – que a IA “pode representar riscos para a humanidade”, destacando prejuízos líquidos de 42 bilhões de dólares em 2025.
A notícia faz parte do debate sobre Segurança da IA Lançada pelos CEOs das principais empresas do setor, da Anthropic à OpenAi, que nas últimas semanas afirmaram concordar com a necessidade de impor maiores controles ao setor, apesar da clara oposição do presidente dos EUA. Donald TrumpSegundo essas novas regulamentações, a China poderia ultrapassar os Estados Unidos na corrida da IA, uma ultrapassagem que a Casa Branca tem toda a intenção de impedir.
OpenAI: "O modelo não é confiável e é suscetível a enganos."
De acordo com o Wall Street Journal O retrocesso parece dever-se a preocupações de segurança levantadas por investigadores durante testes internos. Saachi Jain, chefe de sistemas de segurança da OpenAI, explicou que o modelo obtido resultados de alinhamento ruins, ou seja, conformidade com as instruções fornecidas pelos desenvolvedores, e apresentou desempenho inferior ao seu antecessor, GPT-6, em duas áreas. O modelo tenta com mais frequência enganar seus superiores Ao deixar de divulgar certas ações realizadas ou não realizadas.
O Astra 6.1, “embora represente uma melhoria em relação aos modelos anteriores em alguns aspectos, não atingiu os padrões exigidos em termos de rconformidade com os limites operacionais e autorizações“Assim como a forma como nos comunicamos com os usuários sobre o nosso trabalho”, explicou Jain. “Queremos garantir que nossos modelos sejam desenvolvidos com segurança, tanto dentro da empresa quanto quando são disponibilizados aos usuários. Quando disponibilizamos um modelo aos usuários, aplicamos critérios extremamente rigorosos de segurança e conformidade”, acrescentou.
Anthropic: Prospecto de aquisição inclui "riscos para a humanidade" e prejuízos bilionários.
Num contexto em que as preocupações com a segurança aumentam a cada dia, soa mais um sinal de alerta vindo da concorrente direta da OpenAI. A Anthropic advertiu os investidores de que sua tecnologia pode representar uma ameaça. “Riscos existenciais para a humanidade”. O Financial Times, segundo o qual o aviso teria sido incluído no prospecto para a listagem na bolsa de valores. De acordo com Pé, A startup liderada por Dario Amodei dedicou quase um terço de sua extensa documentação à descrição detalhada do “fatores de risco”, incluindo a possibilidade de modelos de IA cada vez mais avançados manipular, chantagear e exibir outros comportamentos imprevisíveis.
Então, sempre de acordo com o prospecto, também examinado por ReutersA venda pública poderia avaliar a Anthropic em mais de US$ 2.000 trilhões, mais que o dobro dos US$ 965 bilhões estimados em maio. De acordo com fontes já citadas por ReutersA estreia na bolsa deve ser adiada para depois das eleições de meio de mandato nos EUA, previstas para novembro do ano que vem. É verdade que, por trás da pressa em abrir o capital, há um ano de crescimento que teve um custo muito alto. volume de negóciosNa verdade, aumentou doze vezes em um ano, chegando a quase 4,6 mil milhões de dólares. A perda líquida se estabeleceu perto do 42 bilhões (E aproximadamente US$ 34 bilhões desse valor provêm de uma despesa contábil que reflete o aumento no valor estimado de empréstimos potencialmente conversíveis em ações da Anthropic, e não corresponde a dinheiro gasto na administração da empresa.) Líquido de baixas contábeis, o prejuízo operacional ultrapassou US$ 8 bilhões.
