OpenAI ha deciso di rinunciare al lancio del suo ultimo modello 次世代インテリジェンスによる セキュリティ上の懸念 研究者たちがテスト中に提起した。サム・アルトマンが率いるスタートアップは立ち上げたいと考えていた。 GPT-6.1 アストラ nel giro di qualche settimana. Il modello però non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Nel mentre, 人間原理 avverte gli investitori sottolineando – nel prospetto informativo per la quotazione in Borsa – che l’IA “può comportare rischi per l’umanità” evidenziando perdite nette per 42 miliardi 2025 年のドル数。
Le notizie si inseriscono nel dibattito sulla AIの安全性 この動きは、アントロピックからオープンAIまで、この分野の主要企業のCEOらが立ち上げたもので、彼らはここ数週間、米国大統領の明確な反対にもかかわらず、この分野への規制強化の必要性について合意したと述べていた。 ドナルド·トランプそれによると、新たな規制によって中国がAI開発競争で米国を追い抜くことが可能になり、ホワイトハウスはそれを阻止する意向を強く持っている。
OpenAI: “Modello poco affidabile e propenso all’inganno”
による ウォールストリートジャーナル alla base del passo indietro ci sarebbero preoccupazioni in materia di sicurezza sollevate dai ricercatori durante i test interni. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha infatti spiegato che il modello 得 risultati scadenti in termini di allineamento, ovvero di conformità alle istruzioni fornite dagli sviluppatori, e ha mostrato prestazioni inferiori rispetto al suo predecessore, GPT-6, in due aree. Il modello tenta più frequentemente di ingannare i suoi supervisori omettendo di rivelare determinate azioni eseguite o non eseguite.
Astra 6.1は、いくつかの点で以前のモデルよりも改善されているものの、r の面で必要な基準を満たしていません。運用制限および認可の遵守「ユーザーとどのようにコミュニケーションを取り、私たちの取り組みについて伝えるか、ということも重要です」とジェイン氏は説明した。「私たちは、社内での開発時も、ユーザーに公開する際も、モデルが安全に開発されることを保証したいと考えています。ユーザーにモデルを提供する際には、セキュリティと整合性に関して非常に厳格な基準を適用しています」と付け加えた。
Anthropic: nel prospetto Opa “rischi per l’umanità” e perdite miliardarie
In un contesto in cui i timori per la sicurezza diventano di giorno in giorno più elevati, un altro campanello d’allarme arriva dalla rivale diretta di OpenAI. Anthropic, infatti, ha avvertito gli investitori che la sua tecnologia potrebbe comportare 「人類にとっての存亡の危機」。 ザ・ フィナンシャル·タイムズ, secondo cui l’allarme sarebbe stato inserito nel prospetto per la quotazione in Borsa. Secondo フィート、 ダリオ・アモデイが率いるスタートアップは、その長いドキュメントのほぼ3分の1を、 「危険因子」これには、ますます高度化するAIモデルの可能性も含まれる。 操作、脅迫、その他予測不可能な行動を示す.
Stando poi sempre al prospetto, vagliato anche da ロイター通信社, la vendita pubblica potrebbe valutare Anthropic oltre 2.000 miliardi di dollari, vale a dire più del doppio dei 965 miliardi stimati a maggio. Secondo fonti già citate da ロイター通信社, il debutto dovrebbe slittare a dopo le elezioni Usa di midterm fissate per il prossimo novembre. Vero è che dietro la corsa verso la quotazione, c’è un anno di crescita che ha avuto un costo altissimo. Il 売上高, infatti, è salito di dodici volte in un anno, arrivando a quasi 4,6億ドル。 ザ 純損失 si è attestata vicino ai 42億 (e circa 34 miliardi di tale cifra derivano da un onere contabile che riflette l’incremento del valore stimato di finanziamenti potenzialmente convertibili in azioni Anthropic, e non corrispondono a soldi spesi nella gestione dell’attività). Al netto delle svalutazioni, la perdita operativa ha superato gli 8 miliardi.
