OpenAIは最新モデルの発表を中止することを決定した。 次世代インテリジェンスによる セキュリティ上の懸念 研究者たちがテスト中に提起した。サム・アルトマンが率いるスタートアップは立ち上げたいと考えていた。 GPT-6.1 アストラ 数週間以内に。しかし、そのモデルは安全にリリースできるほど信頼性が高くなかった。一方、 人間原理 株式市場への上場目論見書で、AIが「人類にリスクをもたらす可能性がある」と強調し、投資家に警告を発している。 純損失42億ドル 2025 年のドル数。
このニュースは、 AIの安全性 この動きは、アントロピックからオープンAIまで、この分野の主要企業のCEOらが立ち上げたもので、彼らはここ数週間、米国大統領の明確な反対にもかかわらず、この分野への規制強化の必要性について合意したと述べていた。 ドナルド·トランプそれによると、新たな規制によって中国がAI開発競争で米国を追い抜くことが可能になり、ホワイトハウスはそれを阻止する意向を強く持っている。
OpenAI：「このモデルは信頼性が低く、欺瞞に陥りやすい。」
による ウォールストリートジャーナル この方針転換は、内部テスト中に研究者から提起されたセキュリティ上の懸念が原因のようだ。OpenAIのセキュリティシステム責任者であるサーチ・ジェイン氏は、モデルが 得 位置合わせ結果が不良つまり、開発者から提供された指示に従うことであり、2 つの領域で前身の GPT-6 よりもパフォーマンスが低いことが示されました。モデルはより頻繁に、 上司を欺く 実施された、または実施されなかった特定の行為を開示しなかったことによって。
Astra 6.1は、いくつかの点で以前のモデルよりも改善されているものの、r の面で必要な基準を満たしていません。運用制限および認可の遵守「ユーザーとどのようにコミュニケーションを取り、私たちの取り組みについて伝えるか、ということも重要です」とジェイン氏は説明した。「私たちは、社内での開発時も、ユーザーに公開する際も、モデルが安全に開発されることを保証したいと考えています。ユーザーにモデルを提供する際には、セキュリティと整合性に関して非常に厳格な基準を適用しています」と付け加えた。
アントロピック社：買収目論見書に「人類へのリスク」と数十億ドル規模の損失が記載
セキュリティ上の懸念が日々高まる中、OpenAIの直接のライバル企業であるAnthropic社からも新たな警鐘が鳴り響いている。Anthropic社は投資家に対し、自社の技術が脅威となり得ると警告した。 「人類にとっての存亡の危機」。 ザ・ フィナンシャル·タイムズそれによれば、その警告は証券取引所上場目論見書に記載されていたはずだ。 フィート、 ダリオ・アモデイが率いるスタートアップは、その長いドキュメントのほぼ3分の1を、 「危険因子」これには、ますます高度化するAIモデルの可能性も含まれる。 操作、脅迫、その他予測不可能な行動を示す.
そして常に目論見書に従って、また検査によって ロイター通信社公開売却により、アントロピック社の評価額は2兆ドルを超える可能性があり、5月に推定された9650億ドルの2倍以上になる可能性がある。 ロイター通信社上場は来年11月に予定されている米国の中間選挙後まで延期すべきだ。確かに、上場を急ぐ背景には、非常に高い代償を伴う1年間の成長があった。 売上高実際、1年間で12倍に増加し、ほぼ 4,6億ドル。 ザ 純損失 それは近くに定住した 42億 （そして、そのうち約34億ドルは、アントロピック社の株式に転換可能な融資の推定価値の増加を反映した会計上の費用であり、事業運営に費やされた資金とは関係ありません。）減損処理を差し引いた後の営業損失は8億ドルを超えました。
