人類と人類の新たな衝突 e アメリカ合衆国政府スタートアップ企業は、 サスペンション 最も強力なモデルの世界 Fable 5とMythos 5連邦政府の指示を受けて 外国人による使用を禁止する米国内外を問わず。
機密技術の輸出管理に関するアメリカの規制に基づいて採択されたこの措置は、ワシントンによって次のような理由で正当化されている。セキュリティー 国民「その結果、両モデルの発売からわずか3日後に、生産は即座に全面的に停止された。」
人間原理 米国政府の規制を受けて新型モデルをブロック
同社によると、この指令は海外ユーザーだけでなく、所在地に関係なく、アントロピック社の外国人従業員を含む、米国市民以外のすべての人のアクセスを遮断するものだ。
事実上、選択的な制限を適用することが不可能な状況。そのため、同社はFable 5とMythos 5を全世界で完全に停止することを決定し、 クロードファミリーの他のモデルは関与していません そして、事業は継続される。この命令は金曜日の午後（イタリア時間午後23時頃）にワシントンに到着し、措置の即時実施が求められた。
Fable 5とMythos 5：Anthropicの「フロンティア」モデル
これら2つのシステムは、Anthropic社が開発した最新世代のモデルであり、 クロード・ミトス・プレビュー、 高度なサイバーセキュリティ研究のために設計された実験モデル。このシステムは、ソフトウェアコードとインフラストラクチャを分析して脆弱性、エラー、潜在的なセキュリティ上の欠陥を特定できるため、地政学的な観点から特に重要なツールとなる。
プレビュー版は当初、高度なAIセキュリティテストを目的としたプロジェクト「Project Glasswing」の一環として、一部の企業や研究機関のみが利用可能でした。初期段階で共有された結果によると、このモデルは実際のシステムにおける多数の重大な問題を特定し、修復および監査活動を加速させるのに役立ちました。
特にFable 5は、この新世代の最初のモデルとして作られました。 市販品として入手可能 大規模なシステムとして。アントロピック社は、高度な機能と新たな統合セキュリティ対策を備え、悪用リスクを低減するように設計されたシステムとして、このシステムを提示していた。
セキュリティ、制限、そして「脱獄」問題
Anthropicは設立以来、特に以下のような敏感な分野において、モデルの不適切な使用を制限するための保護強化システムに重点を置いてきました。 サイバーセキュリティー 攻撃的。しかし、これらの措置は、 重大な ユーザーによって、場合によっては過剰だと考える人もいる 制限的な e 罰する 正当な使用のため。
同社はまた、業界全体の構造的な限界も認識している。「人工知能モデルはどれも完全に無傷ではいられない」脱獄または、セキュリティ保護を回避しようとする試み。目標は、リスクを完全に排除することではなく、技術的な防御と継続的な監視および迅速な介入システムを組み合わせることにより、これらの攻撃を実行することを非常に困難にするか、または非常にコストがかかるようにすることです。
創業者兼リーダー ダリオ・アモデイ アントロピック社は米国政府の決定に異議を唱え、限定的な脆弱性の可能性が示唆されただけでモデルが市場から排除されるという考えには同意できないと述べた。「政府は安全でないシステムに介入できるべきだが、それは検証可能な技術データに基づいた透明性のある公正なプロセスを通じてのみであるべきだ」とアントロピック社は述べ、今回の決定はこれらの原則に違反していると付け加えた。
規制圧力とワシントンとの公然たる対立
今回の事件は、米国政府による人工知能分野への圧力が高まる中で発生した。人工知能分野は、国家安全保障と世界的な地政学的競争にとって戦略的に重要であるとますます認識されている。
Anthropicは最近、SECに目論見書を非公開で提出し、 ニューヨーク証券取引所への上場は、すでにアメリカ当局との緊張関係の中心にある。 五角形 確かに 会社を分類した 潜在的な サプライチェーンリスクこれは民間テクノロジー業界では珍しい指定であり、通常は国家安全保障上重要とみなされる組織にのみ与えられるものです。これらの措置に対応して、このスタートアップ企業はまた、 訴訟 アメリカ政権に対して、 現在進行中.
