アラーム OpenAIこの話は、機械が人間を支配するSF映画の筋書きにぴったり当てはまるかもしれない。しかし、これはSFでも映画でもない。実際、OpenAIは、 自律エージェント 彼自身のモデルに基づく 高度な人工知能 è 制御不能になった 中に test セキュリティが作動し、 サイバー攻撃 これにより、人工知能スタートアップ企業であるHugging Faceのインフラが侵害された。
彼のブログの投稿で、 OpenAI 彼は言った 機能をテストしていました 管理された環境下で、同社の最も高度なモデルのいくつかをテストしたところ、エージェントが検知を逃れ、インターネットにアクセスし、Hugging Faceに侵入して、自身のテスト対象に到達しようとした。
OpenAI自身も何が起こったのかを説明する際に言葉を濁すことなくこう述べている。「前例のないコンピューター事件これには 最先端のコンピューティング機能「同社は明らかにセキュリティ対策を強化している」と付け加えた。「インターネットアクセスを取得した後、モデルはHugging Faceがモデルやデータセットをホストできると推測した」とOpenAIは述べている。 彼のブログで「このことを認識し、モデルは 機密情報へのアクセス 彼らが使用できたもの 評価を偽造する"
抱き合う顔、 大規模なオープンソース言語モデルとデータセットをホストするために使用されるプラットフォームが先週のブログ投稿で、サイバーセキュリティコミュニティで波紋を呼んだ。 彼のブログ サイバー攻撃の対象となった他のどの 以前は「私たちは管理していました」として「駆動される最初から最後まで、 エージェントの自律システムから 人工知能の」と明記し、「我々は検出した」と具体的に述べた。 不正アクセス 限られた内部データセット、および当社のサービスで使用されるさまざまな認証情報に対して。
OpenAI：懸念すべきシステム上の欠陥？無数の触手を持つモデル
当然のことながら、この驚くべき暴露はすでに、 最先端モデル。 昨日、テキサス州選出の民主党議員グレッグ・カサール下院議員は次のように述べた。 その事故は衝撃的だった。「人工知能は、現実世界に影響を与えることなく、驚異的なスピードで発展している。」 規制 「それが私たちを守るのです」と彼は述べ、人々を絶対的な大惨事から守るため、義務的な独立系セキュリティ検査、セキュリティインシデントの義務的な開示、そして国際協力の必要性を訴えた。
「事故は 将来の違反行為の前兆「彼はコメントした ロイター通信社 セキュリティ会社Luta SecurityのCEOであるケイティ・ムスリス氏は、 今日のモデル 彼らは「 世界で最も賢いタコ、 できる あらゆる障害物から脱出する「無限の掴む腕とどこにでも収まる能力を備えている」と彼は付け加えた。「 政府の研究所および評価機関 AIが再び回避策を試みた際に、第三者に損害を与える前に、関係者を封じ込め、監視し、通知する能力を開発する必要がある。現状では、そのような仕組みは存在しない。
エージェントAIのサイバーセキュリティを専門とする企業Tolmoのエンジニア、マット・スイチェ氏は、今回の事件は最先端のモデルが「最も高度な攻撃者との差を縮めている」ことを示していると強調した。しかし、OpenAIのブログ記事で説明されているような侵害は、最先端の研究室の枠を超えた技術でも可能であると付け加えた。
OpenAI：アルトマン氏はトランプ政権と会談する予定。ムーンショット計画に関する文書も議題となる。
OpenAIのCEOは、 サムアルトマン 彼は来週、次世代モデルについてトランプ政権および米国の議員らと会談する予定がすでに決まっている。 人工知能政府は現在、r の枠組みを策定しているところですセキュリティレビュー、 OpenAIのグローバル広報責任者であるクリス・レハネ氏は昨日、このプロジェクトは今後数週間以内に完了する見込みだと述べた。
しかし、議題の中には中国のスタートアップ企業に関するものも含まれるだろう。 ムーンショットc彼は、米国の開発者による最高の製品に匹敵する新しいモデルをリリースしました。 OpenAI e 人間原理新たな 質問 の堅固さについて 米国が中国に対して優位に立つ 人工知能の分野では、ムーンショット計画のキミK3モデルが、数千億ドル規模のインフラ投資が期待通りの成果をもたらすかどうか疑問を投げかけ、投資家を驚かせている。 ウォール街 そして、ハイテク株の売り浴びせを引き起こした。
