L '人工知能 開発は急速に進んでいる。おそらく速すぎるほどだ。ここ数週間、批判的な人々だけでなく、最先端モデルを開発している人々の中にもそう言っている人がいる。 ダリオ・アモデイ、最高経営責任者（CEO） 人間原理大手テクノロジー企業に対し、最先端モデルの開発ペースを落とすよう要請した。 驚くべきことに、より慎重さを増す必要性さえも一致している。 Sam AltmanOpenAIのCEO、そして イーロン·マスク.
しかし、ペースを落とすのは簡単ではない。背景には 米国と中国の競争NvidiaのCEOであるジェンセン・フアンとの電話で、 ドナルド·トランプ 彼はAIに対する懸念を「でっち上げ」と呼び、アモデイの要求を批判した。彼の立場は明確だ。人工知能の競争に勝った者が「すべてを手に入れる」というものだ。 国連ルールと国際的な協調を求めるもの。また 北京 AIを安全保障上のリスクと捉える一方で、同時に世界的な技術競争における決定的な分野とも考えている。
読んだりする OpenAIがIPOを延期：アルトマン氏は2026年のIPOを否定
AIは稼働しているが、同時に警告も増えている。その理由とは？
なぜそんなに心配するのか？システムがより強力になっているだけでなく、 より自律的その展望は、AIがますます高度なバージョンの開発に貢献できるというものであり、いわゆる 再帰的な自己改善人間の能力を超えて進歩を加速させ、制御不能に陥る危険性がある。ずれ「システムは目標を効果的に追求するかもしれないが、その戦略は開発者が予期していなかったり、人間の利益と相容れないものだったりする可能性がある。すでにいくつかの実験では、指示や制約を回避しようとするモデルが実証されている。」
これが理由でもあります 警鐘はますます大きくなっている。 研究者の間で。 ジェイコブ・コクソンAnthropicのCEOは、AIが10年以内に存亡の危機となる可能性があると警告して会社を去った。彼より前の2024年には、 ヤン・ライケ OpenAIを去ったのは、セキュリティよりも製品が優先される傾向が強まっていることを非難したためだった。 イリヤ・サツケバー 彼は、アライメントと超知能に関連する問題に取り組んだ後、その会社を退職した。
問題は、AI 競争は安全性だけの問題ではなく、 技術的および経済的な優位性米国は中国に後れを取ることを恐れており、米国の議論で引用されたNSA、CISA、FBIの報告書によると、中国の研究所は「蒸留」を大規模に利用し、西側のモデルを何百万回も照会してその応答を自国のシステムの訓練に利用することで、開発コストを削減しているという。
アクセルを踏んでいるのは 巨額の投資が必要 モデル開発やデータセンター開発に関しては、停止は企業にとってコストがかさむだけでなく、競合他社に参入の余地を与える可能性もある。また、一時停止措置は相反する効果をもたらすだろう。セキュリティは向上するかもしれないが、スタートアップ企業やオープンソースプロジェクトの参入を困難にし、既に支配的な地位にある大企業をさらに強化することになるだろう。
ビル・ゲイツ：「今回の変革はこれまでとは違う」
このような状況において、という言葉は特別な重みを持つようになる。 ビル・ゲイツ。 最新のスピーチで ゲイツノートマイクロソフトの創設者は、我々はこれまでとは異なる段階に入ったと主張している。 技術革新AIは急速に普及しており、非常に多くの活動や職業に介入する可能性がある。
彼の立場はイノベーションを止めることではなく、 準備中 そして、その影響についても。「AIは、これまで発明された中で最も偉大な平等実現のためのツールにもなり得るし、最悪の不正義の源にもなり得る」とゲイツは書いている。テクノロジーは莫大な恩恵をもたらす可能性があるが、適切なルールとツールがなければ、不平等を拡大させるリスクも伴う。
比較の最初の基準は 仕事AIの影響を受けるのは反復作業だけではありません。特にエントリーレベルやミドルレベルの職種など、熟練した職業にも影響を及ぼし、若者が市場に参入して経験を積むことを難しくする可能性があります。問題は経済的なものだけではありません。仕事は収入をもたらすだけでなく、アイデンティティ、人間関係、社会への参加意識も与えてくれます。だからこそゲイツ氏は、 変革が完了する前に介入する必要がある「我々にはゆっくり進む余裕はない。」
ディープフェイクからヘルスケアまで：AIの二面性
ゲイツ氏にとって、人工知能をリスクの観点からのみ見るのは間違いだろう。何百万もの雇用を脅かす可能性のある同じテクノロジーは、 科学研究を加速させる開発に貢献する 麻薬 e ワクチン、改善する 健康 より効率的に 農業 e 公共サービス 低所得国において。
AI はサポートすることもできます 教育, メンタルヘルス, 中小企業 e 障害を持つ人々また、反復作業から時間を解放することにもつながります。しかし、これらのメリットは自動的に得られるものではなく、必要となるでしょう。 投資, 公共政策 そして、それらが少数の人々の手に集中し続けることを防ぐための慈善的な介入。
これは、最貧国にAIを導入するために2年間で10億ドルを投資すると発表したゲイツ財団の方向性です。資金の40%は医療、40%は教育、10%は農業、残りの10%は現地のデータインフラ整備に充てられます。また、アフリカやアジアの少数言語圏でAIモデルの有効性を高め、診断ツール、医薬品・ワクチン研究、農業分野への応用を支援することも目標としています。
つまり、重要なのは、モデルがどれだけ早く強力になるかということだけでなく、社会がどれだけ早く それらを統治するためのツールを開発する そして結果を確認してください。
真の課題は、人工知能の競争をいかに統制するかである。
ゲイツにとって、その答えは セキュリティー, 保護 社会的な e ルールしたがって、機械がそれを実行できるようになったとしても、人間に任せるべきことを決定し始めるという提案がなされている。これはゲイツが「人間が予約済みこの構想には、税制の見直しが必要となることも伴う。ロボットへの課税やAIの活用による労働者の再訓練資金の確保、そして変革の影響を最も受けやすい地域社会への支援などが考えられる。
国際レベルでは、ゲイツは次のような形態を想像している。 協力 政府と機関の間で、どの国も単独では対処できないリスクに対処する必要がある。モデルのセキュリティからデータセンターのエネルギーへの影響、サイバー攻撃、監視、偽情報、軍事用途へのAIの使用まで。ゲイツ氏は、 現在、十分な準備ができている政府は存在しない。 これほどの規模の変革を管理すること。
矛盾は依然として存在する。誰もがAIを統制する必要性を認識しているが、他国が競争を続ける中で、自ら最初にペースを落としたいとは誰も思わない。これがゲイツ氏の警告の理由である。 それは、控えるようにというよりは、準備をするようにという呼びかけだ。 今問われているのは、AIが世界を変えるかどうかではなく、組織、企業、社会が、必要なルールを迅速に策定できるかどうかだ。「今こそ行動を起こすチャンスだ」とゲイツは書いている。技術の進歩を遅らせることが解決策ではないかもしれないが、技術の習得が遅れることは間違いなく間違いだろう。
