大手テクノロジー企業が、制御不能な開発について警鐘を鳴らす人工知能 ここ数日、この問題は様々な反応、立場、解釈、さらには政治的な反応を引き起こした。共通認識は「より慎重な対応が必要だ」というものだった。しかし、そこにドナルド・トランプ米大統領が強硬に介入し、米国が中国と繰り広げている駆け引きを、彼独自のやり方で説明しようと試みた。 主に そして、ひいては全世界にも影響を及ぼします。しかし、このテーマは、現象を理解する上でほとんど役に立たないどころか、むしろ落胆させるような発言の絡み合いとして現れ続けています。AIは本当に人類を脅かすことができるのでしょうか？そして、ワシントンと北京の強硬な二元論の中で、ヨーロッパはどのような道を歩むべきでしょうか？人工知能の開発を加速させるべきでしょうか、それとも減速させるべきでしょうか？しかし、本当の問題は別のところにあり、それは規制と呼ばれています。このインタビューでは、 FIRSTonlineの皆さん、どう思いますか？ マルコ・ベンティヴォーリ元Fim Cisl事務総長で、現在は教師兼上級顧問 ミラノ工科大学経営大学院仕事、イノベーション、AI、産業の専門家であるベンティヴォグリ氏は、 イタリアに拠点を置く そして、以下の活動を実施する。 AIが仕事に与える影響に関する研究 また、製造業における生産性向上と導入戦略についても言及している。「AIが間もなく制御不能になると言うのは、弱さの告白ではない。それは力の誇示だ」とベンティヴォグリ氏は言う。「自社製品が恐ろしいほど強力であり、競合他社に先んじて、手遅れになる前に今すぐ購入すべきだと市場に伝える最も効果的な方法なのだ。」
アモデイ、アルトマン、マスク：米国の大手テクノロジー企業のCEOたちは次々と自らを危険にさらすことを選択し、 AIに警鐘を鳴らそうまるで技術が人類の未来を凌駕したかのような言い方だ。確かに、中国との競争は極めて激化しており、その一因は北京がアメリカのモデルに基づいた大規模な訓練を行ってきたことにある。そして、中国を阻止するためにアメリカに介入を求める必要が生じているのは明らかだ。しかし、問題は、こうした今日の警鐘もまた「人為的なもの」なのか、それとも逆に正当なものなのか、ということだ。その真の目的は何なのだろうか？
テクノロジー開発者たちが発する警鐘は、二度読む必要がある。まずは内容、そして次に発信者だ。アモデイ、アルトマン、マスクは傍観者ではない。彼らは数千億ドル規模の競争の主役であり、誰よりも先にルールを定めることに利害関係を持っている。私たちは、恐怖が最も強力な販売ツールとなった時代に生きている。これは安全、健康、金融、そして特にAIに当てはまる。終末論、人間の支配の終焉、機械が創造主から逃亡するといった話は、まさにこの目的のために語られているのだ。
これは示威行動なのでしょうか？
AIが間もなく制御不能になると言うことは、弱さの告白ではない。それは力の誇示だ。自社製品が恐ろしく強力であり、競合他社に先んじて、手遅れになる前に今すぐ購入すべきだと市場に伝える最も効果的な方法なのだ。掃除機のセールスマンが、自分の製品が人類を滅ぼす可能性があると警告したことはない。しかし、知能を売る者はそうする。なぜなら、恐怖は力を証明し、力は価格を正当化するからだ。この大惨事を予告することは、これまで考案された中で最高の広告キャンペーンであり、しかも無料で、新聞によって毎日増幅されるという利点がある。
そして、その開発を中止するよう求める声は？
「AI開発の中止を求める要求でさえ、グルたちの公開書簡で定期的に取り上げられるが、技術的には ジョークシャットダウンを監視するのは誰なのか？すべての企業に影響が出るのか？その間、研究所では何が起こるのか？答えはない。なぜなら、この提案は単なるデマ、純粋なマーケティングだからだ。それよりも、これらのツールの認知度向上に努め、カリスマ的な専門家たちの意見にはあまり耳を傾けない方が良いだろう。彼らは現在深刻な問題を抱えている。ビジネスモデルがまだ安定していないのだ。競争を続けるには莫大な資金が必要であり、倫理的な問題はその資金問題を隠蔽するための口実となっている。
この話の政治的な側面とは何でしょうか？
もう一つ、政治的な目的がある。公に危険を宣言する者は、自分たちだけがそれを管理できると主張し、チップ、エネルギー、データへの障壁や、既に内部にいる者に合わせたルールによって、政治家が自分たちの利益を守るよう要求する。同じ論理が中国側にも当てはまる。アメリカの機関がDeepSeekモデルのセキュリティプロトコルが弱体化していると報告し、ホワイトハウスがアリババが北京の軍事機構を支援していると非難するとき、我々は表面的には技術的な戦いに過ぎない戦いに巻き込まれている。AIをめぐるあらゆる意味論的な戦いと同様に、 開放的、安全、主権的、制御不能そこには権力闘争が隠されている。警告は嘘ではない。自己保身のためだ。そして真のリスクは、テクノロジーが人類に勝つことではない。人類が意思決定を放棄し、すでに自分で決定を下した者たちに指示を委ねることだ。AIの危険性は代替ではなく、責任放棄にある。これは企業、政府、そして3人のCEOにも当てはまる。
トランプ氏は「我々は中国に比べてリーダーであり、率直に言って、今後もリーダーであり続けたい。なぜなら、AIで勝つ者が勝つからだ」と述べた。それは本当に正しいのだろうか？
それは団結の叫びだ。そして、それは米国が繰り広げているゲームを的確に表現しているとは言えない。AIの世界は二つの同盟に分かれつつある。一方には中国のグローバル協力イニシアチブであるWaico、もう一方には米国主導の西側ブロック「Pax Silica」だ。前者は普遍的な協力を標榜し、グローバル・サウスに接近している。後者は、忠実な者だけが利用できるフロンティアを除いて、あらゆる国に市場を提供する、選りすぐりの同盟国ネットワークを構築している。そこには、立ち止まって考えるべきパラドックスがある。開かれた社会は閉鎖的なモデルを生み出し、閉鎖的な社会はすべての人に負担を分配する。しかし、言葉には注意が必要だ。中国のモデルは オープンウェイト、いいえ オープンソースDeepSeek、Qwen、Kimiは重み、つまり学習済みパラメータのみを提供し、それ以外は何も提供しません。学習データもコードも、フィルターや文化的選択に関する情報もありません。これは持ち運び可能なブラックボックスであり、他社のクラウドに存在するブラックボックスよりはましですが、それでもブラックボックスです。どちらのブロックも真に オープンソース オープンソース・イニシアティブによって確立された意味において、この二つを混同する者は、両方に恩恵を与えていることになる。」
では、中国のオープニングとは何でしょうか？
「中国の開放性は寛大さではなく、 コモディティ化ボトル入りの水と水道水を例に考えてみましょう。良質な水が希少な限り、それを売る者が価格をコントロールします。もし誰かがそれを皆に無料で提供すれば、それを売っていた者のビジネスは崩壊し、権力は水道管を支配する者に移ります。中国は閉鎖型モデルの収益性でアメリカに勝てないため、GoogleがAndroidでやったように、それを皆から排除しようとしています。重さを手放せば、標準を征服できるのです。シンガポールはQwenを基盤に国家モデルを構築し、ファーウェイはアフリカ諸国でDeepSeekをクラウドに展開しています。
そう？
つまり、モデルで勝った者が全てを勝ち取るわけではない。価値はチップ、クラウド、アプリケーション、標準規格、そして何よりも導入、つまり生産システムが技術をプロセスや作業組織に組み込む能力へと移っていく。トランプ氏の言う通り、これはシステム間の競争だ。しかし、勝者となるのは、技術を生産性、賃金、公共財へと転換できる者であって、最大のモデルを所有する者ではない。
AI開発競争は現在、米国と中国の二強対決と位置づけられているが、フランスのスタートアップ企業Mistralのような「大陸の覇者」がヨーロッパにも存在するのは事実だ。しかし、その差は依然として明白である。我々は傍観者に留まる危険にさらされているのだろうか？既に勝負は決まっているのだろうか？
これは負け戦ではない。我々が夢遊病者のように漫然と進んでいる戦いなのだ。ヨーロッパにとって最大の危険は、遅れることではない。他国で決定された産業モデルに受動的に従い、我々が制御できない技術に関する優れたルールを遵守することだ。ミストラルは素晴らしい事例だが、アメリカの基準で評価するならば、ヨーロッパの答えにはならないだろう。OpenAIやAnthropicを国家プログラムで再現しようとするのは、経済的に非現実的だ。それには数百億ドル、あるいは数千億ドルもの資金と、我々が持ち合わせていないインフラと専門知識の臨界量が必要となる。
しかし…
しかし、要点は異なります。2つのブロック間で主導的な役割を担うためには、少なくともテクノロジーを活用する必要があり、この点においてヨーロッパ、そしてイタリアのギャップは甚大です。導入率は依然として非常に低いのです。最新のISTAT調査によると、従業員10人以上のイタリア企業の16,4%が少なくとも1つのAIテクノロジーを使用しています。これは前年の2倍ですが、ヨーロッパ平均の20%を下回っており、大企業（2社に1社以上）と中小企業（6社に1社強）とのギャップは拡大しています。投資を検討したものの断念した企業の約60%が、スキル不足を理由に挙げています。そして製造業では、ほとんどがパイロット段階に留まっています。AI超大国と交渉するには、AIを使用しない立場ではいけません。主権を確立するための第一歩は、国家モデルを発表することではなく、生産プロセスの中でこれらのツールを使用する方法を学ぶことです。そして、日常的で目に見えない、より厄介な問題があります。
でしょうか？
私たちは働きながら、一体誰を育成しているのでしょうか？何百万もの企業と従業員が、毎日クラウドベースのAIを利用しています。あらゆるプロンプト、アップロードされたあらゆるドキュメント、あらゆる修正は、無料版ではほぼ例外なく、プロバイダーの将来のモデルに利用されるデータとなります。企業はAIの利用料を支払うことで、同時に自社の知識、つまりプロセスノウハウ、業界用語、解決済みの事例、専門家による修正済みエラーなどをAIに提供しているのです。何十年にもわたって蓄積されてきた認知資本は、誰も手放そうとしていないにもかかわらず、海外へと流出しています。私たちの製造業はまさに宝の山であり、私たちはそれを無料で採掘させているのです。
つまり、ヨーロッパの道は存在しないということか？
ヨーロッパの道は確かに存在するが、それは他とは異なる。完全な主権ではなく、相対的な独立性だ。インフラとコンピューティング能力、独自の産業専門知識、自国開発のオープンソースモデルへの迅速な移行能力、そしてAI超大国を置き換えるという幻想ではなく、交渉による関係構築が重要だ。そして、発表を戦略と勘違いするのはやめよう。多くの国家的な「主権」モデルは、競争する野心など全くなく、「我々にもモデルがある」ことを示すためだけに登場している。それは、象徴的な成果を求める政治家による見せかけの活動に過ぎない。最も深刻なギャップは技術的なものではなく、経営と政治文化のギャップなのだ。
経済的リターンの測定：パランティアのCEOであるアレックス・カープ氏やマイクロソフトのCEOであるサティア・ナデラ氏といったシリコンバレーの著名人の発言によると、多くの企業はAI言語モデルの利用に高額な費用を支払っているにもかかわらず、投資に見合う生産性向上を実現できていないと主張されている。果たしてこれは事実なのだろうか？
はい、その通りです。そして、驚くことではありません。これは、あらゆる技術革新の波に必ず繰り返されるソローのパラドックスです。生産性統計以外では、あらゆる場所にテクノロジーが見られます。多くの企業がライセンスを購入し、パイロットプロジェクトを開始し、イノベーションマネージャーを任命しました。そして、その後はすべてをそのままにしました。同じプロセス、同じ階層、同じ業務組織。私はこれを「何も変えずにAIを導入する」と呼んでいます。AIのROIとは何でしょうか？生産性はモデル自体にあるのではなく、モデルによって可能になる再編成にあるのです。LLMを使ってメールをより速く書く企業は何も得ていません。AIが処理するデータに基づいて、技術部門、生産部門、保守部門間のフローを再設計する企業は、全く別のことをしているのです。AIの導入には、アイデアと労力、そして変革を支える組織設計者が必要です。イタリアの企業のほとんどは、せいぜいライセンスを購入するだけで、生産性が向上しないと不満を漏らしています。カープ氏とナデラ氏が、企業は相応の成果を得ずに費用を支払っていると言うとき、彼らは真実を語っています。真実ではありますが、彼らは間違った問題を指摘しているのです。
適切な問題表示方法は何でしょうか？
問題はテクノロジーの価格ではありません。問題は、テクノロジーを新たな働き方へと変革する権限とスキルを持った人材が社内にいないことです。だからこそ、私はワークアーキテクトの役割と移行支援チームの重要性を強く主張するのです。組織的な計画のないAIは、投資ではなくコストに過ぎません。そして、その逆のリスクも存在します。私が「AIのせいだ」と呼ぶもので、AIとは全く関係のない経営判断をAIが言い訳にしてしまうケースです。
熱意と懐疑論の対立はさておき、決して軽視してはならない分野が一つあります。それは、医療分野におけるAIの活用です。医師組合Anaao-Assomedは、研究センターが作成した報告書の中で、「人工知能とデジタル化の体系的な導入は、最大22億ユーロの節約につながる可能性がある。公的医療制度を守るためには、これらのリソースと医療従事者が確保できる時間を、削減や民営化ではなく、公的かつ透明性の高いインフラを通じて戦略的に管理する必要がある」と強調しています。皆さんはどうお考えですか？
Anaaoの報告書は正しいことを述べていると同時に、議論に値することを示唆している。正しいことは、医療におけるAIは時間とリソースを解放し、その時間は医療関係に還元されるべきであり、削減に充てられるべきではないということだ。膨大な時間を書類作成や事務作業に費やす医師は、AIによって削減できる無駄な時間である。私はこれに全面的に賛成する。先進国では、医師は患者ごとにプライバシーを保護する相互運用可能なデータを備えた高度なダッシュボードを利用できる。しかし、ここでは医師はペンで記録している。医療記録システムはまだすべての地域で機能しているわけではない。議論すべきは、公共的で透明性の高いインフラがあれば、節約した費用が正しい方向に使われることを保証できるという考え方だ。
それだけでは不十分という意味で？
いいえ、それでは不十分です。インフラは前提条件であって、保証ではありません。空いた時間は自然に再分配されるわけではありません。現在誰も計画していない医療業務の再編成が必要であり、専門家がそのプロセスに関与し、下流工程にとどまらないようにしなければなりません。そうでなければ、節約できたはずの費用はいつものように予算に消え、医師はより多くの患者を抱え、同じ労働時間で働くことになるでしょう。
そして、医師組合が誰よりも先に主張すべき点があります。医療におけるAIは、臨床データが公共財として管理される場合にのみ機能します。電子カルテは、20年経った今でもなお発展途上です。220億ユーロの節約について議論する前に、そのデータを使いやすく、安全で、相互運用可能なものにする方法について話し合うべきです。これがなければ、医療におけるAIは単なる会議に終わってしまうでしょう。
ビル・ゲイツによれば、解決策はAIを止めることではなく、「AIを統治する準備をすること」だという。これは、規模や範囲において目覚ましい新たな現象に遭遇するたびに必ず言われることだ。簡単に言えば言うのは簡単だが、実践するのは難しい。AIを統治するためには、何をすべきなのだろうか？
ゲイツの言うことは正しいが、その発言はあまりにも一般的すぎて、誰にも拘束力を持たせていない。AIを統治するということは、4つの具体的なことを意味するが、いずれも法律ではない。1つ目は、仕事の統治である。AIは、仕事内容、スキル、階層構造を変える。この変化が技術提供者のみ、あるいは経営陣のみによって決定される場合、抵抗と失敗につながるだろう。移行は共同で管理される必要があり、労働者とその代表者が設計プロセスに関与し、事後的に知らされるべきではない。
2つ目ですか？
2つ目は、契約と組織によるデータガバナンスです。研修不要条項を明記した企業向けバージョンが存在し、導入が義務付けられるべきです。従業員による無料アカウントの安易な利用、いわゆるシャドウAIは、現在、企業知識流出の主な原因となっています。また、サーバーの設置場所と主権を混同しないように注意が必要です。カナダの裁判所によってフランスに保存されたデータの引き渡しを強制されたOVHcloudの事例は、誰が会社を支配しているか、どの法律が適用されるか、インフラがどのように設計されているかが重要であることを示しています。デジタル主権は地図上の点ではありません。
3つ目は、人材管理です。何百万ものプログラマーは必要ありません。必要なのは、テクノロジーに疑問を投げかけ、結果を解釈し、どこに問題があるのかを理解できる人材です。イタリアでは、成人教育の水準がヨーロッパで最も低い部類に入ります。このような状況では、AIガバナンスは成り立ちません。
4つ目が行方不明です。
4つ目は、導入を規制することです。AI法はリスクを規制しており、それは良いことです。しかし、AIを導入していない何十万もの中小企業向けの産業導入政策はありません。 データサイエンティスト そして、彼らは決してそれを手に入れることはないでしょう。AIスクールを開設し、技術とスキルの移転に注力するためには、地域からの支援と認められた専門家が必要です。クラウド、オープンウェイト、オープンソースの選択は、IT部門やその違いを理解していない政治家に委ねるべきIT上の決定ではありません。それは、業務組織、集合的知識の保存、そして権力に関する選択です。モデルがどれほどオープンであるかを問うだけでなく、私たちが知らず知らずのうちにどれほどオープンで搾取されているかを問うべきです。
