人工知能と技術進歩の未来について、終末論でもユートピア論でもない。これが、 デジタルパワー教授による興味深い本 ルイーザ・トーチアサビーノ・カッセーゼの教え子であり、ローマ・トレ大学の行政法教授であるトルキア氏が、最近イル・ムリーノ社から論文を発表しました。この論文は、AIを取り巻く非常に時事的な問題や、技術進歩の機会とリスクを体系的かつ読みやすく論じています。しかし、デジタルパワーとは一体何でしょうか？「それは、市場を支配し、国家と競争できるほどの規模に達した少数のアメリカ企業と中国企業の手に集中した私的な力です」。そしてそれ以上です。効果的な規制を必要とする巨大な力であり、まさにトランプ政権下のアメリカが望まないものです。しかし、課題はまだ終わっていません。トルキア氏はインタビューで次のように主張しています。 FIRSTオンライン.
トルキア教授、特にあなたの著書「デジタルパワー」の最終章は、今日非常に注目されている話題から始まっており、そのタイトルは 終末、ユートピア、そして現実主義の間のデジタル未来あなたは3番目の選択肢に傾いているようですが、デジタル電力の未来を実際にどのように見ていますか？
それはまだ書かれていない未来であり、いくつかの要因に大きく左右される。まず第一に、社会、国家、国際機関、学術コミュニティ、そして個人が、いわば終末論的な見通しに「武装解除」されない意志を持っているかどうかにかかっている。あらゆる終末論と同様に、終末論的な見通しは大きな不安を生み出し、あらゆる行動を阻害する。なぜなら、終末論的な予言は、世界が終わろうとしているだけでなく、その終末が避けられないと想定しているからである。そして、クリスティアン・フリードリヒ・ヘッベルが約2世紀前に鋭く指摘したように、「世界の終わりが訪れても、それを自分が予言していたのなら、それで慰められるという人もいるだろう。「したがって、終末論的な視点は、逆説的ではあるが、慰めにもなり得る。なぜなら、それは行動したり反応したりできないこと、あるいはそうしようとしないことを正当化するからである。」
では、何が必要なのでしょうか？
同時に、すべての人にとって素晴らしい、並外れた未来の恩恵をもたらすという約束に惑わされてはなりません。技術開発のユートピア的なビジョンは、多くの未達成の約束によって否定されています。命を救う新薬や癌、変性疾患の治療法は発見されておらず、気候変動の解決策も見つかっておらず、低コストのエネルギー源も特定されておらず、人間の作品に匹敵する質の新しい芸術、文学、音楽も「生み出されて」いません。そして、大手テクノロジー企業が技術開発の「壮大で進歩的な未来」について宣言する（常に数年、あるいは数十年後の話として語られる）のは、莫大な投資に必要な資金を集めるための単なる宣伝文句に過ぎず、その投資の成果もまた不確定な未来に先送りされているのではないかと疑問に思う人もいるでしょう。
どう思いますか？
現実的なアプローチは可能であるだけでなく、必要不可欠だと私は考えています。それは技術進歩の計り知れない利点や恩恵を否定するものではありませんが、約束ではなく、まず実際の利点に焦点を当てます。そして、新技術がもたらすリスクと、それらの利点とリスクの完全な不平等な分配の両方を考慮に入れます。こうした利点を独占し、リスクと不利益を他のグループやコミュニティに押し付けるグループや企業が存在するのです。この現象に対する認識は今日広く浸透しており、大手テクノロジー企業への不信感の高まり、米国でさえ非常に強いデータセンター建設への反対、そして競争法、知的財産権、プライバシーの侵害、若者の精神衛生への悪影響などを理由とするプラットフォームに対する訴訟の増加を説明しています。
困難な道のり？
明らかに困難な道のりではあるが、大手テクノロジー企業自身も、ますます敵対的になる世論の圧力を感じ始めており、自社に帰せられる可能性のある、増大し続ける高額な賠償責任のリスクを明確に認識し始めている。逆説的ではあるが、完全に逆説的というわけではないが、彼らは、これまで外部規制の試みに激しく反対し、自主規制で十分だと断言してきた人々によってますます強く主張されている、規制面と財政面の両方における公的介入に解決策を見出している。国家が課す規則は、大手企業間の競争を緩和し、小規模企業に不利な状況を作り出すために悪用される可能性があり、同時に新規参入の障壁を高めることにもなりかねない。したがって、規則は非常に慎重かつ正確に制定され、その有効性を確保し、迅速な修正を可能にするために、定期的に見直される必要がある。
デジタル電力の主な特徴は何ですか？
「私の著書で行った分析の結果を総合すると、デジタルパワーは、私的、グローバル、プラットフォーム構造、搾取的、規範的、順応的、同調的、説得的、そして遍在的なパワーとして定義できる。」
それは何よりもまず、少数のアメリカ企業と中国企業に集中した私的な権力であり、これらの企業は市場を支配し、国家と競争できるほどの規模にまで成長したのだ。
印象的.
つまり、それはグローバルな規模で活動し、領土の境界を越え、世界中の個人や集団生活に不可欠な製品やサービスを提供・販売する権力である。それは、供給と需要、情報、商品、サービスの出会いの場としてプラットフォームモデルに基づいて構築された権力であり、商業ユーザーとエンドユーザーの両方にとって不可欠な存在となっているため、代替手段の欠如もあって、支配的なプラットフォームからの離脱を阻止、あるいは少なくとも非常に困難にしている。LLMに基づくシステムは、既存のプラットフォーム（GoogleのGeminiなど）に統合されるか、プラットフォームモデルを追求し、個別にアクセスできない統合サービスをますます広範囲に提供している。それは、コストを負担することなく、収益を極限まで独占することで、その行使に必要な資源を獲得しようとする「搾取的」権力である。それは、プラットフォーム上での相互作用のルールを確立し、最新の応用例では、医療、銀行、金融活動の実施方法に関するルールも確立する規範的権力である。それは、モデルを通して現実の多様性を縮小し、道徳的、倫理的、社会的な秩序ではなく、単なる統計的な秩序に基づいた、単純化され均一化された現実像を提示するため、同調主義的かつ傾向的に同調主義的な力である。それは、経済、政治、社会の各レベルにおいて説得力があり、遍在する力である。なぜなら、その基盤となる技術は、専門的なアプリケーションだけでなく、自然言語で対話できる生成型AIの利用が拡大するにつれて、日常生活に不可欠なものとなっているからである。
あなたの著書では、デジタルパワーがいかに政治パワーとなり、デジタル資本主義がいかに国家よりも強力になり、民主主義そのものを脅かしているかを非常に明確に示しています。これは私たちが永遠に失ってしまった課題なのでしょうか、それともデジタルパワーと民主主義の力の均衡を取り戻す望みはまだ残されているのでしょうか？
デジタルパワーの際立った特徴は集中である。その集中は非常に強く、侵しがたいものであるため、少なくとも今のところ、市場も国家も効果的な再分配策を生み出すことができていない。集中したパワーは危険なほど無制限のパワーに似ており、無制限のパワーはほぼ定義上、恣意的なパワーである。しかし、あらゆるパワーと同様に、デジタルパワーも正当性を必要とする。そして今日、この正当性は力だけに基づくことはできない。テクノロジー企業は、市場で製品やサービスを販売し、消費者に自社の製品やサービスが有用で不可欠であることを納得させる必要がある。同様に、資本を調達し、収益の約束を果たし、地域社会にデータセンターの設置を受け入れさせ、国家に主権を脅かしていないことを納得させる必要がある。巨大テクノロジー企業の「ボス」たちが、自分たちのために確保された新しい惑星やこの惑星の領域について空想することが多いのは、決して偶然ではない。
なぜ彼らはそんなことをするのでしょうか？
彼らは社会とそのルールを、自分たちが従いたくない、そこから解放されたいと思う制約だと認識しているからです。しかし、これは全く幻想的な見方であり、2つの異なる反応がそれを証明しています。中国のような独裁国家では、国家がテクノロジー企業とテクノロジーの使用と普及を厳しく管理しています。独裁制を例として挙げるつもりはありませんが、意志さえあれば、公権力は無力ではないことを示しています。実際、中国の場合、国家は人工知能モデルが社会主義の「価値観」を反映することを要求しており、テクノロジーが中立ではないことを示しています。民主主義国家では、雇用を破壊し、不平等と差別を生み出し、貧困と特定の集団やコミュニティの疎外を悪化させる技術革新に対する不寛容と不信感が高まっています。包括的で多元的かつ熟議的な能力を持つ民主主義は、解毒剤となり得るものであり、現代社会が自らを守り、価値観と集団的目標を維持するための手段として強化されるべきです。したがって、希望を持つことは可能であるが、それは育み、行使し、守り抜かなければならない。そして、これは民主主義国家の市民である私たち一人ひとりに課せられた責務である。
技術革新を阻害することなく、かといって圧倒されることもなく、デジタルパワーを統治するには規制が鍵となる、とあなたは主張します。この分野ではヨーロッパが先行している一方、トランプ政権下のアメリカは規制に消極的です。しかし、デジタルパワーの規制が国内市場にまで及ばなければ、その有効性は限定的なものになるのは避けられないように思えます。あるいはそうではないのでしょうか？ヨーロッパとアメリカのこの乖離を克服するにはどうすればよいのでしょうか？
まず第一に、これは偶発的な不一致である可能性があります。11月から始まるアメリカ大統領選挙と、今後2年間のアメリカの動向に大きく左右されるからです。イノベーションの規制は、規制対象が常に変化するため困難です。まさにこの理由から、人工知能に対する欧州の規制アプローチは本質的にリスクベースとなっています。リスクは回避できませんが、リスクを検知する制御システムがあれば、リスクを軽減し、何よりもよりよく理解することができます。欧州の規制は煩雑さで批判されることもありますが（デジタル・オムニバスで簡素化が試みられています）、重要な利点があります。それは、世界最大かつ最も豊かな市場の一つである欧州市場を、どの巨大テクノロジー企業も手放すことができないということです。そのため、多くの批判や抵抗にもかかわらず、規制があるにもかかわらず、どの巨大テクノロジー企業も欧州から撤退していません。したがって、米国とEUの間には不一致が存在しますが、欧州域内、そして時には域外においても、欧州の規則の適用を妨げるものではありません。なぜなら、多くの法制度が人工知能の規制と制御に関する同様の原則とツールを中心に収束しつつあるからです。人工知能。また、規制がイノベーションを阻害するという主張は、人工知能のようにイノベーションが初期段階を脱すると説得力を失います。規制は、業界が製品の安全性を保証し、消費者の信頼を得るための主要な手段です。旅行や治療が安全でリスクがないと合理的に確信できない限り、誰も飛行機に乗ったり薬を買ったりはしないでしょう。
どれが一番良い選択肢だと思いますか？
当然ながら、最善の選択肢は、多くの国や国際機関が参加するグローバルな規制でしょう。このような収束は不可能ではありません。私の著書では、この収束が実際に起こった例として、原子力とクローン技術の2つを挙げています。この2つの例の違いは明らかです。原子力は国家が所有する傾向があるのに対し、クローン技術は研究室で生み出されます。前者の場合、各国は国際条約に頼ってきましたが、後者の場合、各国が個別に採用した生殖クローン禁止という選択において収束が見られました。しかし、どちらの場合も、危険性とリスクに対する認識（原爆の場合は広島と長崎で劇的に示されました）と、孤立した国家的な解決策は全く不適切であるという信念が、国家と研究者が受け入れた共通のルールの採用につながり、少なくとも今のところ、これらのルールは違反されていません。違反の可能性があった場合でも、イランの原子力に関する事例のように、国際的な管理による執行メカニズムの対象となっています。どちらの場合も、非常に簡単に言えば、これらは基本的に禁止事項に基づく規則であり、関係当事者が、国内または国際的な当局や機関による禁止事項の遵守状況を監視する権限の行使を受け入れることを前提としている。
しかし、AIにおける技術融合の試みはなされたのだろうか？
G7は2023年、技術革新に関する国際的な指針と共通の行動規範を確立しようと試み、広島AIプロセスと名付けられた原則を採択した。これらの国際的な指針は、AIライフサイクル全体（したがって、様々な段階に関わるすべてのステークホルダー）に適用されるべきであり、国際行動規範は、AI開発者が自主的に遵守できるガイドラインを提供する。広島AIプロセスの実施はOECDに委ねられており、OECDは2025年2月にモニタリング報告の枠組みを策定した。
あなたの著書にも示されているように、デジタルパワーへの挑戦は国際レベルで繰り広げられていますが、イタリアはヨーロッパの中で、このゲームで有利な立場に立つために何ができるでしょうか？
イタリアには多額の投資資金や天然資源はありませんが、優れた大学があり、優秀な研究者を育成する能力があります。彼らは海外へ渡り、そこで成功を夢見ています。私たちは彼らを育成し、その遺産を他国に伝えているのです。近年、多くの産業経験が失われてきたにもかかわらず、イタリアには文化と技術の伝統が今もなお息づいています。この豊かな文化と専門知識を分散させるのではなく、研究開発拠点や生産拠点に集中させ、一定規模まで成長させ、製造システムや公共部門と連携させることができれば、私たちは大きな貢献を果たすことができるでしょう。
