チューリング賞 2018 の受賞者
2018 月、ACM (Association for Computing Machinery) は名誉ある XNUMX 年チューリング賞を受賞しました。 一種のコンピューター科学のノーベル賞、XNUMX人の著名な科学者。 モントリオール大学の教授であり、ケベック州の人工知能研究所であるミラの科学ディレクターであるヨシュア・ベンジオは、次のように述べています。 ニューヨーク大学の教授であり、Facebook の副社長兼チーフ AI サイエンティストでもある Yann LeCun 氏は、次のように述べています。 トロント大学の名誉教授であり、Google の副社長兼エンジニアリング フェローであり、Vector Institute の最高科学顧問でもある Geoffrey Hinton 氏。
認定理由は以下の通りです。
ディープ ニューラル ネットワークをコンピューター サイエンスの重要な要素にした概念的および工学的ブレークスルーに対して。
ACM の社長である Cherri M. Pancake 氏は次のように述べています。
「AI の成長と関心は、少なからず、ベンジオ、ヒントン、ルカンが基礎を築いたディープラーニングの最近の進歩によるものです。」
また、Google シニア フェローで SVP Google AI の Jeff Dean 氏は次のように付け加えています。
「ディープ ニューラル ネットワークは、現代のコンピューティングにおける最大の飛躍のいくつかを担っています。 それらは、コンピューター ビジョン、音声認識、自然言語理解など、長年にわたる問題の大幅な進歩に貢献してきました。 … これらの進歩の中心にあるのは、今年のチューリング賞受賞者によって 30 年以上前から開発されてきた基本的な技術です。 ヨシュア・ベンジオ、ジェフリー・ヒントン、ヤン・ルカンです。 世界を理解するコンピューターの能力を大幅に向上させることで、ディープ ニューラル ネットワークは、コンピューティングの分野だけでなく、科学と人間の努力のほぼすべての分野を変えています。」
カナダの役割
2018 年のチューリング賞の受賞者は、CIFAR (カナダ高等研究所) の機械と脳の学習プログラム内で引き続き協力しています。 ニューラル ネットワークの研究においてカナダ政府が果たす役割は、決して重要ではありません。
具体的には、このプロジェクトは、機械学習、神経科学、認知科学の交差点にある広大で魅力的な領域を調査することを目的としています。 「常識」を持った人工知能を目指すなら避けては通れない道。
今日、受賞歴のある XNUMX 人の科学者が脚光を浴びていますが、常にそうだったわけではありません… 確かに、人工知能が塵の中にあった時代がありました。 その歴史を簡単に見てみましょう。
最初はパーセプトロン…
パーセプトロンの話は、人工知能の世界を際立たせる揺れ動く傾向を説明するための良い比較用語です。 パーセプトロンの背後にあるアイデアは単純で、人間の脳の構造と機能をモデル化するという 40 年代に確立された理論的基盤に基づいていました。 この場合、そのニューロンの動作と、それらがニューロン間で作成する接続、つまりシナプスを模倣します。 最後に、知性の学習方法、特にその可塑性を再現しようとしました。
パーセプトロンは、さまざまな接続に多かれ少なかれ重みを割り当てて、期待される出力に一致するようにその機能を改良しようとしました。 そうすることで、彼はシナプスを変更し、人工ニューロン間の関係を再調整しました。 矮小化しすぎかもしれませんが、機械はある意味で、このようなモダリティを通じて学習したと言えます。 パーセプトロンは、非常に単純化されていたとはいえ、ニューラル ネットワークの最初のプロトタイプであり、たとえば、三角形や正方形などの基本的な幾何学的形状を区別することができました。
パーセプトロンの大失敗...
しかし、このプロジェクトは、それが提起した巨大な期待に応えるには不十分であることが判明し、また不注意な声明によって煽られました. 実際、ローゼンブラットは、彼の「創造物」は長期的には「...言語を学び、決定を下し、翻訳することができるだろう」と宣言するところまで行った.
パーセプトロンは実際、人工ニューロンの単層 (最大 XNUMX つ) に基づいていたため、複雑なパターンを検出する能力が大幅に制限されていました。 対照的に、今日のディープ ニューラル ネットワークは、人工ニューロンの複数の層の上に構築されています。
このアーキテクチャにより、はるかに複雑な問題に対処できます。 結局、Rosenblatt のプロジェクトは失敗に終わりました。 プログラムに割り当てられた資金がそうであったように、機械とその基盤にあったアプローチへの関心は次第に減少しました.
…そしてその結果
パーセプトロンの大失敗を含む一連の挫折は、60 年代半ばから 70 年代にかけての失望とそれに続く幻滅を生み出し、初期のサイバネティックスを長期にわたる忘却に追いやった。
このトピックは致命的に禁止され、この分野の科学者コミュニティ内で一種の排斥に苦しみました。 生まれたての人工ニューラルネットワークに冬が来た、長い冬…
時には誇張された期待に研究が応えられない場合、不信感が生まれ、次第に関心が冷めていきます。 これにより、まず資金が減少し、次に資金が停止されます。 これは、研究自体の終焉またはせいぜい停滞を引き起こします。 「AIの冬」と呼ばれる現象。
AI 冬の到来
度を越した熱意と巨額の投資（しばしばプロパガンダとマーケティングによって過熱される）のサイクルが繰り返され、その後に深いフラストレーション、助成金の中断、時には特定の調査のせいにさえなります。
人工知能の研究の進歩は、すべての領域で同じ曲線をたどってきました。最初は目覚ましい成功を収め、突然予想外の困難が続きました。 (Hubert L. Dreyfus より、コンピューターにできないこと。人工知能の限界、Armando 1998)。
人工知能部門は、長期化する冬のうち、少なくとも XNUMX 回は経験しています。 とりわけ、パーセプトロンの失敗に続くものと、ドットコムバブルによって引き起こされたもの。
アンダートラック
しかし、幻滅の寒気に襲われているにもかかわらず、ニューラル ネットワークの調査が完全に停止したことはありません。 それどころか、資金提供と主流の研究が他の道を追求している間、それは継続し、隠され、影を落とし、ほぼ秘密裏に行われました.
ヒントンは、選択された少数の人々によってトーチが燃え続けたという話は神話にすぎないと強調していますが、障害や困難は決して発明ではありません.
ヒントンは、70 年代に博士号のテーマとして人工知能を選んだとき、彼の教授とさえ衝突しなければなりませんでした.「私たちは週に XNUMX 回会っていました」と彼は回想します。 "
特にニューラル ネットワークについては、この分野の科学者コミュニティの大部分が無関心または嫌悪感を抱く傾向が長い間続いています。 LeCun 氏は次のように回想しています。
90 年代半ばから 2000 年代前半にかけて、コミュニティがニューラル ネットワークへの関心を失ったため、ニューラル ネットワークに関する研究を公開することができなかった暗い時期がありました…実際、彼らの評判は悪かったのです。 彼らは一種のタブーでした。
私たちは探し続けます
チューリング賞を受賞した XNUMX 人の科学者は、最も暗い時期でも、独立して、また協力してアイデアを交換しながら、自分のアイデアに取り組み続けました。 カナダ政府の先見の明もあり、XNUMX 人は結ばれ、そこから復讐が始まったのかもしれません。
2004 年、カナダ高等研究所から 400.000 ドル未満の助成金を得て、ヒントン博士は彼が「神経計算と適応的知覚」と呼ぶものに特化した研究プログラムを作成しました。
ヒントンは、ヨシュア・ベンジオとヤン・ルカンもプロジェクトに参加するよう招待しました。
相乗効果も重要であることが証明されており、実をまき、アイデアを広め、支持者を獲得する一種の好循環を開始するものです。 LeCu さんのコメント：
私たちは定期的な会議、定期的なワークショップ、学生向けのサマースクールを開催しました…これにより、[…] 2012年、2013年頃に本当に爆発した小さなコミュニティが作成されました.
ちょうどその時期、新しいミレニアムの最初の XNUMX 年間の中間点の直後に、すべての準備が整いました。 理論的な基礎は、利用可能なハードウェアと重要な原材料であるデータと同様にありました。 したがって、ニューラル ネットワークの革命が始まる可能性があります。
並列収束
長い間、人工ニューラル ネットワークの分野における科学者の努力は、それらを最高の状態で機能させるために必要な燃料であるデータの不足に直面してきました。 ヤン・ルカンは次のように述べています。
それらは、トレーニング用のデータが多く、トレーニング用のデータが多い領域がいくつかある場合にのみうまく機能しました。
同様に、ハードウェア側でも十分なパワーがありませんでした。 ゲイリー・マーカスとアーネスト・デイビスが指摘するように：
2000 年代初頭まで、ハードウェアは機能していませんでした。 典型的な深層ネットワークをトレーニングするには、数週間から数か月のコンピューター時間が必要でした。 何百もの異なる選択肢を試して、それらの最良のものをふるいにかけることはできませんでした (現在は可能です)。 (ゲイリー F. マーカス、アーネスト デイビス、AI の再起動。信頼できる人工知能の構築、2019 年)。
インターネットの登場です
情報技術の歴史の変曲点に関連して他の機会に起こったように、特定の瞬間に、明らかにカジュアルな方法で、一連の買収全体 (技術的および理論的) が収束します。 これにより、虐待されたビジョナリーにとって、以前は漠然とした希望や問題に過ぎなかったことが実現可能になります。
このように、新しいミレニアムの最初の 3,2 年頃、インターネットとソーシャル メディアの普及により、膨大な量のデータが利用可能になりました。 さまざまな構造化データ データセットがどのように利用可能であったか、非常に高品質なものもありました。 ImageNet は、当時 5247 万枚のラベル付き画像があり、XNUMX のカテゴリに分類されたデータセットでした。 リーは言った
ImageNet の概念のパラダイム シフトは、多くの人がモデルに注意を払う一方で、[私たちは] データに注意を払うということです。 … データは、モデルに対する私たちの考え方を再定義します。
ImageNet
2009 年に公開された (ImageNet 論文) 一般的な無関心の中で、Imagenet は 2010 年から 2017 年の最終版まで、毎年恒例のコンテストも開催しました。今日の機械学習およびハイテク分野の主要人物の一部が参加しました。
このコンテストは、AI の可能性を徹底的に調査するために、利用可能な画像の膨大なデータベースでアルゴリズムをテストすることを目的としていました。
嬉しい驚きは、ImageNet でモデルをトレーニングした人が、それらを使用して他の認識タスクのモデルを実行できることでした。 ImageNet モデルから始めて、それを別のビジネス用に改良しました。 …これは、ニューラル ネットワークと一般的な認識の両方にとってブレークスルーでした。
ハードウェア側
ハードウェア側でも、ほぼ同時に、ニューラル ネットワークのニーズを完全にサポートする (そして手頃な価格で) 必要な能力がありました。 皮肉なことに、問題のハードウェアは、まったく異なるセクターと元の目的地からのものでした。
GPU は 70 年代からゲーム用にテザリングされ、2000 年代初頭にニューラル ネットワークによって発見され、2012 年までに GPU は非常に強力になり、いくつかの目的では CPU よりも効率的になりました。 CPU は、ほとんどのコンピューターの伝統的な主力 [コア] です。
革命が起きたのは 2012 年で、Hinton と協力している研究者チームを含む多くの人々が、GPU の能力を利用してニューラル ネットワークの能力を大幅に強化する方法を見つけました。
マーカスとデイビスを観察します。
ある意味では、最も重要な進歩は、ニューラル ネットワークの数学における根本的な技術的ブレークスルー (その多くは 80 年代からのもの) からもたらされたものではありません。 それはコンピュータゲームから来ました。 または、より具体的には、ニューラル ネットワーク コミュニティが人工知能用に変換した GPU (Graphics Processing Unit の略) として知られる特定のハードウェアによって行われます。
イメージネットコンテスト2012
最初の Imagenet Challenge から 2012 年後の XNUMX 年に、現在の AI の隆盛の火付け役となるイベントが発生しました。 ヒントンは、トロント大学の XNUMX 人の学生、Ilya Sutskever と Alex Krizhevsky と共に、Krizhevsky によって設計された畳み込みニューラル ネットワークである AlexNet を使用してコンテストに参加しました。
AlexNet は現在も検索で使用されており、10,8% という大きな差でこの分野を打ち負かしており、41 番目に優れた企業よりも XNUMX% 優れています。 明白であると同時に予想外の結果です。 LeCun さんのコメント：
その違いは、多くの人が頭の上で巨大なスイッチが狂っているのを見ることができるようなものでした…今、彼らは確信しました。
AIの台頭が始まる
この勝利は非常に響き渡り、Google はすぐに XNUMX 人の勝者を雇うようになりました。 クリジェフスキーを思い出してください：
それはかなり非現実的になりました。 … すぐに買収の申し出を受け始めました。 たくさんのメール。
幸運な「偶然」の輪を閉じるために、イメージネットが発表したコンペティションは、ヒントンと彼の生徒たちにとってちょうどいいタイミングで行われました。
今日、このような畳み込みニューラル ネットワークはどこにでもあります。抽象化のレベルを上げてピクセル間のパターンを検出することで、画像の内容を知ることができます。 各レベルで数千から数百万の小さな計算を使用します。 … ヒントンは何十年もの間、同僚たちに彼らを真剣に受け止めるように促してきました。 しかし、彼は今、彼らが他の最先端の技術を打ち負かすことができるという証拠を持っていました.
この Imagenet 2012 のイベントは、今日の AI 爆発の火付け役となったことは間違いありません。
直前に、音声認識でいくつかの非常に有望な結果が確かにありました (その多くはトロントで再び発生しました)。 しかし、2012 年とそれ以降、ImageNet が勝利を収めたときほど公の場に姿を現すことはありませんでした。
幻想的な進歩のギャップ
ニューラル ネットワークと機械学習は現在、人工知能の世界、そしてより一般的には技術分野全体で広く普及していますが、まだやるべきことはたくさんあります。 驚くべき進歩が見られたものの、業界を席巻した原動力は次第に弱まるか、少なくとも減少しているように見えます。
繰り返しになりますが、AI は、巨額の投資は言うまでもなく、AI に付随する約束と AI が提起した巨大な期待の両方を、少なくともこれまでのところ完全に満たすことができることを示していません。
人工知能への現在支配的なアプローチである機械学習 (さまざまな形態の) に正確に基づくアプローチには、いくつかの亀裂が見られます。 チェス、囲碁、ポーカー、ビデオ ゲームなどで得られた成功は、この方法論を高く評価しています。
しかし、閉じた宇宙、明確に定義され、制限された環境の外にそれを「輸出」しようとする試みは、必ずしも実りがあるとは限らず、その限界と脆弱性を明らかにしました. そして、困難と失敗が起こりました。
マーカスとデイビスは、「幻想的な進歩のギャップ」、または「複雑な問題における進歩と、単純な問題における人工知能の進歩を混同している」(Gary F. Marcus, Ernest Davis, Rebooting AI. Building Artificial Intelligence We Can) について語っています。トラスト , 2019)
AIの失敗
最もセンセーショナルな失敗のいくつかは、ヘルスケアの分野で発生しています。 実際、これまでのところ、研究や医療分野での AI の具体的な応用を想定した最も野心的なプログラムのいくつかは、成功したとは言えません。 実際、IBM ブランドは両方とも、Watson、Watson Health、さらに具体的に言えば、数年で癌を打ち負かすという目標を設定した腫瘍学のための Watson にリンクしていました。 どちらも急性腎不全 (AKI) の早期診断を目的とした Deep Mind のものです。 どちらも挫折、挫折、激しい批判、裏切りに苦しんできました。
投資家の冷却
セクターへの投資が長期的に利益を生まない場合、貸し手の側の関心が失われる可能性があると懸念する人もいます。
たとえば、ディープ マインドは過去 22 年間で大きな損失を被りました。 一方、IBM は、XNUMX 四半期連続で減少した後、つい最近になって収益の増加を報告しました。
そのため、人工知能に新たな冬が訪れるのではないかと各方面から危惧されています。 プロパガンダによって生成された期待は、メディアによっても煽られており、明らかに過剰です。 これは、幻滅、無関心、資金の大幅な減少という新たなサイクルの到来を告げるように思われます。
とはいえ、昔と比べるとかなりの違いがあります。
新しい冬が来る？
ドレフュスは次のように書いています。「宣言や予言にもかかわらず、マスメディアが宣言したり、映画が私たちに何を見せたりしても、人工知能は約束であり、既成事実ではありません」(ヒューバート・L・ドレイファス、コンピューターができないこと.人工知能、Armando 1998)。
今日、Dreyfus によって進められた観察は、人間の脳に可能な限り近づき、おそらくそれを超えるという AI の究極の野望に言及する限り、その関連性をすべて保持しています。
しかし、人工知能は実用レベルで多くの用途を見出し、現在では私たちの日常生活に影響を与えています。 ティアナン・レイが指摘するように：
機械学習の使用は、もはや厳密に学術的な活動ではなく、業界に属しています。 そして業界は、機械学習を使って、心の創造とは関係のないことを行う方法を見つけています。
これは、過去に対する他者性の最初の含意ですが、他にもあります。 レイは続けます：
それが異なるのは、XNUMX つの単純な理由からです。人工知能は、ディープ ラーニングと呼ばれる最新の化身であり、「工業化」されています。 史上初めて、AI はビジネスの仕組みの一部となっています。 これにより、批評家によって強調された欠点を超えて、新しい価値がもたらされます。
AI の工業化 この理由から、ゲイリー マーカスは次のように述べています。
企業の世界は人工知能に自信を失うかもしれませんが、それを完全に撤回する余裕はありません.
また、これは過去との断絶のさらなる要素であるため、実際、研究資金はもはや政府からではなく、民間資本に属しています。 ご存知のように、これらは主に経済的利益を目的としています。
しかし、いくつかの有望な兆候にもかかわらず、人工知能への投資の収益性はまだ実証されていません. それにもかかわらず、公共部門は、資金の流れを維持する上で有利になる可能性があります。 現在、人工知能の分野における卓越性は、どの覇権国もあきらめようとしない優位性を約束しています。
企業であろうと国有企業であろうと、後れを取ることは誰にとっても致命的となる可能性があります。
ビッグデータの問題
何よりもまずそのユーザーのデータからさまざまな形で「価値」を抽出できるという事実は、Web の巨人から新興企業まで、企業に一種の追加の利点を保証します。 ここにもう一つの目新しさがあります。
これらのスタートアップと AI の初期の時代との主な違いは、彼らが顧客データを使用する立場にあることです。 これらの新興企業は、すべてを最適化するという明確な約束を果たさなくても、データに関与することでテーブルに着くことができます。 フランスの社会学者ドミニク・カルドンは次のように述べています。
データ マイニングが存在するのは、コンピュータ化された社会の生活を説明する多数のデータを分析することで、競争上の優位性を得ることができるからです。
これらすべてにより、人工知能は、企業の世界や社会全体で、過去と比較してはるかに統合され、現実に「固定」されます。
新しい冬は来ない
したがって、これらの要素の合計は、可能性のある新しい氷河期の冬を防ぐように思われます. ただし、考慮すべき最後の要素が XNUMX つあります。信頼です。
AI の冬は主に、政府官僚やベンチャー キャピタリストによる AI に対する認識の崩壊で構成されています。 今日、人工知能はこれまで以上にさまざまな対象の信頼を必要としています。 この信頼は、不明瞭な世論を追加するために、上記の信頼をはるかに超えています.
投資家、政府、メディア全般に対する約束を (少なくとも部分的には) 果たすだけでは、AI はもはや十分ではありません。 ユーザーの信頼が必要です。 つまり、それを使用する単純なユーザーまたは専門家、またはそれと「協力」しなければならないことに気付く.
AI は、用語の意味的な意味の全範囲にわたって「信頼できる」ものでなければなりません。 信頼できるように、信頼性が高く、最終的には安全です。
リスクは、通常の現実の中で、社会でのその実用的な実装が全体的または部分的に失敗することです. これが発生した場合、その影響は投資と研究に影響を与えるに違いありません。 この時点で、新しい寒い冬への扉が開く可能性があります。
