pay

Yapay Zeka, uzun yürüyüş ve gerçek mücadelesi

Bugün artık Yapay Zekanın yatırımcılara ve hükümetlere verdiği sözleri yerine getirmesi yeterli değil, ancak kullanıcıların güvenini kazanması gerekiyor.

Yapay Zeka, uzun yürüyüş ve gerçek mücadelesi

Turing Ödülü 2018'in kazananları

Haziran ayında ACM (Bilgisayar Makineleri Birliği) prestijli 2018 Turing ödülünü verdi. bir tür Nobel bilgisayar bilimi, üç seçkin bilim adamı. Yoshua Bengio, Montreal Üniversitesi'nde profesör ve Quebec yapay zeka enstitüsü Mila'nın Bilimsel Direktörü. Yann LeCun, New York Üniversitesi'nde profesör ve aynı zamanda Facebook Başkan Yardımcısı ve Yapay Zeka Baş Bilim İnsanı. Geoffrey Hinton, Toronto Üniversitesi'nde fahri profesör, Google'ın Başkan Yardımcısı ve Mühendislik Üyesi ve aynı zamanda Vector Institute'un Baş Bilimsel Danışmanı.

Tanıma gerekçesi aşağıdaki gibidir:

Derin sinir ağlarını bilgisayar biliminin kritik bir bileşeni haline getiren kavramsal ve mühendislik buluşları için.

ACM Başkanı Cherri M. Pancake'in belirttiği gibi:

"Yapay zekaya olan büyüme ve ilgi, büyük ölçüde Bengio, Hinton ve LeCun'un temellerini attığı derin öğrenmedeki son gelişmelere bağlıdır".

Google Kıdemli Üyesi ve Google AI Kıdemli Başkan Yardımcısı Jeff Dean şunları ekledi:

"Modern bilgi işlemdeki en büyük sıçramaların bazılarından derin sinir ağları sorumludur. Bilgisayar görüşü, konuşma tanıma ve doğal dil anlayışı gibi uzun süredir devam eden sorunlarda önemli ilerlemeler kaydedilmesine yardımcı oldular. … Bu ilerlemelerin merkezinde, bu yılın Turing Ödülü sahipleri tarafından 30 yılı aşkın bir süre önce geliştirilen temel teknikler var. Bunlar Yoshua Bengio, Geoffrey Hinton ve Yann LeCun'dur. Bilgisayarların dünyayı anlamlandırma yeteneğini büyük ölçüde geliştiren derin sinir ağları, yalnızca bilgi işlem alanını değil, bilimin ve insan çabasının neredeyse her alanını değiştiriyor."

Kanada'nın rolü

2018 Turing Ödülü'nü kazananlar, CIFAR'ın (Kanada İleri Araştırma Enstitüsü) Makinelerde ve Beyinlerde Öğrenme programı kapsamında işbirliği yapmaya devam ediyor. Kanada hükümetinin sinir ağı araştırmalarında oynadığı rol hiçbir şekilde marjinal değildir.

Bu proje özellikle makine öğrenimi, nörobilim ve bilişsel bilim arasındaki kesişme noktasında yer alan o geniş ve büyüleyici bölgeyi araştırmayı amaçlıyor. "Sağduyulu" bir yapay zekaya sahip olmak isteniyorsa bu kaçınılmaz bir adımdır.

Bugün üç ödüllü bilim insanı ilgi odağında ama her zaman böyle değildi… Gerçekten de yapay zekanın toz duman olduğu bir dönem vardı. Kısaca tarihine bir göz atalım.

Başlangıçta Perceptron vardı…

Perceptron'un hikayesi, yapay zeka dünyasını ayıran kararsız eğilimi göstermek için iyi bir karşılaştırma terimini temsil ediyor. Perceptron'un arkasındaki fikir basitti ve 40'larda atılan teorik temellere dayanıyordu: insan beyninin yapısını ve işleyişini modellemek. Bu durumda, nöronlarının davranışını ve aralarında oluşturdukları bağlantıları, yani sinapsları taklit edin. Son olarak, aklımızın öğrenme biçimini, özellikle de plastisitesini yeniden üretmeye çalıştık.

Perceptron, çeşitli bağlantılara az ya da çok ağırlık atayarak, beklenen çıktıyı eşleştirme yeteneğini iyileştirmeye çalıştı. Bunu yaparken, yapay nöronlar arasındaki ilişkileri yeniden düzenleyerek sinapsları değiştirdi. Belki de aşırı derecede önemsizleştirerek, bu yöntemle makinenin bir anlamda öğrendiği söylenebilir. Perceptron, son derece basitleştirilmiş olmasına rağmen gerçekten de bir sinir ağının ilk prototipiydi ve örneğin üçgenler ve kareler gibi temel geometrik şekilleri ayırt edebiliyordu.

Perceptron Çöküşü...

Ancak proje, ihtiyatsız açıklamaların da körüklediği, yarattığı muazzam beklentileri karşılamakta yetersiz kaldı. Aslında Rosenblatt, "yaratığının" uzun vadede "... öğrenebileceğini, karar verebileceğini ve dilleri çevirebileceğini" ilan edecek kadar ileri gitti.

Perceptron gerçekten de karmaşık kalıpları tespit etme yeteneğini ciddi şekilde sınırlayan tek bir yapay nöron katmanına (en fazla iki) dayanıyordu. Günümüzün derin sinir ağları, aksine, çok katmanlı yapay nöronlar üzerine inşa edilmiştir.

Bu mimari, çok daha büyük karmaşıklıklarla başa çıkmalarına olanak tanır. Nihayetinde Rosenblatt'ın projesi bir fiyasko oldu. Makineye olan ilgi ve temelindeki yaklaşım, programa ayrılan fonlar gibi giderek azaldı.

… ve sonuçları

Perceptron fiyaskosu da dahil olmak üzere bir dizi aksilik, 60'ların ortaları ile 70'ler arasında hayal kırıklığı ve bunun sonucunda hayal kırıklığı yaratarak, yeni ortaya çıkan Sibernetiği uzun süreli bir unutulmaya mahkum etti.

Konu ölümcül bir şekilde yasaklandı ve sektördeki bilim adamları topluluğu içinde bir tür dışlanmaya maruz kaldı. Yeni doğan yapay sinir ağları için kış gelmişti, uzun bir kış...

Araştırma bazen abartılı beklentilere cevap veremediğinde, ilginin giderek soğumasına yol açan bir güvensizlik ortamı oluşur. Bu da, önce fonların azalmasına, sonra da askıya alınmasına neden olur. Bu, araştırmanın kendisinin sona ermesine veya en fazla durmasına neden olur. "AI kışı" olarak bilinen bir fenomen.

AI kışının gelişi

Yinelenen aşırı coşku ve büyük yatırım döngüleri (genellikle propaganda ve pazarlama ile güçlendirilir), ardından derin hayal kırıklığı, hibelerin kesintiye uğraması ve hatta bazen belirli bir soruşturma hattı için suçlama.

Yapay zeka araştırmalarının yolu, tüm alanlarda aynı eğriyi takip etti: İlk çarpıcı başarılar, ardından aniden beklenmedik zorluklar. (Hubert L. Dreyfus'tan, Bilgisayarların yapamayacakları. Yapay zekanın sınırları, Armando 1998).

Kışların, uzayan kışların en az ikisini yapay zeka sektörü yaşadı. Diğer şeylerin yanı sıra, Perceptron'un başarısızlığını takip eden ve nokta-com balonunun neden olduğu.

Parça altında

Yine de, hayal kırıklığının yarattığı soğukluğun pençesine rağmen, sinir ağlarının araştırılması hiçbir zaman tamamen durmadı. Aksine, finansman ve ana akım araştırma başka yollar izlerken, gizlenerek, gölgede kalarak, neredeyse gizlice devam etti.

Hinton, seçkin bir azınlığın yakmaya devam ettiği meşale hikayesinin sadece bir mitoloji olduğunu vurgulasa da, engeller ve zorluklar kesinlikle bir icat değildir.

Hinton, 70'lerde doktora konusu olarak yapay zekayı seçtiğinde hocasıyla bile ters düşmek zorunda kalmıştı: "Haftada bir kez buluşuyorduk," diye hatırlıyor, "Bazen tartışırdık, bazen tartışmazdık. "

Özellikle sinir ağları konusunda, sektördeki bilim insanları topluluğunun büyük bir bölümünün kayıtsızlığı veya daha kötüsü isteksizliği uzun süredir devam etmektedir. LeCun şöyle hatırlıyor:

90'ların ortalarında ve 2000'lerin başlarında, sinir ağları üzerine araştırma yayınlamanın imkansız olduğu, çünkü topluluğun onlara olan ilgisini kaybettiği karanlık bir dönem vardı… Aslında, kötü bir üne sahiptiler. Onlar bir tür tabuydu.

aramaya devam ediyoruz

Turing Ödüllü üç bilim insanı, hem bağımsız olarak hem de işbirliği yaparak ve fikir alışverişinde bulunarak en karanlık zamanlarda bile fikirleri üzerinde çalışmaya devam ettiler. Kanada hükümetinin öngörüsü sayesinde, üçlü kendilerini bir arada buldu ve belki de intikam oradan başladı.

2004 yılında, Kanada İleri Araştırma Enstitüsü'nden 400.000 $'dan az bir hibe ile Dr. Hinton, "sinirsel hesaplama ve uyarlanabilir algı" adını verdiği şeye adanmış bir araştırma programı yarattı.

Hinton, Yoshua Bengio ve Yann LeCun'u da projenin bir parçası olmaları için davet etti.

Meyve eken, fikirleri yayan, taraftar kazanan bir tür erdemli döngüyü başlatan sinerjiler de önemlidir. LeCu diyor ki:

Öğrencilerimiz için düzenli toplantılar, düzenli atölye çalışmaları ve yaz okulları yaptık… Bu, […] 2012, 2013 civarında gerçekten patlayan küçük bir topluluk yarattı.

Tam o dönemde, yeni milenyumun ilk on yılının orta noktasından kısa bir süre sonra, her şey hazırdı. Teorik temeller, mevcut donanım ve temel ham madde olan veriler kadardı. Sinir ağlarının devrimi bu nedenle başlayabilir.

paralel yakınsama

Uzun bir süredir, yapay sinir ağları alanındaki bilim adamlarının çabaları, en iyi şekilde çalışmalarını sağlamak için gereken yakıtın, yani verilerin eksikliğiyle sonuçlandı. Yann LeCun'un açıklamaları:

Yalnızca eğitim için çok fazla veri olduğunda ve eğitim için çok fazla veri içeren birkaç alan olduğunda iyi çalıştılar.

Benzer şekilde donanım tarafında da yeterli güç yoktu. Gary Marcus ve Ernest Davis'in belirttiği gibi:

2000'lerin başlarında, donanım işe uygun değildi. Tipik bir derin ağı eğitmek haftalar hatta aylar sürecektir. Yüzlerce farklı alternatifi denemek (şu anda mümkün olduğu gibi) ve en iyilerini gözden geçirmek mümkün değildi. (Gary F. Marcus, Ernest Davis, Yapay Zekayı Yeniden Başlatmak. Güvenebileceğimiz Yapay Zeka Oluşturmak, 2019).

işte internet geliyor

Bilgi teknolojisi tarihindeki dönüm noktalarıyla bağlantılı diğer durumlarda olduğu gibi, belirli bir anda, görünüşe göre tesadüfi bir şekilde, bir dizi kazanım (hem teknik hem de teorik) birleşir. Bu, daha önce kötü muamele gören vizyonerler için yalnızca belirsiz bir dilek veya mesele olan şeyi mümkün kılar.

Böylece, yeni milenyumun ilk on yılı civarında, internet ve sosyal medyanın yaygınlaşması sayesinde muazzam miktarda veri mevcuttu. Bazıları çok yüksek kalitede olmak üzere çeşitli yapılandırılmış veri kümelerinin nasıl mevcut olduğu. ImageNet, o sırada 3,2 kategoride düzenlenmiş 5247 milyon etiketli görüntüden oluşan bir veri kümesiydi. Li dedi

ImageNet kavramının paradigma kayması, pek çok kişinin modellere dikkat etmesine karşın, [biz] verilere dikkat etmemizdir. … Veriler, modeller hakkında nasıl düşündüğümüzü yeniden tanımlayacak.

IMAGEnet

Genel ilgisizliğin ortasında 2009'da yayınlanan (ImageNet makalesi), Imagenet ayrıca 2010'dan 2017'nin son baskısına kadar yıllık bir yarışma düzenledi. Bugün makine öğrenimi ve Hi-Tech sektörünün önde gelen isimlerinden bazıları yer aldı.

Yarışma, AI'nın potansiyelini kapsamlı bir şekilde araştırmak için mevcut olan devasa görüntü veritabanındaki algoritmaları test etmeyi amaçlıyordu.

Hoş bir sürpriz, ImageNet üzerinde modellerini eğitmiş olan kişilerin, diğer tanıma görevleri için modelleri çalıştırmak üzere onları kullanabilmeleriydi. ImageNet modeliyle başladınız ve ardından onu başka bir iş için geliştirdiniz. … Hem sinir ağları hem de genel olarak tanıma için bir dönüm noktasıydı.

Donanım tarafı

Donanım tarafında bile, hemen hemen aynı zamanlarda, sinir ağlarının ihtiyaçlarını tam olarak desteklemek için (ve makul bir maliyetle) gerekli güç artık mevcuttu. İronik olarak, söz konusu donanım tamamen farklı bir sektörden ve orijinal destinasyondan geldi.

GPU'lar 70'lerden başlayarak oyun oynamak için bağlandı ve sinir ağları onları 2000'lerin başında keşfetti. 2012'ye gelindiğinde son derece güçlü hale geldiler ve bazı amaçlar için CPU'lardan daha verimliydiler. CPU, çoğu bilgisayarın geleneksel dayanak noktasıdır [çekirdek].

Devrim, 2012'de Hinton ile çalışan bir araştırma ekibi de dahil olmak üzere bir grup insanın sinir ağlarının gücünü büyük ölçüde artırmak için GPU'ların gücünü kullanmanın bir yolunu bulmasıyla geldi.

Marcus ve Davis'i gözlemleyin:

Bir anlamda, en önemli ilerleme, çoğu 80'lerden kalma sinir ağlarının matematiğindeki bazı temel teknik buluşlardan gelmedi. Bilgisayar oyunlarından geldi. Veya daha spesifik olarak, sinir ağı topluluğunun yapay zeka için dönüştürdüğü GPU (Grafik İşleme Biriminin kısaltması) olarak bilinen belirli bir donanım parçası tarafından.

Imagenet Yarışması 2012

2012'de, ilk Imagenet Challenge'dan iki yıl sonra, belki de AI'nın mevcut yükselişini ateşleyen olay meydana geldi. Hinton, Toronto Üniversitesi'nden iki öğrencisi Ilya Sutskever ve Alex Krizhevsky ile birlikte, Krizhevsky tarafından tasarlanan evrişimli bir sinir ağı olan AlexNet ile yarışmaya katıldı.

Hâlâ aramada çalışan AlexNet, alanı yüzde 10,8'lik büyük bir farkla yendi veya bir sonraki en iyi performans gösterenden %41 daha iyi. Kesin olduğu kadar beklenmedik bir sonuç. LeCun diyor ki:

Aradaki fark o kadar büyüktü ki, birçok insan kafalarında çıldıran devasa bir düğme görebiliyordu... Artık ikna olmuşlardı.

AI'nın yükselişi başlıyor

O kadar yankılanan bir zafer ki, kısa süre sonra Google'ın üç kazananı işe almasına neden oldu. Krizhevsky'yi hatırlayın:

Oldukça gerçeküstü [bir duruma] dönüştü. … Çok geçmeden devralma teklifleri almaya başladık. Çok sayıda e-posta.

Şanslı "tesadüfler" çemberini kapatmak için Imagenet tarafından duyurulan yarışma da Hinton ve öğrencileri için tam da doğru zamanda geldi.

Bugün, bu tür evrişimli sinir ağları her yerde… Artan soyutlama seviyeleri sayesinde pikseller arasındaki örüntüleri tespit ederek bir görüntünün içinde ne olduğunu söyleyebilirler. Her seviye için binlerce ila milyonlarca küçük hesaplama kullanırlar. ... Hinton, meslektaşlarını onlarca yıldır onları ciddiye almaya çağırıyordu. Ancak, artık diğer son teknoloji teknikleri yenebileceklerine dair kanıtı vardı.

Bu Imagenet 2012 etkinliği, kesinlikle bugünkü büyük AI patlamasını tetikleyen şeydi.

Daha önce konuşma tanımada kesinlikle çok ümit verici sonuçlar olmuştu (bunların çoğu yine Toronto'da gerçekleşti). Ancak, ImageNet'in 2012'deki ve sonraki yıllarda kazandığı kadar halka açık bir şekilde yükselmediler.

Yanıltıcı ilerleme boşluğu

Sinir ağları ve makine öğrenimi artık yapay zeka dünyasında ve daha genel olarak bir bütün olarak teknolojik sektörde her yerde bulunsa da, daha yapılacak çok şey var. Şaşırtıcı ilerlemeler kaydedilmiş olsa da sektörü kasıp kavuran itici güç azalmış veya en azından azalmış görünüyor.

Bir kez daha, AI, en azından şimdiye kadar, hem kendisine eşlik eden vaatleri hem de yarattığı muazzam beklentileri, devasa yatırımlardan bahsetmeye bile gerek yok, tam olarak karşılayabildiğini göstermedi.

Tam olarak makine öğrenimine (çeşitli biçimlerde) dayanan yapay zekaya yönelik şu anda baskın olan yaklaşım, bazı çatlaklar gösterdi. Satranç, Go, poker, video oyunları vb. alanlarda elde edilen başarılar bu metodolojiyi yüceltmiştir.

Yine de onu kapalı evrenlerin, iyi tanımlanmış ve sınırlandırılmış ortamların dışına "ihraç etme" girişimleri her zaman verimli olmadı ve sınırlarını ve kırılganlığını ortaya çıkardı. Ve böylece zorluklar ve başarısızlıklar geldi.

Marcus ve Davis "yanıltıcı ilerleme farkı"ndan veya "... basit problemlerdeki yapay zekanın ilerlemesini karmaşık problemlerdeki ilerlemeyle karıştırmaktan" bahsediyorlar (Gary F. Marcus, Ernest Davis, Rebooting AI. Building Artificial Intelligence We Can Güven , 2019)

Yapay zekanın başarısızlıkları

En sansasyonel başarısızlıklardan bazıları sağlık hizmetleri alanında meydana geldi. Bugüne kadar, araştırma ve tıbbi tedavi sektöründe AI'nın somut uygulamasını öngören en iddialı programlardan bazılarının başarılı olduğu söylenemez. Gerçekten de hem IBM markası Watson, Watson Health'e, hem de daha spesifik olarak birkaç yıl içinde kanseri yenmeyi kendisine hedef edinmiş onkoloji için Watson'a bağlıydı; her ikisi de akut böbrek yetmezliğinin (AKI) erken teşhisini amaçlayan Deep Mind'ınki. Her ikisi de aksiliklere, aksiliklere, ağır eleştirilere, firarlara maruz kaldı.

Yatırımcıların soğuması

Bazıları, sektöre yapılan yatırımların uzun vadede karlı çıkmaması durumunda, borç verenlerin faizinin başarısız olabileceğinden korkuyor.

Örneğin Deep Mind, son üç yılda ağır kayıplar gördü. IBM, kendi payına, art arda 22 çeyreklik düşüşün ardından gelirinde yalnızca yakın zamanda bir artış bildirdi.

Bu nedenle birçok çevrede yapay zeka için yeni bir kışın yaklaştığı korkusu var. Medya tarafından da körüklenen propagandanın yarattığı beklentiler açıkça aşırı. Bu, yeni bir hayal kırıklığı, ilgisizlik ve finansmanda ciddi bir düşüş döngüsünün habercisi gibi görünüyor.

Yine de geçmişe göre bazı önemli farklılıklar var.

Yeni bir kış mı geliyor?

Dreyfus şöyle yazıyor: "Bildirilere ve kehanetlere, kitle iletişim araçlarının ilan ettiğine veya sinemanın bize gösterdiğine rağmen, yapay zeka bir oldu bitti değil, bir vaattir" (Hubert L. Dreyfus, Bilgisayarların yapamayacağı şey. Sınırları yapay zeka, Armando 1998).

Bugün, Dreyfus tarafından geliştirilen gözlem, yapay zekanın nihai hırsına atıfta bulunmamız koşuluyla, tüm geçerliliğini koruyor: insan beynine mümkün olduğu kadar yaklaşmak ve sonunda onu geçmek.

Ancak yapay zeka, pratik düzeyde artık günlük hayatımızı etkileyen birçok kullanım alanı bulmuştur. Tiernan Ray'in işaret ettiği gibi:

Makine öğrenimini kullanmak artık tam anlamıyla akademik bir faaliyet değil, artık endüstriye ait. Ve endüstri, zihin yaratmakla hiçbir ilgisi olmayan şeyleri makine öğrenimiyle yapmanın yollarını buluyor.

Bu, geçmişe göre ötekiliğin ilk çağrışımıdır, ancak başkaları da vardır. Ray devam ediyor:

Basit bir nedenden dolayı farklıdır: yapay zeka, derin öğrenme adı verilen en son enkarnasyonunda "sanayileşmiş" hale geldi. Şimdiye kadar ilk kez yapay zeka, işletmelerin çalışma şeklinin bir parçası. Bu, eleştirmenler tarafından vurgulanan eksikliklerin ötesinde ona yeni bir değer verir.

AI'nın sanayileşmesi Bu nedenle, Gary Marcus'un belirttiği gibi:

Kurumsal dünya yapay zekaya daha az güvenebilir, ancak bundan tamamen vazgeçmeyi göze alamaz.

Ayrıca, ki bu geçmişle olan süreksizliğin bir diğer unsurudur, aslında araştırma fonu artık büyük ölçüde hükümetlerden gelmiyor, özel sermayeye ait. Bunlar da bildiğimiz gibi öncelikle ekonomik getiri hedefliyor.

Bununla birlikte, bazı cesaret verici işaretlere rağmen, yapay zekaya yapılan yatırımların karlılığı henüz kanıtlanmamıştır. Bununla birlikte, kamu bileşeni, yüksek bir finansman akışını sürdürme avantajına sahip olabilir. Şu anda yapay zeka alanındaki öne çıkma, hegemonik güçlerin hiçbirinin vazgeçmek istemediği bir üstünlük vaat ediyor.

Geride kalmak, ister bir şirket ister devlete ait bir şirket olsun, herkes için ölümcül olabilir.

Büyük veri sorunu

Başta kullanıcıları olmak üzere verilerden çeşitli biçimlerde "değer" çıkarabiliyor olması, web devlerinden start-up'lara kadar şirketlere bir tür ek avantaj sağlıyor. İşte başka bir yenilik.

Bu girişimlerin önceki yapay zeka dönemlerine göre temel farkı, kendilerini müşteri verilerini kullanacak şekilde konumlandırmış olmalarıdır. Bu yeni girişimler, her şeyi optimize etme konusundaki açık vaatlerini yerine getirmeseler bile, verilerle ilgilenerek masada bir koltukları olacak. Fransız sosyolog Dominique Cardon'un gözlemlediği gibi:

Veri madenciliği var çünkü bilgisayarlı toplumumuzun yaşamını tanımlayan çok sayıda veriyi analiz ederek rekabet avantajı elde etmek mümkün.

Bütün bunlar, yapay zekayı geçmişe kıyasla çok daha bütünleşik ve gerçekliğe "bağlı" hale getiriyor, kurumsal dünyada ve bir bütün olarak toplumda.

Yeni bir kış olmayacak

Bu nedenle, bu unsurların toplamı olası yeni bir buzul kışını engelliyor gibi görünüyor. Ancak dikkate alınması gereken son bir faktör daha vardır: Güven.

AI kışı, esas olarak hükümet bürokratları ve risk sermayedarları tarafından AI'ya yönelik algının çöküşünden oluşur. Bugün yapay zeka her zamankinden daha fazla çeşitli konularda güvene ihtiyaç duyuyor. Bu güven yukarıda belirtilenlerin çok ötesine geçerek belirsiz bir kamuoyu katmaktadır.

Yapay zekanın yatırımcılara, hükümetlere ve genel olarak medyaya verdiği sözleri (en azından kısmen) yerine getirmesi artık yeterli değil. Kullanıcıların güvenine ihtiyacı var. Yani, onu kullanan ve hatta kendilerini onunla "işbirliği yapmak" zorunda bulan basit kullanıcılar veya profesyoneller.

AI, terimin anlamsal anlamının tüm yelpazesinde "güvenilir" olmalıdır. Güvenilir, güvenilir ve nihayet güvenli.

Risk, toplumdaki pratik uygulamasının, olağan gerçeklik içinde, tamamen veya kısmen başarısız olmasıdır. Eğer bu gerçekleşirse, yansımaları yatırım ve araştırmayı etkilemekten geri kalamaz. Bu noktada yeni, soğuk bir kışın kapıları aralanabilir.

Yoruma