Büyük teknoloji şirketlerinin kontrolsüz gelişmeyle ilgili endişeleriyapay zeka Son günlerde bu konu, bir dizi yanıt, görüş, yorum ve hatta siyasi tepkiye yol açtı. Ortak mesaj, daha fazla ihtiyatlı olunması gerektiğiydi. Ancak daha sonra ABD Başkanı Donald Trump, kendi üslubuyla Amerika Birleşik Devletleri'nin Çin ile oynadığı oyunu tanımlamaya çalışarak sert bir şekilde devreye girdi. öncelikle ve dolayısıyla tüm dünyayı etkiliyor. Ancak konu, olguyu anlamada pek yardımcı olmayan, hatta tamamen cesaret kırıcı olan bir dizi açıklama olarak kendini göstermeye devam ediyor. Yapay zeka gerçekten insanlığı tehdit edebilir mi? Washington ve Pekin arasındaki güçlü ikilik ortamında Avrupa hangi yolu izleyebilir? Yapay zekada hızlanmalı mı yoksa yavaşlamalı mı? Ama asıl sorun başka yerde yatıyor ve buna düzenleme deniyor. İşte, bu röportajda... FIRSTonline, siz ne düşünüyorsunuz? Marco BentivogliFIM CISL'in eski genel sekreteri ve şu anda öğretmen ve kıdemli danışman. Milano Politeknik Üniversitesi İşletme YüksekokuluÇalışma hayatı, inovasyon, yapay zeka ve endüstri konularında uzman olan Bentivogli, ulusal koordinatör olarak görev yapmaktadır. Baz İtalya ve faaliyetlerini yürütür. Yapay zekanın iş hayatı üzerindeki etkisine ilişkin araştırma ve imalat sanayindeki verimlilik ve benimseme stratejileri üzerine. Bentivogli, "Yapay zekanın yakında kontrolden çıkacağını söylemek bir zayıflık itirafı değil. Bu bir güç gösterisi," diyor. "Bu, piyasaya ürününüzün o kadar güçlü olduğunu, korkutucu olduğunu ve bu nedenle rekabetten önce, çok geç olmadan şimdi satın alınması gerektiğini söylemenin en etkili yoludur."
Amodei, Altman ve Musk: ABD'nin büyük teknoloji şirketlerinin CEO'ları birbiri ardına kendilerini ifşa etmeyi seçtiler ve Yapay zekâ konusunda alarm vermekSanki teknoloji insanlığın geleceğinin önüne geçmiş gibi. Şimdi, Çin ile rekabetin, kısmen Pekin'in Amerikan modellerine dayalı kapsamlı eğitimleri sayesinde son derece yüksek seviyelere ulaştığı ve Çin'i durdurmak için Amerika Birleşik Devletleri'nden müdahale istemenin açıkça gerekli hale geldiği doğru. Ancak soru şu: Bu alarm zilleri bugün de "yapay" mı, yoksa tam tersine, sizin görüşünüze göre haklı mı? Gerçek amaçları nedir?
Teknoloji geliştirenlerin dile getirdiği bir uyarı iki kez okunmalı. Birincisi içeriği için, ikincisi ise göndereni için. Amodei, Altman ve Musk dışarıdan gözlemci değiller. Yüz milyarlarca dolarlık bir yarışın kahramanları ve kuralları herkesten önce belirlemekte çıkarları var. Korkunun en güçlü satış aracı haline geldiği bir çağda yaşıyoruz. Bu, güvenlik, sağlık, finans ve hatta yapay zekâ için de geçerli. Kıyamet, insan kontrolünün sonu ve makinelerin yaratıcılarından kaçması hakkındaki konuşmalar tam olarak bu amaca hizmet ediyor.
Peki bu bir güç gösterisi mi?
Yapay zekanın yakında kontrol edilemez hale geleceğini söylemek bir zayıflık itirafı değil, bir güç gösterisidir. Bu, ürününüzün o kadar güçlü olduğunu ve korkutucu olduğunu, bu nedenle rakiplerinizden önce, çok geç olmadan satın alınması gerektiğini piyasaya anlatmanın en etkili yoludur. Hiçbir elektrikli süpürge satıcısı, cihazının insanlığı yok edebileceği konusunda uyarıda bulunmamıştır. Zeka satanlar bunu, korkunun gücü meşrulaştırdığı ve gücün fiyatı haklı çıkardığı için yaparlar. Felaketi duyurmak, ücretsiz olması ve gazeteler tarafından her gün daha da güçlendirilmesi avantajıyla, şimdiye kadar tasarlanmış en iyi reklam kampanyasıdır.
Peki, bu projenin geliştirilmesinin durdurulması talebi ne olacak?
"Uzmanların açık mektuplarında periyodik olarak dile getirilen yapay zekanın geliştirilmesinin durdurulması talebi bile teknik olarak bir..." şakaBir kapanmayı kim denetleyecek? Tüm şirketleri etkiler mi? Ve bu arada laboratuvarlarda neler olacak? Cevap yok, çünkü öneri bir aldatmaca, tamamen pazarlama taktiği. Bunun yerine, bu araçların yaygın bir şekilde bilinmesini sağlayalım ve gurulara daha az önem verelim. Şu anda ciddi bir sorunları var; iş modelleri henüz istikrarlı değil. Yarışı sürdürmek için muazzam finansal zorluklar yaşıyorlar ve etik sorunlar finansal sorunları örtbas etmeye yarıyor.
Bu olayın siyasi boyutu nedir?
İkinci bir siyasi amaç da var. Tehlikeyi alenen ilan edenler, bunu yönetebilecek tek kişiler olduklarını iddia ediyor ve politikacılardan çip, enerji ve veriye erişim engelleri ve halihazırda içeride olanlara göre uyarlanmış kurallar getirerek kendi çıkarlarını korumalarını talep ediyorlar. Aynı mantık Çin cephesinde de geçerli. Amerikan kurumları DeepSeek modellerinde zayıflamış güvenlik protokolleri bildirdiğinde ve Beyaz Saray Alibaba'yı Pekin'in askeri aygıtını desteklemekle suçladığında, görünüşte teknik bir savaşın içindeyiz. Yapay zekâ üzerindeki tüm anlamsal savaşlar gibi, açık, güvenli, egemen, kontrol edilemezBu durum, bir güç mücadelesini gizliyor. Uyarılar yanlış değil. Kendi çıkarlarına hizmet ediyorlar. Ve gerçek risk, teknolojinin insanlığın üzerinde üstün gelmesi değil. İnsanlığın kararlardan vazgeçip, zaten kendileri için karar vermiş olanlara yönlendirmeyi devretmesidir. Yapay zekanın tehlikesi, yer değiştirme değil, sorumluluktan kaçınmadır. Bu, işletmeler, hükümetler ve hatta üç CEO için bile geçerlidir.
Trump şöyle dedi: "Çin'e kıyasla lideriz ve açıkçası, liderliğimizi sürdürmemizi istiyorum çünkü yapay zekada kim kazanırsa o kazanır." Bu gerçekten doğru mu?
Bu bir toplanma çağrısı. Ve hatta Amerika Birleşik Devletleri'nin oynadığı oyunu bile kötü tanımlıyor. Yapay zeka dünyası iki ittifak halinde örgütleniyor: bir yanda Çin'in küresel iş birliği girişimi Waico, diğer yanda ise Amerikan liderliğindeki Batı bloğu 'Pax Silica'. İlki kendini evrensel iş birliği olarak sunuyor ve Küresel Güney'i hedefliyor. İkincisi ise, sadıklar için ayrılmış bir sınır bölgesi dışında herkese pazar sunan seçici bir müttefik ağı kuruyor. Bizi düşündürmesi gereken bir paradoks var. Açık toplum kapalı modeller üretir, kapalı toplum ise yükleri herkese dağıtır. Ama kelimelerinize dikkat edin. Çin modelleri... açık ağırlıklar, Hayır açık kaynakDeepSeek, Qwen ve Kimi yalnızca ağırlıkları, yani eğitilmiş parametreleri sağlar ve daha fazlasını değil. Eğitim verisi yok, kod yok, filtreler ve kültürel tercihler hakkında bilgi yok. Taşınabilir bir kara kutu, başkasının bulutunda yaşayan bir kara kutudan daha iyi, ama yine de bir kara kutu. İki blok da gerçek anlamda bir kara kutu değil. açık kaynak Açık Kaynak Girişimi'nin belirlediği anlamda ve bu iki şeyi birbirine karıştıran kişi her ikisine de iyilik yapmış olur."
Peki Çin'in açılımı nedir?
“Çin'in açıklığı cömertlik değil, metalaştırmaŞişelenmiş su ile musluk suyunu düşünün. İyi su nadir olduğu sürece, onu satan kişi fiyatı kontrol eder. Eğer biri herkese ücretsiz su sağlarsa, satanların işi çöker ve güç, boruları kontrol edene geçer. Çin, kapalı modellerin karlılığında Amerikalıları geçemiyor, bu yüzden Google'ın Android ile yaptığı gibi, bunu herkes için ortadan kaldırmaya çalışıyor. Ağırlığı azaltarak standardı fethetmiş oluyorsunuz. Singapur ulusal modelini Qwen üzerine kurdu, Huawei ise DeepSeek'i Afrika ülkelerinde buluta taşıyor.
Sonra?
Yani hayır, modelde kim kazanırsa her şeyi kazanmaz. Değer, çiplere, buluta, uygulamalara, standartlara ve her şeyden önemlisi benimsemeye, yani bir üretim sisteminin teknolojiyi süreçlere ve iş organizasyonuna entegre etme yeteneğine kayar. Trump bir konuda haklı: Bu, sistemler arasında bir rekabet. Ancak kazanan, teknolojiyi verimliliğe, ücretlere ve kamu yararlarına dönüştüren kişidir. En büyük modele sahip olan değil.
Yapay zekâ yarışında ABD ve Çin arasında iki atlı bir yarış olarak nitelendirilen durum devam ederken, Avrupa'nın da Fransız girişim şirketi Mistral gibi "kıta şampiyonları" olduğu doğru. Ancak aradaki fark inkar edilemez: Bizler sadece seyirci mi kalacağız? Oyun bizim için çoktan kaybedildi mi?
Bu kaybedilmiş bir savaş değil. Uykuda gibi ilerlediğimiz bir savaş. Avrupa için en büyük risk gecikme değil. Başka yerlerde belirlenmiş, kontrolümüz dışında olan teknolojiler için mükemmel kurallara sahip bir endüstriyel modele pasif bir şekilde bağlı kalmaktır. Mistral harika bir hikaye, ancak Amerikan standartlarına göre ölçersek Avrupa'nın cevabı olmayacak. OpenAI veya Anthropic'i ulusal bir programla kopyalamaya çalışmak ekonomik olarak imkansızdır. On milyarlarca veya yüz milyarlarca dolar ve sahip olmadığımız kritik bir altyapı ve uzmanlık kitlesi gerektirir.
Fakat…
Ancak asıl nokta farklı. İki blok arasında lider bir rol kazanmak için en azından teknolojiyi kullanmalıyız ve burada Avrupa ve İtalya arasındaki uçurum çok büyük. Benimsenme oranı hala çok düşük. En son ISTAT anketine göre, en az on çalışanı olan İtalyan şirketlerinin %16,4'ü en az bir yapay zeka teknolojisi kullanıyor. Bu rakam bir önceki yıla göre iki katına çıkmış olsa da, %20'lik Avrupa ortalamasının altında kalıyor ve büyük şirketler (her iki şirketten biri) ile küçük ve orta ölçekli şirketler (her altı şirketten biraz fazlası) arasındaki fark giderek büyüyor. Yatırım yapmayı düşünen ve sonra vazgeçen şirketlerin neredeyse %60'ı, beceri eksikliğine işaret ediyor. Ve üretimde çoğunlukla pilot projelerle sınırlıyız. Yapay zeka süper güçleriyle, kullanmama pozisyonundan müzakere edemezsiniz. Egemenliğin ilk adımı, ulusal bir model ilan etmek değil, bu araçları üretim süreçlerinde kullanmayı öğrenmektir. Ve daha sinsi bir sorun var çünkü bu günlük ve görünmez bir sorun.
Nedir?
Çalışırken kimi eğitiyoruz? Milyonlarca şirket ve çalışan her gün bulut tabanlı yapay zekayı kullanıyor. Her uyarı, yüklenen her belge, yapılan her düzeltme, ücretsiz sürümlerde neredeyse her zaman sağlayıcının gelecekteki modellerini besleyen birer malzemedir. Şirket yapay zekayı kullanmak için ödeme yapıyor ve aynı zamanda ona kendi bilgisini de veriyor: süreç bilgisi, sektör jargonları, çözülmüş vakalar, uzmanlar tarafından düzeltilen hatalar. On yıllar boyunca biriken bilişsel sermaye, kimse onu vermeye karar vermeden yurt dışına göç ediyor. Üretim sektörümüz bir altın madeni ve biz onun ücretsiz olarak işletilmesine izin veriyoruz.
Yani Avrupa yolu diye bir şey yok mu?
Avrupa yolu mevcut, ancak farklı. Tam egemenlik değil, göreceli bağımsızlık. Altyapı ve bilgi işlem gücü, kendine özgü endüstriyel uzmanlık, yerli açık kaynak modellerine hızla geçiş yapabilme yeteneği ve yapay zeka süper güçleriyle yerlerini alma yanılsaması yerine müzakere edilmiş ilişkiler. Ve duyuruları stratejilerle karıştırmayı bırakalım. Birçok ulusal "egemen" model, rekabet etme amacı gütmeden ortaya çıkıyor; "bizim de bir modelimiz var" demek için kullanılıyorlar. Sembolik sonuçlar arayan politikacılar için görünürlük egzersizleri. En ciddi boşluk teknolojik değil. Yönetimsel ve siyasi kültürde.
Ekonomik getirinin ölçülmesi: Palantir CEO'su Alex Karp ve Microsoft CEO'su Satya Nadella gibi Silikon Vadisi figürlerinin açıklamalarına göre, birçok şirket yapay zeka dil modellerini kullanmak için yüksek bedeller ödüyor ancak yatırımla orantılı verimlilik artışı elde edemiyor. Gerçekten de durum böyle mi?
Evet, bu doğru ve şaşırtıcı değil. Bu, her teknolojik dalgada tekrar eden Solow paradoksu. Teknolojiyi her yerde görüyorsunuz, ancak verimlilik istatistiklerinde görmüyorsunuz. Birçok şirket lisans satın aldı, pilot uygulamalar başlattı, inovasyon yöneticileri atadı. Sonra her şeyi olduğu gibi bıraktılar. Aynı süreçler, aynı hiyerarşiler, aynı iş organizasyonu. Buna, hiçbir şeyi değiştirmeden yapay zekayı benimsemek diyorum. Yapay zekanın yatırım getirisi nedir? Verimlilik modelin içinde değil, modelin mümkün kıldığı yeniden yapılanmadadır. E-postaları daha hızlı yazmak için bir LLM kullanan bir şirket hiçbir şey kazanmamıştır. Teknik ofis, üretim ve bakım arasındaki akışı, yapay zekanın işlediği veriler etrafında yeniden tasarlayan bir şirket ise başka bir şey yapıyor demektir. Yapay zekanın benimsenmesi, dönüşüme eşlik edecek fikirler, çalışma ve organizasyonel mimarlar gerektirir. Çoğu İtalyan şirketi en fazla lisans satın alıyor ve sonra verimliliğin artmadığından şikayet ediyor. Karp ve Nadella, şirketlerin orantılı sonuçlar almadan para ödediğini söylediklerinde doğruyu söylüyorlar, ancak yanlış soruna işaret ediyorlar.”
Belirtilmesi gereken doğru sorun ne olurdu?
Sorun teknolojinin fiyatı değil. Sorun, şirket içinde teknolojiyi farklı bir çalışma biçimine dönüştürme yetkisine ve becerisine sahip kimsenin olmaması. Bu yüzden iş mimarı rolüne ve geçiş destek ekiplerine ısrar ediyorum. Organizasyonel bir plan olmadan yapay zeka bir yatırım değil, bir maliyettir. Ayrıca, "Yapay zeka yaptı" dediğim, yani yapay zekanın, yapay zekayla hiçbir ilgisi olmayan yönetimsel kararlar için bir bahane olarak kullanılması gibi ters bir risk de var.
Coşku ve şüphecilik arasındaki zıtlığa rağmen, hafife alınmaması gereken bir alan var: yapay zekanın sağlık hizmetlerindeki uygulaması. Doktorlar birliği Anaao-Assomed, araştırma merkezinin hazırladığı bir raporda, "Yapay zekanın ve dijitalleşmenin sistematik olarak benimsenmesinin 22 milyar avroya kadar potansiyel tasarruf sağladığını" vurguladı. Kamu sağlık hizmetlerini kurtarmak için, bu kaynaklar ve profesyoneller için serbest kalan zaman, kesintilere veya özelleştirmeye yol açmak yerine, kamuya açık ve şeffaf bir altyapı aracılığıyla stratejik olarak yönetilmelidir." Bu konuda ne düşünüyorsunuz?
Anaao raporu doğru bir şey söylüyor ve tartışılmayı hak eden bir şeyi ima ediyor. Doğru olan şey, sağlık hizmetlerinde yapay zekanın zaman ve kaynak tasarrufu sağlaması ve bu zamanın kesintilere değil, bakım ilişkisine geri kazandırılması gerektiğidir. Zamanının büyük bir kısmını dokümantasyon ve bürokrasiyle geçiren bir doktor, yapay zekanın azaltabileceği bir israftır. Buna yürekten katılıyorum. Gelişmiş ülkelerde, doktorların her hasta için gizliliği koruyan, birlikte çalışabilir verilere sahip gelişmiş bir kontrol paneli vardır. Burada ise kalemle yazıyorlar. Sağlık kayıt sistemi hala tüm bölgelerde çalışmıyor. Tartışılması gereken şey, tasarrufların doğru yöne gitmesini sağlamak için kamuya açık ve şeffaf bir altyapının yeterli olduğu fikridir.
Yeterli olmadığı anlamında mı?
Hayır, yeterli değil. Altyapı ön koşuldur, garanti değil. Boşalan zaman kendiliğinden yeniden dağıtılmaz. Şu anda kimsenin planlamadığı, sağlık hizmetlerinin yeniden düzenlenmesine ihtiyacımız var; bu süreçte profesyonellerin yer alması ve sonradan etkilenmemesi gerekiyor. Aksi takdirde, tasarruflar her zaman olduğu gibi bütçeye gidecek ve doktorlar daha fazla hasta ve aynı çalışma saatleriyle karşı karşıya kalacak.
Öncelikle doktor sendikalarının dile getirmesi gereken bir nokta var. Sağlık hizmetlerinde yapay zeka, klinik verilerin kamu yararı olarak yönetilmesi şartıyla işe yarar. Elektronik sağlık kaydı, yirmi yıl sonra bile hala geliştirme aşamasında. 22 milyar avroluk tasarruftan bahsetmeden önce, bu verilerin nasıl kullanılabilir, güvenli ve birlikte çalışabilir hale getirileceğinden bahsedelim. Bunlar olmadan, sağlık hizmetlerinde yapay zeka sadece bir konferans olarak kalacaktır.
Bill Gates'e göre çözüm, yapay zekayı durdurmak değil, "yönetmeye hazırlanmaktır". Bu, sayıları ve kapsamı etkileyici olan yeni bir olguyla karşılaştığımızda her zaman söylenir. Söylemesi kolay, kısaca, ancak uygulamaya geçirmesi zor. Yapay zekayı yönetmek için ne yapılmalı?
Gates haklı, ancak bu ifade o kadar genel ki kimseyi bağlamıyor. Yapay zekayı yönetmek, hiçbiri yasa olmayan dört somut şey anlamına gelir. Birincisi, işi yönetmektir. Yapay zeka, görevleri, becerileri ve hiyerarşileri değiştirir. Bu değişime yalnızca teknoloji sağlayıcısı veya yalnızca üst yönetim karar verirse, direnişe ve başarısızlığa yol açacaktır. Geçişin, işçilerin ve temsilcilerinin tasarım sürecine dahil edilmesiyle, sonradan bilgilendirilmek yerine, birlikte yönetilmesi gerekir.
La ikincil mi?
İkincisi, sözleşme ve kuruluş bazında veri yönetimidir. Açıkça eğitim gerektirmeyen maddeler içeren kurumsal sürümler mevcuttur ve zorunlu olmalıdır. Çalışanların ücretsiz hesapları gelişigüzel kullanması, yani sözde gölge yapay zeka, şu anda kurumsal bilgi kaybının ana kanalıdır. Ayrıca sunucu konumunu egemenlikle karıştırmamaya dikkat edin. Kanada mahkemesi tarafından Fransa'da depolanan verileri teslim etmeye zorlanan OVHcloud davası, şirketi kimin kontrol ettiğinin, hangi yasaların geçerli olduğunun ve altyapının nasıl tasarlandığının önemli olduğunu göstermektedir. Dijital egemenlik haritada bir nokta değildir.
Üçüncüsü ise becerileri yönetmek. Milyonlarca programcıya ihtiyacımız yok. Teknolojiyi sorgulamayı, sonuçları yorumlamayı ve nerede yanlış gittiğini anlamayı bilen insanlara ihtiyacımız var. İtalya'da yetişkin eğitimi Avrupa'nın en düşük seviyelerinden biri. Hiçbir yapay zeka yönetimi bu temelde ayakta kalamaz."
Dördüncüsü eksik.
Dördüncüsü ise benimsemeyi düzenlemektir. Yapay Zeka Yasası riskleri düzenliyor ve bu iyi. Ancak, yapay zeka teknolojisine sahip olmayan yüz binlerce küçük ve orta ölçekli işletme için endüstriyel bir benimseme politikası yok. veri bilimcisi Ve asla sahip olamayacaklar. Yerel desteğe ve tanınmış profesyonellere, yapay zeka okulları açmaya ve teknoloji ve beceri transferine odaklanmaya ihtiyacımız var. Bulut, açık ağırlıklar ve açık kaynak arasında seçim yapmak, BT departmanına veya aradaki farkı anlamayan politikacılara devredilecek bir BT kararı değil. Bu, iş organizasyonu, kolektif bilginin korunması ve güçle ilgili bir seçim. Sadece modelin ne kadar açık olduğunu sormayalım. Bilgimiz olmadan ne kadar açık ve sömürüldüğümüzü de soralım.
