Yapay zekâ savaşın her yönünü değiştiriyor

Tercüme: Aslan Yaman (The Economist’te yayınlanmıştır)

Bir donanma uçağı orman üzerinde alçaktan uçarken aşağıda gölgelikler içinde görünen çalıların içine küçük bir paraşüt çadırı ile sallanarak inerken içinde bazı cihazların yer aldığı bir paket bıraktı. Pakette yer alan cihazlardan bazıları gerillaların ayak seslerini veya kamyonların çalıştırılmasını dinleyecek mikrofonlardı. Diğerleri yerdeki en küçük titreşimleri bile hissedebilecek sismik dedektörlerdi. Bu sensörler arasında en garip olanı ise insan idrarındaki amonyağı koklayan koku alma sensörleriydi. Bu elektronik cihazların on binlercesinin topladığı veriler insansız hava araçlarına (İHA) ve bilgisayarlara aktarıldıktan birkaç dakika sonra, savaş uçakları algoritmik olarak dizgelenmiş kare şeklindeki halı bombardımanını gerçekleştirmek üzere havalanmıştı bile. Igloo White Operasyonu 1970’te savaşın geleceği haline gelmişti.

Amerika’nın, Laos’tan Vietnam’a yürüyen Ho Chi Minh’in yolunu kesme çabası başarılı olamadı. Yok edilen her kamyon için 100 bin dolar (bugünkü değeri 730.000 dolar) maliyet üzerinden her yıl yaklaşık 1 milyar dolar (bugüne göre yaklaşık 7.3 milyar dolar) harcanmasına rağmen sızma durdurulamadı. Ancak, yarı otomatik savaşın cazibesi asla eksilmedi. Sensörlerden veri toplama, onları daha fazla işlem gücü ile beslenen algoritmalar ile işleme alma ve çıktılarıyla düşmandan daha hızlı hareket etme fikri, dünyanın en büyük güçleri arasındaki askeri yarışın merkezine yerleşti. Bugün bu askeri düşünceler, yapay zekâdaki yeni gelişmelerle güçlendiriliyor .

“Gelecekteki savaş alanının karakterini değiştirmeye hazır”, yapay zeka, Amerikan Savunma Bakanlığı’nın  Şubat ayında açıkladığı ilk strateji belgesinde yer almış, 2018 yazında Pentagon’da Ortak Yapay Zekâ Merkezi’nin (JAIC) çalışmaları başlatılıp Mart ayıda da Ulusal Yapay Zekâ Güvenlik Komisyonu ilk kez toplanmıştır. 2020 yılı için Pentagon’un bütçesinde yapay zekâ için neredeyse 1 milyar dolarlıkk bir kalem ve onun dört katı kadarlık bir miktar da yapay zekâya bağlı olarak çalışacak insansız ve özerk yetenekleri olacak projeler için bütçe oluşturuldu.

Makinelerin yükselişi

 2030 yılına kadar sağlayacağı gelişmelerle yapay zeka konusunda (hangi önlemlerin alındığı tam da belli olmayan) dünya lideri olmak isteyen Çin’de de benzer bir faaliyetin yerine getirilme telaşı yaşanıyor. Rusya’da da Başkan Vladimir Putin’in ünlü öngörüsü “bu alanda lider olan dünyanın da hükümdarı olacak” öngörüsüne uygun adımlar atılıyor. Ancak çelişki şuradadır ki; yapay zeka bir anda savaş sisine nüfuz edip bu sisi kalınlaştırarak, insanları görünmez hale getirecek bir hız ve karmaşıklıkla çalışmalarına izin de vermektedir.

Yapay zeka, 1950’lerde kendisine öncülük etmiş olan kural takip sistemlerinden, bilgisayarların kendi kendilerine görev yerine getirmeyi öğrettikleri modern olasılık-temelli makine öğrenmesine kadar uzanan çeşitli teknikleri kapsayan geniş ve bulanık bir terimdir. Derin öğrenme; beynin çalışma şeklinden ilham alan sinir ağı katmanlarını içeren, makinelerin öğrenmesinden, özellikle şık ve güçlü bir yaklaşımla nesne tanıma, çeviri, ve oyun oynama gibi çeşitli görevlerde oldukça ustalaştığını kanıtlamıştır. Pennsylvania Üniversitesi’nden Michael Horowitz yapay zekâyı, içten yanmalı motor veya elektrikle – sayısız uygulamaya sahip bir teknoloji- karşılaştırarak yapay zekanın askeri uygulamalarını üç çeşide ayırmaktadır: Birincisi, makinelerin insan gözetimi olmadan hareket etmesine izin vermek, ikincisi, büyük miktardaki verileri işlemek ve yorumlamak. Üçüncüsü, savaşın emir ve kontrolüne yardım etmek veya hatta bizatihi yürütmek.

Savaş alanından başladığımızda ilk göreceğimiz özerkliğin cazibesi olacaktır – robotlar insanlardan daha ucuz, daha sert ve insandan daha kolay bir şekilde feda edilebilir niteliktedir. Ancak, savaş alanını dolaşabilecek ve üzerine kan dökülecek tek başına bir makinenin bu yükü taşıyacak kadar akıllı olması gerekir – akıllı olmayan bir insansız hava aracı bir savaşta uzun süre dayanamaz, daha da kötüsü, üzerine silah yerleştirilmiş akıllı olmayan bir robot suç işlemesi an meselesi olan potansiyelini gerçekleştirmesi beklenen bir savaş suçlusudur. Bu nedenle, yapay zeka yeteneklerle donatılmış ihtiyaç duyulan becerilere sahip olmak için gerekli bir makinedir. Bunlar, algı ve gezinme gibi basit becerileri ve diğer ajanlarla koordinasyon gibi üst düzey becerileri içerir.

Bu yetenekleri birleştiren akıllı makineler, insanların tek başlarına yapamayacakları şeyleri yapabilir. Londra’daki King’s College’dan Kenneth Payne, “hali hazırdaki bir yapay zeka sistemi, yapılan simülasyonlarda, havada çarpışma deneyimine sahip bir askeri pilottan daha iyi performans sergileyebilir” diye not düşüyor. Pentagon’un Mavi Gökyüzü Düşünce Birimi  olan Savunma Gelişmiş Araştırma Projeleri Ajansı (DARPA), Şubat ayında, “yüksek tehditli” bir ortamda işbirliği yapabilecek yetenekte altı güçlü İHA kümesinin en son testini gerçekleştirdi hatta bu testte insan müdahalesinin olmaması da sağlanmıştı.

Bütün bunlar için, bu tür sistemlerin çoğu, iyi tanımlanmış bir ortamda tek bir işte iyi olan, ancak bilmediğiniz ortamlarda kötü şekilde başarısız olma ihtimaline sahip olan dar ve kırılgan bir istihbarat içerir. Dolayısıyla, mevcut özerk silahlar (siha) ya radarlara yakalanan uçaklara ateş eden füzeler ya da gemileri ve üsleri savunan hızlı ateşleyen silahlardan oluşmaktadır. Yararlı, ancak devrim niteliğinde olmayan – ve son yıllarda öncü olan-fantazi makine öğrenme tekniklerini de gerektirmiyor.

Geliştirin, geliştirin, geliştirin…

Yapay zekanın yalnızca savaş alanlarında angarya işleri yaptırmak için yararlı olduğunu düşünmek hata olur.   Robotlar, katil ya da başka türlü, her ne iseler, gördükleri üzerine hareket etmelidirler. Ancak, casus uçaklar ve uydular gibi birçok askeri platform için esas olan, yararlı istihbarata dönüşebilecek ham verileri elde etmektir. Şimdi her zamankinden çok daha fazlası var – verilerin bulunduğu en son yıl olan yalnızca 2011’de, 11.000 kadarı insansız hava aracı 327.000 saatten fazla (37 yıl eder) çekim yapmıştır.

Bu çekimlerin çoğu izlenmemiştir. Neyse ki, yapay zekanın ikinci büyük uygulama alanı olan silahlı kuvvetlerde  veri işlemesinde kullanılacaktır. Laboratuvar tabanlı testlerde algoritmalar, görüntü sınıflandırmasındaki insan performansını geçmiş, 2015 yılına gelindiğinde daha zor görevler için kendi veri işleyişini iki katından fazla artırmıştır ki;  Stanford Üniversitesi’nin yıllık indeksine göre, 2015 ve 2018 yılları arasında, tek bir görüntüden birden fazla nesne seçmeyi içeren nesne bölümlendirmesi daha da zorlaştırılmıştı. Bilgisayar görüşü, kusursuz olmaktan uzaktır ve aptal olmayan bir insan gözlemci tarafından, kötü niyetli olarak kullanılabilir. Bir çalışmada, insanlara açık olmayan bir panda görüntüsündeki piksellerin% 0,04’ünün (onbinde dört) değiştirilmesi sistemin panda yerine bir Asya Maymunu görmesine neden oldu.

Bu zayıflıklara rağmen, Şubat 2017 itibariyle Pentagon’un kendisi, derin öğrenme algoritmalarının “insan seviyesine yakın seviyelerde yapılabileceği” sonucuna vardı. Bu nedenle, başlangıçta IŞİD’e karşı yürütülen savaştan sahne çekimlerinde ve daha geniş ölçüde nesneler ve şüpheli eylemleri tanımlamak için derin öğrenme ve diğer teknikleri kullanmak üzere Proje Maven olarak bilinen “Algoritmik Savaş” ekibini kurdu. Amaç “harekete geçirilebilir” istihbarat üretmektir – çoğunlukla bombalama veya özel kuvvetlerin kapıları tekmeleyerek içeri girdiği türden.

Maven Projesi hakkında bilgi sahibi olan içeriden bir kişi; yapay zekanın analistlere sağladığı zaman tasarrufu ve yeni bakış açıları ortaya koyması faydalarının şimdilik marjinal kaldığını söylüyor. Örneğin, tüm şehirlerde görülebilecek geniş açılı kameralar çok sayıda yanlış pozitif ortaya çıkarmaktadır. “Fakat bu sistemlerin doğası oldukça tekrarlayıcıdır” diyor. İlerleme hızlı ve Proje Maven buzdağının sadece görünen yüzü.

Şimdi, bir İngiliz şirketi olan Earth-i’de çalışan, emekli bir hava tümgeneral olan Sean Corbett’e göre, düzinelerce üste farklı askeri uçak değişimlerini yüzde 98’in üzerinde doğrulukla belirlemek için çeşitli uydulardan elde edilen verileri makine öğrenme algoritmaları uygulayarak çözümleyebilir ve verileri kısa sürede işleyebiliriz. “Akıllı bitler kullanılarak normal ve anormal gidişatları otomatik olarak belirleyecek bir metot geliştiriliyor” diye ekliyor. Yazılımla zaman içinde üsler izlenerek, rutin dağıtımları düzensiz hareketlerden ayırabilir, analistleri önemli değişiklikler halinde uyarabilir.

Algoritmalar elbette her şeyi yiyerek beslenen bir canlıdır ve sadece görüntüler için değil her türlü veriyle beslenebilir. İngiltere casusluk teşkilatı MI6’nın başkanı Sir Alex Young Aralık’ta yaptığı açıklamada, “Modern analizlerle bir araya getirilmiş toplu veriler modern dünyayı şeffaflaştırıyor” dedi. 2012 yılında NASA’dan sızan belgelerde Amerika’nın sinyal istihbarat teşkilatı, terörist gruplar için kurye olabilecek bireyleri belirlemek için Pakistan’ın cep telefonu verilerine makine öğrenmesi uygulayan bir program (Skynet adını verdi) tanımladı. Bir kişi, örneğin, geçen ay Lahor’dan sınır kasabası Peşaver’e seyahat etmişti ve telefonlarını her zamankinden daha sık kapatıp değiştirmişti? 2016 yılına kadar İngiliz Birleşik Güçlerini yönetmiş emekli bir general olan Sir Richard Barrons, “Komutanlar bir soru sorduğunda ve istihbarat teşkilatı cevabı bulmak için ellerindeki varlıkları karıştırdıkları eski dünyadan, verilerin bulutta olduğu yapay zekaya doğru bir kayma başlamıştır” diyor.

Aslında, söz konusu verilerin her zaman bir düşmandan gelmesi gerekmez. Oysa, Jaic’in ilk projesindeki amacı ne silah ne de casusluk aracı değil, Black Hawk helikopterlerinde motor arızalarını tahmin etmek için özel kuvvetlerle işbirliği yapmaktı. Algoritmanın ilk versiyonu Nisan ayında teslim edildi. Komuta kontrol uçakları ve taşıyıcılar üzerindeki hava kuvvetleri testleri göstermişti ki; bu tür öngörücü bakımın planlanmamış çalışmaları neredeyse üçte bir oranında azaltabilecek ve böylece de Pentagon’un şu anda bakım için harcadığı 78 milyar dolarlık harcamadan büyük kesintilere izin verebilecekti.

Yapay zekâ darbesi

Bilgi işlemenin amacı, elbette üzerinde işlem yapmaktır. Ve üçüncü yol yapay zeka en düşük komuta kademesinden genel kurmaya kadar karar vericilerin içine sızarak savaşı değiştirecek güce sahiptir. İsrailli yapay zeka firması olan Uniquai tarafından geliştirilen “Northern Arrow”, isimli cihaz  komutanlara plan görevlerini yerine getirirken eski usulle haritalar ve tablolar üzerinde çalışarak 12 ila 24 saat arasında sürecek verileri kısa sürede işleyerek düşman pozisyonları, silah menzili, arazi ve hava durumu gibi değişkenler hakkındaki büyük hacimli verileri kırarak görevlerini planlamakta yardımcı olan piyasadaki pek çok üründen biridir. Kitap ve kullanım kılavuzlarından gelen verilerle – yani farklı yüksekliklerde tank hızlarında-ve ayrıca tecrübeli komutanlarla yapılan görüşmelerden elde edilen verilerle beslenir. Algoritma daha sonra acele karar vermek durumunda olanlara, her birinin neden seçildiğinin bir açıklamasıyla beraber ek seçenekler sunar.

Northern Arrow ve Amerika’nın askeri öğrencilerinin gerçekleştirdiği benzer yazılımlar gibi bu “uzmanlık sistemi” zeminleri insan zekasından çok daha hızlı çalışabilir – bir testte insanlar için 16 kişi-saat ile elde edilen veriler bir öğrenci için 2 dakika süren veri elde etme süresiyle karşılaştırıldığında ne kadar hızlı olduğu görülür ki; genellikle böylesi bir çalışmada tekniklerin algoritmik olarak doğru gittiğinin takip edilmesi için kurallar konulması eğilimindedirler. Tarihsel standartlara göre bu, yapay zeka olarak kabul edilmekle birlikte çoğu, aynı girdilerin daima aynı çıktıları üreteceği anlamına gelen gerekirci yöntemler kullanır. Bu da, 1945’te topçu ateşleme masaları üreten, dünyanın ilk elektronik genel amaçlı bilgisayarı olan Eniac’ın çıktılarını kullanan askerlere tanıdık gelecektir.

Gerçek dünyada, rastgelelik çoğu zaman kesin tahminler yapma yoluna girer; bu yüzden birçok modern  yapay zeka sistemi kural izlemeyi daha karmaşık planlama için bir basamak taşı olarak eklenen rastgelelikle birleştirir. Darpa’nın Gerçek Zamanlı Çekişmeli İstihbarat ve Karar Verme (“ Baskın” ) yazılımı, düşman kuvvetlerinin hedeflerini, hareketlerini ve hatta olası duygularını gerçekleştirilmeden beş saat önceden tahmin etmeyi amaçlamaktadır. Sistem, problemleri daha küçük oyunlara indirgeyen ve çözmek için gereken hesaplama gücünü azaltan bir tür oyun teorisine dayanır.

2004- 2008 arasındaki erken testlerde,“Baskın”; testi, insan planlamacılardan daha yüksek doğrulukta ve hızda gerçekleştirdi. Simüle edilmiş Bağdat’taki iki saatlik savaşlarda, insan takımı hem “Baskın”a hem de diğer insanlara karşı çukurlaştırılarak onlara zamanın yarısından daha azını ayırabilecekleri söylendi. Iraklı isyancıları yazılımdan “korktuğunu” simüle etmek için emekli albaylar tasarlandı. Tasarımcılardan Boris Stilman’ın “birbiriyle konuşmayı bıraktıklarını ve bunun yerine el sinyallerini kullandıklarını” belirtti. “Baskın”  şimdi ordunun kullanımı için geliştiriliyor.

En son derin öğrenme sistemleri hepsinin en esrarengizi olabilir. Mart 2016’da DeepMind tarafından oluşturulan derin öğrenme algoritması AlphaGo, eski bir Çin strateji oyunu olan Go’daki dünyanın en iyi oyuncularından birini yendi. Süreçte, uzmanları şaşırtan birçok yaratıcı hamle yaptı. Gelecek ay, Çin Askeri Bilim Akademisi, maçın sonuçları üzerine bir atölye çalışması düzenledi. Çin askeri yenilikler konusunda uzman olan Elsa Kania, yazdığı bir yazıda “Çin askeri strateji uzmanları için, AlphaGo’nun bu zaferi alınan dersler arasında olmalıydı ki; yapay zeka, savaş oyunları ile karşılaştırılabilir bir oyunda bir insan oyuncudan daha üstün taktik ve stratejiler oluşturabilir”

Oyun oynayacak mıyız?

Aralık 2018’de DeepMind’in programlarından bir diğeri olan AlphaStar, sırayla değil gerçek zamanlı olarak oynanan ve potansiyel hamlelerde Go’dan daha fazla sebestlik derecesine sahip ve oyunculardan bilgileri gizlenmiş bir video oyunu olan StarCraft II’deki dünyanın en güçlü oyuncularından birini bozguna uğrattı. Pek çok görevli bu tür oyun oynama yeteneklerinin sonunda askeri tarihte kutlanan türden yaratıcı ve sanatsal manevralar için bir yetenek haline gelebileceğini umuyor. Pentagon’un Savunma Yenilik Birimi organından ticari teknolojilerden uygun olanları almakla görevli Michael Brown, yapay zeka seçiminde kendi bölümünün önceliklerinden birinin “stratejik muhakeme” olduğunu söylüyor.

Ancak, insan yaratıcılığını aşan algoritmalar da insan anlayışından kaçınırsa, hukuk, etik ve güven sorunlarının artmasına neden olurlar. Savaş kuralları, orantılılık (sivil zarar ile askeri avantaj arasında) ve gereklilik gibi kavramlar hakkında bir dizi yargıya ihtiyaç duyar. Neden bir hedefin seçildiğini açıklayamayan yazılım muhtemelen bu yasalara uymaz. Uyabilse bile, insanlar Magic 8-Ball’un görünürde yardıma benzeyen kararına güvenmemelidir.

Kalabalık zihniyet

“Bizim düşünebileceğimizin çok ötesinde pek çok askeri adımın çoklu etkileşimlerin olasılıksal çıkarımları, stratejileri ve hesaplamalarını yapılmış birçok hamle düşünen yapay zeka uygulamasına geçildiği zaman biz ne yapacağız” diye soruyor yapay zeka görevlisi yarbay  Keith Dear ve anlamadığımız bir idare tarzı öneriyor. Moldova’ya olası bir Rus askeri saldırısına cevaben Bakü’de bir operayı finanse etmeyi önerebilecek bir yapay zeka örneğini veriyor –  düşmanının kafasını kendi kuvvetlerini bölmeye itecek gerçeküstü kafa karıştıran bir manevra. Hatta, olayların siyasal zincirinin ele geçirilmesi ile sonuçlanabilecek ve komutanlar için hemen algılanamayacak bir yapay zeka adımıdır.

Buna rağmen, insanların belirsizlikle verimlilik arasındaki dengeyi kabul edeceğini öngörüyor. “Günümüz teknolojisinin sınırları olsa bile, bir  yapay zeka, işin yönetimini tümüyle ele geçirmemişse “gerçek-zamanlı bir simülasyon”  kullanarak“ gerçek bir dünya savaşında karar almayı” destekleyebilir.

Varılacak bu yer göründüğü kadar uzak değil. Sir Richard Barrons, İngiltere’nin savunma bakanlığının halihazırda büyük ölçekli çevrimiçi video oyunlarına güç veren yazılımın askeri bir versiyonunu (tek bir sentetik ortam olarak bilinen) karmaşık bir işletim ortamının bulut tabanlı sanal bir kopyası için zaten “Fornite” gibi bir teknoloji göstericisi satın aldığını belirtti. Bu program bir oyun şirketi olan Improbable ve kendi uçuş simülasyonlarını geliştirdiği bilinen Cae tarafından açık standartlarda kullanılmak üzere geliştirilmiştir. Böylece gizli istihbarattan gerçek zamanlı hava durumu verilerine kadar her şey yapay algoritmaya dahil edilebiliyor. Bu, “ulusal güvenlik konseyinden taktiksel komuta kadar tek bir sentetik komuta aracı” sağlayacaktır.”kontrolün nasıl yapıldığı ve nasıl komuta edildiğine ilişkin her şeyi kökten değiştirebilecek” diyor Sir Richard,”çok sayıda veri olduğu sürece, iletişim ağları hareket etmeyi sürdürecek ve bulut teknolojileri bu bilgileri işlemeye devam edecektir.” Bu da “milli güvenlik kurulundan tekli sentetik komuta aletlerinin taktik komuta düzeyine düşmesine yol açacaktır” diye ekliyor.   

İnsan olmaksızın her şey otomatik öyle mi?

Batılı hükümetler, insanları denetleyerek “döngüde” olacakları konusunda ısrar ediyorlar. Ancak bu denetimi yapan kendi memurlarının çoğu bile ikna edilemiyor.  Komutan Dear; “taktikten stratejik olarak karar vermede insanların hem döngü dışına çıkması hem de ekipten çıkması muhtemel görünüyor” diyor. Bayan Kania, “Mücadelenin insanın biliş kapasitelerinin ötesinde hız kazanacağı beklentisi Çin yazınını da tetikliyor” diyor ve “Sonuç sadece özerk silahlar değil aynı zamanda otomatik bir savaş alanı olacaktır. Savaşın başlangıcında, birbirine bağlı yapay zeka sistemleri, füze rampalarından uçak gemilerine kadar hedefleri belirleyecek ve en verimli düzende yok etmek için koreografi hızlı ve kesin grevler yapacaktır.”

Bunun daha geniş sonuçları belirsizliğini koruyor. Lawrence Livermore Ulusal Laboratuvarı için son zamanlarda yayınlanan bir makalede Zachary Davis, doğru ve hızlı vuruş ihtimalinin “algılanan sürpriz saldırı riskini artırarak istikrarı aşındırabileceğini” belirtti. Ancak  yapay zeka, savunmacıların, yaklaşmakta olan bir saldırının söyleyici işaretlerini tanımlayarak bu darbeleri karşılamalarına eşit düzeyde yardımcı olabilir. Veya Amerika’nın 1960’larda Vietnam ormanlarına algılayıcı saçma çılgınlığında olduğu gibi, bu tür programlar pahalı ve kötü niyetli başarısızlıklar olarak ortaya çıkabilir. Ancak hiçbir güç rakiplerinin arkasına düşme riskini almak istemez. Ve burada, politika, sadece teknoloji değil, bir etkiye sahip olabilmektir.

Pentagon’un 2016 yılı için geniş teknoloji firmaları tarafından kullanılan yapay zeka üzerinde harcama aralığı 20 ila 30 milyar Dolardır. Birçok Amerikan şirketi bu savunma bütçesini almaktan dolayı oldukça mutludur-Amazon ve Microsoft Pentagon ile yaklaşık 10’ar milyar Dolarlık bulut bilgi işlem sözleşmesi imzalıyorlar- diğerleri böylesi bir anlaşmaya halen mesafeli duruyor. Haziran 2018’de Google, Maven Projesi’nde çalışmak için 9 milyon dolarlık sözleşmesinin bu yıl atlamasına izin vereceğini ve 4.000 çalışanın şirketin “savaş teknolojisine” katılımını protesto etmesini sağladığını söyledi.

Öte yandan, Çin’de, şirketler devletin hizmetine girmeleri için kolayca baskılanabildiği gibi gizlilik yasaları da onlar için küçük bir engeldir. “Veri yapay zekanın yakıtı ise, herkesten çok veriye sahip olan Çin, dünyanın geri kalanı üzerinde yapısal bir avantaja sahip olabilir,” diye uyarıyor Birleşik Devletler eski savunma bakan yardımcısı Robert Work. Sivil verilerin askeri algoritmalara yakıt verip veremeyeceği açık değildir, ancak soru askeri liderlerin kafasında oynayıp durmaktadır. 30 Ağustos’ta Jiac yönetcisi General Jack Shanahan endişelerini dile getirerek “görmek istemediğim şey bizim potansiyel düşmanlarımızın tümü ile yapay zekayı kullanan güçlere sahip olduğu ancak bizim sahip olmadığımız bir gelecektir” diyor.

Kaynak: The Economist