Kehanetler şiddetli bir şekilde yağıyor. Düşün ya da bat. Uy ya da öl. Yukarı bak ya da dışarıda kal. Ve böylece, bu pek de nazik olmayan tehditlerle, Yapay Zeka Çağı – Gerçek Aptallık, Gerçek Süper Aptallık, Tekrarlayan Kartopu Gibi Büyüyen Aptallık – üzerimize çöktü. Hatta bu giriş paragrafında iki tire kullandım bile. Dedikleri gibi, bu bir ipucu. Yani belki de bu denemeyi hiç yazmadım. Gerçekten yapay zeka olup olmadığını ve gerçekten ben miyim, değil miyim, yoksa sadece kısmen ben miyim diye kontrol etmek için bir yapay zeka uygulaması kullanmanız gerekir. Artık içgüdülerinizi kullanamazsınız. Uygulamayı kullanmalısınız. Yapay zeka artık tireye sahip olduğuna göre, gelecek nesiller Emily Dickinson ve onlara olan sevgisi hakkında ne düşünecek? O da makineye mi yem edildi? Onu daha az mı sevecekler? Yavaş yavaş dilden dışlanıyor muyuz? Artık bunun bir önemi var mı?
İnançtan çok yazarın egosundan kaynaklanan nedenlerle, Aziz Yuhanna İncili’nin ilk ayetine her zaman hayran kaldım: “Başlangıçta Söz vardı, Söz Tanrı ile birlikteydi ve Söz Tanrı idi.” Bunun doğru olduğuna inanıyorum. İnsanlar ve dil arasındaki temel ilişkiyi bozmanın ve zayıflatmanın, toplumsal bütünlüğün her türlü görünümünü baltalayacağına inanıyorum.
Yapay zekâ, edebiyat dünyasına adeta bir darbe indirdi ve yazarlar, yayıncılar, edebiyat ajanları, okuyucular, eleştirmenler, öğretmenler ve öğrenciler ayaklarının altındaki zeminin kaydığını hissetmeye başladılar. Profesörler artık öğrenci ödevlerine şüpheyle bakmak zorundalar. Yayıncılar, yeni yazarları potansiyel bir suç mahallini inceleyen dedektifler gibi değerlendirmek zorundalar. Bunun okuma veya öğrenme üzerindeki etkisini tarif etmek zor. Entelektüel etkileşimin neşesi ve zorluğu, kapalı, acımasız ve mekanik bir şeyle yer değiştirdi. Bir zamanlar canlı olan her şeyin derisi yüzülüp doldurulduğu ve parlak, sahte gözlerinde anlamlı bir parıltıyla size göz kırpmadan bakan bir hayvan doldurma cenneti. Birine bakıp gerçekten düşündüğünüz kişi olup olmadığını merak etmek gibi. Ya da aynaya bakıp kendi benzerinizi görmek ama aslında siz olmadığınızı bilmek gibi.
Zamanla bu bilgiyi de kaybedebiliriz. O zaman kim olduğumuzu, hatta var olup olmadığımızı bile bilemeyiz .
Ve bu durum bütün bir toplumu, bütün bir türü etkilediğinde, yüzyıllar boyunca öğrenilen, nesilden nesile aktarılan içgüdülere artık güvenemediğimizde, kalbimize, gözlerimize veya kulaklarımıza artık güvenemediğimizde, gerçeği yalandan, sanalı gerçekten ayırt edemediğimizde, zaman çöktüğünde ve geçmiş, şimdiki zaman ve gelecek birbirine karıştığında, milyonlarca dil ve kültür lapa haline geldiğinde, eski bir toplumsal sözleşme –sınırlamaları ve kusurları ne olursa olsun– tanınmayacak şekilde parçalandığında, kitlesel bir psikozun eşiğine mi geliyoruz?
Bu düşünce tarzı, yeni ve anlaşılmaz bir şeyle karşılaştığımızda kaçınılmaz olarak ortaya çıkan ahlaki paniğe kapılmış olmakla suçlanmama yol açabilir – tıpkı Sanayi Devrimi’nden veya bilgisayarın ortaya çıkışından önce yaşanan panik gibi. Soru şu: Hepsi bu kadar mı? İnsan “ilerlemesinin” evriminde rahatsız edici bir geçiş anından mı geçiyoruz sadece? Yoksa bu gerçekten de felaket niteliğinde bir kopuş mu?
Belki de bu muhteşem yeni teknolojiyi geliştiren insanları dinlemeliyiz. Geçen ay, Anthropic’te çalışan genç bir kişi olan Jacob Coxon, vicdanının insan ırkını potansiyel olarak yok edebilecek bir projede çalışmasına izin vermeyeceğini söyleyerek işinden ayrıldı. İş yerinin tasviri, adeta steroidli bir Manhattan Projesi gibiydi. Ancak bildiğimiz gibi, bu sefer bilim insanları büyük ölçüde kâr ve “ilk ulaşma” yarışıyla motive oluyorlar. Coxon’ın istifasının ardından yaşananlar şaşırtıcıydı. En büyük yapay zeka şirketlerinin CEO’ları, onları ifşa eden ihbarcıyla tartışmak, aynı fikirde olmamak veya onu desteklemek için birbirleriyle yarıştı . Ekranlarımız, milyarder oligarkların kasvetli, mezar tonlarında, kutsamak üzere oldukları Makine Tanrısı’nın insan uygarlığının sonunu getirebileceğine dair oldukça yüksek bir ihtimal olduğunu bildiren videolarla doldu.
Türümüz üzerindeki egemenliklerini kurduktan sonra, riski azaltmak için ellerinden gelenin en iyisini yaptıklarına dair bizi temin ettiler. Hükümet düzenlemesi için yalvardılar. Yardım çığlıkları bir tür patolojiye işaret ediyordu. Bunda biraz sapkın bir şey vardı – bir tür ” Bağla beni! Bağla beni!” havası. Bu mu yoksa kapitalizmin doğasında var olan şey mi? Dizginsiz açgözlülük karşısında çaresizlik mi?
Oligarklar, en azından dünyanın en uzak köşelerinde su, yiyecek ve mühimmatla dolu sığınaklar inşa edecek kadar, yok oluş anlatılarına inanıyor gibi görünüyorlar. Ancak bize sattıkları şey yok oluş değil. (Donald Trump ve teknoloji özgürlükçüleri bunu açıkça bir aldatmaca olarak nitelendiriyor.) İlerleme, şan ve insanlığın iyiliği, onların satış söylemlerinin özünü oluşturuyor. Onlardan biri olan Palantir’in CEO’su Peter Thiel, eleştirmenleri ve düzenleme çağrısında bulunanları “Deccal” ve şeytanla iş birliği yapan kişiler olarak nitelendirerek, şirketine ve hedeflerine ilahlık kazandırıyor. (Evet, insanlığın hayatta kalması gerektiğine inanıp inanmadığı sorulduğunda meşhur bir şekilde “Hımm…” diye yanıt veren ve kekeleyip mırıldanmaya devam eden aynı kişi.)
Çatırtılar ve patlamalar sonunda teknoloji sektöründekilerin aşina olduğu fay hatları boyunca yatıştı: felaket tellalları, hızlandırıcılar, şüpheciler . Ancak yapay zeka endüstrisinin verdiği gerçek, felaket niteliğindeki ve devam eden zararlar hakkında başka sesler yükseldiğinde, kasıtlı olarak görmezden geliniyor ve susturuluyorlar.
İlginç bir şekilde, oligarklar Jacob Coxon’a diğer bazı ihbarcılardan çok daha fazla güven duyuyor gibi görünüyor. 2019’da Google’ın ABD insansız hava araçları için makine görüş teknolojisi geliştirme sözleşmesini eleştirdikten sonra Google’dan istifa eden ve şu anda Signal Vakfı’nın başkanı olan Meredith Whittaker’ı savunmak için bir araya gelmediler. Yedi yıl sonra, yapay zeka endüstrisi ile silah endüstrisi arasındaki bu sentez hepimizin görebileceği şekilde sergileniyor. (Örneğin, Şubat ayında İran’ın güneyindeki Minab’da bir kız okuluna düzenlenen ve 120’si öğrenci olmak üzere 156 kişinin öldürüldüğü ABD’nin çifte silahlı saldırısı. Özür dilenmedi, çünkü kimse yapmadı. Makine planlı cinayetler vicdan azabı duymadan gerçekleşiyor. Bu durum, insan hakları raporlarına göre, yer tespit ve takip sistemlerinin temel hedef biriminin aile evi olduğu, İsrail’in Gazze’deki Hamas militanlarına karşı suikast kampanyasının arkasındaki yapay zeka sistemleri Lavender, Gospel ve Where’s Daddy? için de geçerlidir.)
Silikon Vadisi’nde üst düzey teknik pozisyonlarda çalışan çok az sayıdaki siyahi kadından biri olan Timnit Gebru, 2020 yılında ortak yazarı olduğu bir araştırma makalesini kaldırmayı reddettiği için Google’dan kovulduğunda, oligarklardan herhangi bir destek patlaması yaşanmadı . Makale, Google’ınkiler de dahil olmak üzere büyük dil modellerinin (LLM’ler) eğitilmesinin çevresel maliyetlerini ortaya koymuş ve bu modellerin, yuttukları veri kümelerinden beyaz üstünlüğünü ve kadın düşmanlığını nasıl büyüttüğünü ve yeniden ürettiğini göstermişti. Gebru, bu patolojilerin modeller ölçeklendirildikçe ve denetlenmesi zorlaştıkça daha da artacağı konusunda uyarıda bulunmuştu. Bulguları, “Veri Bataklıkları İçin Nefret Ölçeklendirme Yasaları Üzerine” adlı bir makalenin ortak yazarı olan Abeba Birhane tarafından da desteklenmişti .
Whittaker ve Gebru’nun çok özel suçlamaları, yapay zekâ bilimcisi olup eleştirmenliğe soyunan Geoffrey Hinton veya Jacob Coxon gibi topyekün yok oluşun peygamberlerinden ziyade oligarkları neden daha çok endişelendiriyor? Belki de büyük bir havai fişek gösterisi gibi, Hinton ve Coxon’ın uyarıları ortama heyecan katıyor. Sonuç olarak, oligarkların güç oyununu güçlendiriyorlar ve bu da, şirketleri yakında halka arz edildiğinde (ki bu gerçekleşmeye hazırlanıyor), onlara gerçekten çok fayda sağlayacak. Değerlemeleri, modellerinin ne kadar gelişmiş ve yapay zekâ silah sistemleri söz konusu olduğunda ne kadar ölümcül olduğuna bağlı olacak.
İnsanlık üzerinde yaşam ve ölüm gücüne sahip olduklarını iddia eden bu milyarderler kimler? İnsan ırkından ve evimiz dediğimiz bu gezegenden çoktan kopmuş gibi bir izlenim veriyorlar. Satirler mi bunlar? Yarı insan, yarı makine mi? Onlara Kikloplar diyelim – çoğul hali “piler”. Yunan ve Roma mitolojisindeki o dev, tek gözlü, mağarada yaşayan çobanlar. (Yirmi birinci yüzyılda mağaraları gösterişli ve koyunları insan.)
Onları tek bir varlık olarak düşünün. Bir mutasyon. Kiklop’un tek bir kafası ve alnına, merkezden oldukça sağa yerleştirilmiş, soluk, kırpılmayan tek bir gözü var; bu göz, sıradan insanlara karamsar bir bakış atıyor ve sadece madenciler gibi mineral bakımından zengin bir ormanda ya da baraj inşaatçıları gibi güçlü, akan nehirlerde gördüklerini görüyor: Çıkarılacak, biriktirilecek ve pazara sunulacak bir kaynak. Ormanı siktir et. Nehri siktir et. İnsanı siktir et.
Ancak son zamanlarda sinema ekranlarımızda gördüğümüz sessiz, beceriksiz Kiklop’un aksine, Kiklop boynundan birkaç kavga eden gövdeye ayrılıyor ve birbirleriyle iyi geçinmiyorlarmış gibi bir izlenim veriyorlar; ancak Kıyamet Zamanları söz konusu olduğunda – veya daha doğrusu, Naomi Klein ve Astra Taylor’ın muhteşem yeni kitabının başlığını ödünç alacak olursak , Kıyamet Zamanları Faşizmi söz konusu olduğunda – açıkça iyi geçiniyorlar.
Birçok sektör gözlemcisine göre, Cyclopes’in yok oluşu, giderek öfkelenen ve tedirginleşen kamuoyunu, yapay zeka şirketlerinin ABD ekonomisi, halkının güvenliği ve geleceği için ne kadar merkezi, önemli, indirgenemez ve geri döndürülemez olduğuna ikna etmek için sahnelenmiş bir gösteri gibi görünüyordu.
Düzenlemeye tabi tutulmayı istemek, sektörü devlete aşılamak, hükümet ile bu şirketler arasındaki her türlü boşluğu kapatmak için bir girişimdir. Oligarkların umudu, bu düzenleyici kucaklaşmanın onlara çok ihtiyaç duydukları sınırsız yetkiyi vereceğidir. Çünkü ihtiyaç duydukları para, arazi, su ve enerji miktarı ancak hükümet tarafından sağlanabilir. Lafı fazla uzatmadan söylemek gerekirse, aslında istedikleri şey, kendi kendilerini düzenlemek için hükümetten izin almaktır . Kontrolü devretmeden meşruiyet kazanmak.
Bu tür hassas manevralar, bir kabuki oyunu gibi sahnelenmelidir. Giderek huzursuzlaşan halkı ve Trump rejimi kadar esnek olmayan olası hükümetleri korkutmak için bir kötü adama, bir öcüye ihtiyaç vardır.
Sahneye soldan Çin giriyor.
ABD’yi yükselen Çin tehdidinden korumak için Cyclopes, ABD hükümetine diğer ülkelerin hayal bile edemeyeceği bir dizi ölümcül otonom silah sistemi ve bilim dünyasına şimdiye kadar bilinmeyen laboratuvar ortamında üretilmiş virüsler ve biyolojik silahlar fantezisi sunuyor. Yurtiçindeki huzursuz nüfusları kontrol altına almak ve hizaya getirmek için ise ABD ve diğer dost hükümetlere, İsrail’in Pegasus casus yazılımını oyuncak gibi gösterecek gözetim ve yüz tanıma sistemleri sunuyor. Karşılığında ise engelsiz sermaye akışı ve dev veri merkezleri ve süper bilgisayarlarına hizmet verecek kadar arazi, su ve enerji sözü talep ediyor.
Doğrudan dile çevrilirse, şöyle bir şey olur: Kendimizi insanlığın aydınlanmasının en ileri noktası ve sınır tanımayan insan bilgisinin yöneticisi ve dağıtıcısı olarak pazarlayacağız. Ama gerçekte, harita şeklinde olacağız. Kendimizi ulusumuza, ekonomisine, istihbarat ağına ve güvenlik aygıtına kaynaştıracağız, ta ki bizi kendinizden ayırt edemeyene kadar. Banka hesaplarımız hariç. Karşılığında, Ay’ı ve uzayı kolonileştirme misyonumuzu gerçekleştirene kadar bizi yönetiyormuş gibi yapabilirsiniz. Sınır yok, korku yok. Sonra da bize nazikçe ödünç verdiğiniz merdiveni tekmeleyerek atacağız. Sizi değiştirmemize bile gerek kalmayacak. Siz basitçe var olmayacaksınız. Halkınızı, şehirlerinizi, iletişiminizi, finans sistemlerinizi, mahkemelerinizi, ordunuzu ve polisinizi biz yöneteceğiz. Biz yönetmezsek, Çin yönetecek.
ABD merkezli büyük yapay zeka şirketlerinin hükümet düzenlemesi talepleri, daha küçük oyuncuların rekabetini de engellemeye yarıyor; böylece yapay zeka konusunda uluslararası anlaşmalar imzalandığında (ki imzalanmaları gerekiyor), yarışta sadece bu birkaç “düzenlemeye tabi” şirket yer alacak.
Şirketler ve ülkeler arasındaki birleşme hızla ilerliyor. Yapay zekâ bilimi yeni olabilir. Ancak bize dayatılma biçimi, sömürgeciliğin kendisi kadar eski. Hindistan’da bir şirket tarafından sömürgeleştirilme geçmişimiz var. Ve evet, tıpkı Amerika’nın yöneticilerinin şimdi yaptığı gibi, yönetici sınıflarımız onları içeri davet etti. Doğu Hindistan Şirketi sonunda İngiliz Krallığı tarafından ele geçirildi. Şimdi ise, elbette, bunun tersi oluyor. Hindistan’ın altyapısının büyük bir kısmı, her ikisi de yapay zekâ okyanusuna dalmaya hazır olan iki büyük şirket grubu olan Adani Grubu ve Reliance Grubu’na ait.
Cyclopes, ABD devletini ele geçirmeye hazırlanıyor. Palantir CEO’su Alex Karp şöyle diyor: “Bence Palantir, Amerika ve dünya için en büyük risk, kurumlarımızı yozlaştıran ve aşındıran gerici bir düşünce biçimidir.” Palantir’in aşırı değerlendiğini öne süren analistlerden rahatsız olmuştu. (Yani, bir Tanrı’ya nasıl “değer biçebilirsiniz” ki?) Ardından, kendine özgü havalı, zengin adam mizahıyla devam etti : “Bir drone alıp, bizi dolandırmaya çalışan analistlerin üzerine fentanil katkılı idrar püskürtme fikrine bayılıyorum.”
Ve bu, ünlü yazar Sam Altman’ın, yapay zekanın insanlığı cehenneme giden kestirme bir yola sokabileceğini kabul ederken söylediği şu sözler: “…ama bu arada ciddi makine öğrenimiyle büyük şirketler kurulacak.” Ya da Trump’la son derece yakın ilişkisi olan ve aynı derecede yüksek zekaya sahip gibi görünen aşırı hızlandırıcı Marc Andreessen’den şu sözler: “Teknoloji, bilinmeyen güçlere karşı şiddetli bir saldırı olmalı, onları insanın önünde eğilmeye zorlamalı… Biz kurban değiliz; biz fatihleriz . “
İnsanların başa çıkmak zorunda kaldığı çeşitli kıyamet senaryoları ve beraberindeki felaketler var. Korkutucu bir yok oluş anlatısı var. Bir de bizden daha zeki bir tür tarafından boyunduruk altına alındığımız versiyonu var. (Bunun sonuçlarını anlamak için, gezegenimizi paylaştığımız diğer türlere neler yaptığımızı düşünün; bu, yok oluşu son derece çekici gösteriyor.)
Ve sonra, teknolojiyle ilgisi olmayan insanların dünyasından gelen endişe var: Yapay zeka endüstrisinin karbon ayak izi konusunda endişeli iklim değişikliği aktivistleri; kitlesel işsizliği ve belirsiz gelecekleri gören öğrenciler ve işçiler; benim gibi, atan kalbimizi bedenlerimizden çekip alan ve toplumsal kontrolün çelik tellerini tek bir sıkı, mekanik yumruk haline getiren merkezkaç kuvvetini hissedebilen sanatçılar, müzisyenler ve yazarlar.
Nasıl tepki vermemiz gerekiyor? Düzenlemeler çağrısında bulunarak mı? Francis Ford Coppola’nın ırkçı klişeler içeren “Apocalypse Now” filmini bile güncel olaylar belgeseli gibi gösteren bir sektörü nasıl disipline edersiniz?
Cyclopes, savaşın acımasızlıklarından delirmiş, yaşlı bir eski deniz piyadesi olan Albay Kurtz’dur. Kurtz, dengesiz, kana bulanmış, uyuşturucu bağımlısı imparatorluğunu ve yerli tebaasını Karanlığın Kalbi’nde (Conrad’ın Afrika’sından Coppola’nın Vietnam’ına taşınmış) yönetir. ABD Ordusu yüksek komutanlığından, meslektaşının isyanını sona erdirmek için gönderilen genç subaya verilen talimat açık ve nettir: “Acımasızca yok edin.”
Sloganımız ne olmalı? Aşırı önyargıyla düzenleme mi? Belki. Gerçi bunun ne anlama geldiğini veya nasıl göründüğünü gerçekten bilmiyorum.
Bu biraz 2004’teki tsunamiden önceki anı andırıyor. Tayland ve Endonezya’da okyanusun kıyı şeridinden nasıl çekildiğini hatırlıyor musunuz? İnsanlar aniden ortaya çıkan kilometrelerce el değmemiş yeni kumsala hayran kalmak için koşuşturmuşlardı, oysa denizin çok uzağında bir su duvarının yükseldiğini ve üzerlerine çökeceğini fark etmemişlerdi. Şimdi o anı yaşıyoruz. Aptallığın yükselen bir duvarı bizi sular altında bırakmak üzere.
Parlak kumların üzerindeki nefis kırıntıların izi bizi okyanusun derinliklerine doğru çekiyor. Büyülü hazineleri, mücevherli deniz kabuklarını ve sonsuza dek sürecek bir balayı ya da isterseniz para dolu bir kaçamak vaat eden gizli kaleleri ortaya çıkarıyor. Bu kabukları alın ve sizin için neler yapabileceklerine hayran kalın. Bunların çirkin adı “tüketici uygulamaları”. Anneniz, sevgiliniz, terapistiniz, doktorunuz olabilirler. İstediğiniz tarzda, bir dakika içinde roman yazabilir ve istediğiniz dile çevirebilirler. Filmlerinizi düzenleyebilir, müziğinizi besteleyebilir, araştırmalarınızı yapabilir ve yasal belgelerinizi hazırlayabilirler. Tıp alanında yapabilecekleri ise mucizeden farksız. (Yoksulların kolera, sıtma ve tüberkülozdan ya da sadece açlık ve yoksulluktan ölmesini engelleyemezler.) Ayrıca telefonunuz aracılığıyla size anında adalet, eğitim ve demokrasi sunmayı da vaat ediyorlar. Eğer diğer tarafa yönelirseniz, Nazi selamınızı geliştirebilir ve size zihinsel bir testere verebilirler. Sevilecek ne yok ki? Buna nasıl karşı koyabilirsiniz? Ve neden karşı koymalısınız ki?
Yapay zekâ ve otoriterlik hakkındaki tüm konuşmalara rağmen, en sevilen, en iyi anti-faşist YouTuber’larımızdan ve yorulmak bilmeyen aktivistlerimizden (özellikle Hindistan’da), toplamda on milyonlarca aboneye sahip olanların, yapay zekânın sadık savunucuları olduğu doğru değil mi? Ya da Modi hükümetine karşı Gen-Z Hamamböceği ayaklanmasının, kurak toprağa yağan yağmur gibi üzerimize yağdığı, en keyifli, saygısız yapay zekâ videoları sırasında gerçekleştiği doğru değil mi?
Öyle.
Ancak tehdit değerlendirmesi gerçek bir tehlikeyi ortaya koyduğunda, bu fırsat penceresi anında kapanabilir. Bunu yazarken, Delhi’deki “Hamamböceği protestolarının 2. Sezonu” olarak adlandırılan olaylar sırasında, mahallemdeki internet bağlantısı kesildi. Keşmir ve Manipur gibi eyaletlerdeki diğer protestolar sırasında, Hindistan hükümeti aylarca süren internet kesintileri emri vermişti.
Kiklop, henüz bebeklik çağındaki Makine Tanrısı’nı kanı çekilmiş kollarıyla tutuyor ve bizi önünde eğilmeye davet ediyor. Ona güvenin ve her şeyinizi ona verin, karşılığında o da size göz kamaştırıcı ihtişamını sunacaktır.
Sömürgeleştirme her zaman göz alıcı hediyelerle gelir. Ancak yapay zekâ, çoğumuzun hayal bile edemeyeceği türden bir sömürgeleştirmedir. Kapitalizmin nihai hedefidir.
Kiklop, söylenmesi sessiz kalınacak şeyleri yüksek sesle söylemekten asla çekinmez .
İşte Palantir Yönetim Kurulu Başkanı Peter Thiel’in sözleri: “İlk kuruluş vizyonumuz, teknolojiyi kullanarak tüm dünyayı değiştirmek, dünyanın para sistemini alt üst etmekti… Seçim kazanamazdık… çünkü çok küçük bir azınlıktaydık. Ama belki de insanları sürekli ikna etmeye, yalvarmaya ve asla sizinle aynı fikirde olmayacak insanlara rica etmeye gerek kalmadan, tek taraflı olarak dünyayı değiştirebilirsiniz.”
İsrail teknoloji şirketi Cato Networks’ün CEO’su Shlomo Kramer ise şunları söylüyor: “Birinci Değişikliği korumak için onu sınırlandırmanın zamanı geldi… Tüm sosyal platformları kontrol etmeliyiz. Çevrimiçi olarak kendini ifade eden her kişinin gerçekliğini sıralamalı ve bu sıralamaya göre ne söylediklerini kontrol etmeliyiz.”
Bu hak, bu zenginlik, bu güç, bu küstahlık onlara Tanrı tarafından verilmedi. Bunlar bizden alındı.
Makine Tanrısını eğitmek için Kikloplar, insan uygarlığının bugüne kadar elde ettiği her şeyi silip süpürmeli ve stoklamalıdır. Edebiyat, sanat, müzik, matematik, satranç, akademik araştırma – her şey dahil – binlerce yıldır milyonlarca insanın ortak emeğinin meyvesi olan birikimli başarıları şirket holdinglerine aktarmak istiyor. Bu bilgiyi bankaya yatıracak, kontrol etmenin, arındırmanın, siyasallaştırmanın ve kimin erişebileceğine, kimin erişemeyeceğine karar vermenin yollarını bulacak. Peki bunun bedeli ne olacak? Buna insan çabasının, uygarlığın tarihinin özelleştirilmesi ve şirketleştirilmesi diyelim. Tek yapmanız gereken ruhunuzun dijitalleştirilip veriye dönüştürülmesine izin vermek. Sizden geriye kalan insan çamuru ve bulamacı olacak. Endüstriyel atık.
İşte Sam Altman’ın sözleri tekrar : “Zekanın elektrik veya su gibi bir hizmet olduğu ve insanların bunu bizden sayaç üzerinden satın aldığı bir gelecek görüyoruz.”
Ama gerçekten de satma hakkı onlara mı ait?
Anthropic’in LLM’sini eğitmek için izinsiz kullandığı yüz binlerce yazardan biriyim. Toplu dava sonucunda, bana her kitap için birkaç bin dolar tazminat teklif eden bir bildirim aldım. Bunlar, bir ömür boyu yaşadığım ve yıllarca yazdığım kitaplar. Bildirimde, şirketin kitapları korsan PDF’ler barındıran iki web sitesinden indirdiği, ancak “Anthropic’in herhangi bir yanlış yapmadığını” iddia ettiği belirtiliyor. Bana bir talep numarası ve bir PIN kodu veriyorlar. Sanki vücudumun organları haberim olmadan toplanıyor gibi. Makine artık benim çalışmalarım üzerinde eğitildiğine göre, çok yakında, kendim gibi , on yıllarca emek vererek benzersiz bir şekilde kendime özgü hale getirdiğim bir dilde yazdığımda, bunun benim çalışmam gibi gelmediği, aslında yapay zeka olduğu söyleneceğinden korkuyorum. Hayatımın geri kalanında ne yapacağım? Kendi yazma tarzımın etrafından mı dolaşacağım? Yeni bir dil mi bulacağım? Buna ne diyeceğiz? Kalp madenciliği mi? Beyin madenciliği mi? Yaşam madenciliği mi?
Karen Hao , keskin ve etkileyici kitabı Yapay Zeka İmparatorluğu’nda , Cyclopes’in hayallerini ayakta tutmak için yoksul ülkelerde açlık sınırında ücretlerle çalışan işçilerin “veri toplayıcı” olarak çalıştırılmasını ve toprakların ve kaynakların topyekûn yağmalanmasını anlatıyor. Şirketlerinin ve 100 milyar dolarlık süper bilgisayarlarının devasa enerji ihtiyacını karşılayacak kadar su veya elektrik bulunması muhtemel olmadığından, Cyclopes özel nükleer santraller ve güvenlik protokollerinin geri çekilmesi için agresif bir şekilde lobi yapıyor. Yedek olarak, veri merkezlerinin uzaya veya aya taşınabilmesi için milyarlarca dolar, bozulmayan füzyon enerjisi kaynakları geliştirmeye harcanıyor.
Bu arada, sevgili, eski püskü Dünya’da, Hindistan hükümeti daha fazla enerji tüketen veri merkezlerinin kurulmasını memnuniyetle karşıladı. Sadece Visakhapatnam’da, Google için 15 milyar dolarlık bir merkez de dahil olmak üzere altı tane. Bunlara neredeyse sıfır çevresel denetimle, sanki sadece binalar, depolar gibi izin veriliyor. Bu, Hindistan ve ABD arasında eski bir gelenek: Bize çöpünüzü, zehirli endüstrilerinizi, zehirli kadehlerinizi verin. Biz onları kıymetli buluruz. Ve ABD’de olduğu gibi, Hindistan’daki aktivistler de önerilen “depoların” yakınında yaşayan on binlerce insanın suyunu ve havasını zehirlemeyi durdurmak için canlarını ortaya koyuyorlar.
ABD’deki veri merkezi karşıtı aktivistler, bu devasa tesislerin inşasında iş bulan inşaat işçileriyle karşı karşıya getiriliyor. Yerel topluluklar adına mücadele eden bu aktivistler, yabancı kaynaklı hainler , teröristler veya vatansever ABD şirketlerinde çalışan dürüst ve çalışkan Amerikalıların işlerini çalan solcu aşırılıkçılar olarak etiketleniyor. İnsanları bu şekilde birbirine düşürmek, öğlen vakti leş gibi kokan eski bir taktik. Benim memleketim olan Hindistan’ın güney eyaleti Kerala’da bunun nasıl işlediğini izlemek, her şeye yalnızca “sol” veya “sağ”ın kutuplaştırıcı prizmasından bakmanın her zaman yararlı olmadığını öğrenmemi sağladı.
İşte size hem mekân hem de zaman açısından çok uzak, ama yine de günümüz için dersler içeren küçük bir öykü.
Kerala’nın ilk demokratik olarak seçilmiş Komünist hükümetinin 1950’lerin sonlarında yaptığı ilk işlerden biri, eyaletin kuzeyinde, Calicut şehrinin yukarısında, Chaliyar Nehri kıyısında bir suni ipek fabrikası kurması için büyük bir şirketi davet etmek oldu. Sanayici, fabrikanın 3.000 iş yaratacağını vaat ederek karşılığında hammadde, elektrik ve su konusunda devlet sübvansiyonu istedi. Yakındaki ormanlardan ton başına bir rupiye bambu verildi, oysa çoğunluğu yerli halktan olan bambu işçileri tek bir bambu gövdesini bir rupiye satın almak zorunda kaldı.
Fabrika üretime başladığında, bir günde Calicut şehrinin tamamından daha fazla su tüketti ve zehirli atık sularını doğrudan nehre boşalttı. Nehrin aşağısındaki şehir suyu kirlendi. Balıklar öldü. Binlerce balıkçı geçimini kaybetti. Mevcut tüm bambular tüketilince, okaliptüs kullanmaya başladılar. Yoğun, yaşlı ormanların büyük bir kısmı, tek tip okaliptüs plantasyonu için kesildi. Binlerce orman sakini, bambu ve hasır işçisi geçimini kaybetti. Ancak 3.000 fabrika işçisi sendikalaştı ve başarılı oldu.
Zamanla, zehirli fabrika dumanları işçiler arasında kanser ve solunum yolu hastalıklarına yol açmaya başladı. İşçiler tazminat talebiyle greve gittiler. Sanayici (özel) bir kanser hastanesi kurdu. Militan fabrika işçileri, ücret artışı ve diğer haklar talebiyle oturma eylemleri ve lokavtlar düzenlediler. Kendileri için küçük, kademeli zaferler kazandılar ve işlerine geri döndüler.
Birkaç yıl sonra okaliptüs ağaçlığı da yok oldu. Fabrika kapandı. İyi sendikalı işleri olan işçiler, fabrikanın yeniden açılmasını talep ederek açlık grevine gittiler. Ama fabrika asla yeniden açılmadı.
Bu, dünya genelindeki “veri giriş elemanı” iş gücü için de bir ikilem, neredeyse varoluşsal bir meydan okuma.
Hindistan, devasa nüfusuyla, Kiklopların doymak bilmez iştahı için bir veri şöleni sunuyor. Uzak köylerde ve küçük kasabalarda yaşayan en yoksullar, akla gelebilecek her türlü bilgiyi sağlamak için zorla çalıştırılıyor. İnşaat alanlarında ve fabrikalarda çalışan işçilerin, yapay zekanın hareketlerini taklit ederek yakında yerlerini alacak robotları eğitebilmesi için başlarına sabitlenmiş kameralarla çalışmaları gerekiyor. İşçiler kendi mezarlarını kazdıklarını biliyorlar, ancak yerlerini almak için bekleyen çok sayıda insan olduğu için reddedemiyorlar. İşleri bittiğinde, dünya milyonlarca “fazla insan”la, yani faşistlerin dünyanın sınırlı kaynaklarını tüketen ancak topluma katkıda bulunmayanlar için kullandığı sınıflandırmayla ne yapacak? Faşistlerin bu konuda uzun zamandır kendi soykırımcı fikirleri var.
Cyclopes – ya da Gil Durán’ın aynı adlı kitabında dediği gibi “Bilgisayar İmparatorluğu ” – zaman zaman başka bir yola da yöneldi. Başkalarının parasıyla, kendi parasıyla değil, Evrensel Temel Gelir (UBI) fikriyle ara sıra oynuyor . Bu ne kadar havalı ve anti-kapitalist bir fikir, değil mi? Belki de birkaç yıl boyunca aylık bir UBI ödemesiyle geçinmeyi denemelidir. Belki de bu, Aşırı Önyargılı Düzenleme programının ilk adımı olmalıdır.
Şunu açıkça belirtelim: Servet daha eşit dağıtılmış olsaydı, dünyadaki herkes bugün , şu anda Evrensel Temel Gelir alabilirdi. Bunu yapmak için gezegeni yok etmeye gerek yok. Bu arada, Evrensel Temel Geliri kim dağıtacak? Kimin hak sahibi olup olmadığına kim karar verecek? Sadece soruyorum. Belki de, yoldaş Shlomo Kramer’in temasını genişleterek, insanlar ırklarına, kastlarına, dinlerine, cinsiyetlerine, siyasi görüşlerine ve itaat katsayılarına göre sıralanabilirler?
Belki de Hindistan hükümeti yardım eli uzatabilir. Ülkenin seçmen kayıtlarında yakın zamanda gerçekleştirilen Özel Yoğun Revizyon çalışmasında 130 milyon kişi listeden çıkarıldı. Nüfusun neredeyse onda biri. Oldukça büyük bir kesim. Medeni bir ayıklama yöntemi. Evrensel Temel Gelir’den veya herhangi bir haktan yararlanamazlardı. Assam gibi eyaletlerde, bazıları kendileri gibi insanları barındırmak için inşa edilen devasa gözaltı merkezlerinde inşaat işçisi olarak çalıştırılıyor. Hükümet halkını seçer. Hükümeti Kikloplar kontrol eder. Harika.
Sonra da iyi niyetli demokratik sosyalist versiyon var. Bernie Sanders, halkın – en azından Kuzey Amerika halkının – yapay zeka şirketlerinin doğrudan sahibi olmasını istiyor . Bağımsız denetim altında bir egemen varlık fonu oluşturmak için en büyük yapay zeka şirketlerinin hisselerine bir defaya mahsus %50 vergi uygulanmasını öneriyor. Bu fonun yaklaşık 7 trilyon dolar değerinde olacağı ve bu paranın yüz milyarlarca dolarının her yıl doğrudan ABD vatandaşlarına, ayrıca sağlık, konut ve eğitim programlarına ödeneceği belirtiliyor. (Tekrar ediyorum, trilyonlarca dolar zaten mevcut. Siyasi irade yok. Ne değişir ki?) Ancak bu demokratik sosyalist seçenekte bile, veriler yine de Güney’den – Hindistan, Afrika, Güney Amerika’dan – çekilirken, karlar Kuzey’de kalacak.
Elbette şirketler veri için ödeme yapmalı. Ama iş bu noktaya mı geldi? Kıyametten pay almak artık tek seçeneğimiz mi?
Yapay zekanın insanlar için neler yapabileceği ve neler yapamayacağı konusunda çok fazla tartışma varken , yapay zekanın insanlara neler yaptığı hakkında çok az konuşuluyor . Çalışmalar, yapay zeka ile insanlarda bilişsel gerileme arasında bir ilişki olduğu konusunda uyarıda bulundu. İnsan zekasının, yapay zekanın yükselişiyle orantılı olarak düşmesi bekleniyor. Belki de kullanılmayan beyinlerimiz körelecek, kafalarımız küçülecek ve parmaklarımız dalgalanan, uzatılmış dokunaçlara dönüşecek.
Farklı bir dünyada yaşamış olanlarımız, ne kaybettiğimizi biliyor. Peki ya yetişmek üzere olan nesil? Kendi diline, kendi düşüncelerine, kendi kederine sahip olacak mı? Çabalama hakkına sahip olacak mı? Düşme hakkına? Başarısız olma hakkına? Kusurlu olma hakkına? Matematik denklemini çözmenin veya kendi sanatını, edebiyatını veya müziğini yaratmanın imkansız acısını ve coşkulu zevkini – ne kadar kusurlu olursa olsun – deneyimleyecek mi?
Yapay zekanın zaferi insanlığa karşı işlenmiş bir suç olacaktır. Beyinlerimizi formaldehit içinde hapsedecektir. Bildiğimiz dünyayı yok edecektir. Bunu destekleyen ve bundan kâr sağlayanlar bunun farkındadır ve çoktan başka bir aleme geçmek için hazırlıklarını yapmışlardır.
Oligarklar savaş hatlarını yüksek sesle, gururla ilan ediyorlar: Biz onlara karşıyız. Hiç tereddüt etmeden, Kiklopların gelişmesi için insanlığın ölmesi gerekebileceğini öne sürüyorlar. Buna karşı savaşmak için yükselen genç nesil bunu anlıyor. Bu yazının başında “aşırı önyargıyla düzenleme yapmalıyız” diye önerdiğimi biliyorum. Ama yapay zeka şirketleri hakkında gerçekten söylemek istediğim şu: Aşırı önyargıyla son verin.
Bu makalenin bir bölümü, 19 Ekim’de New York’ta düzenlenecek Halkın Yapay Zeka Meclisi’nde (The People’s AI Assembly) bir konferans olarak sunulacaktır.
Kaynak: https://www.equator.org/articles/arundhati-roy-artificial-intelligence
Kapak Resmi: Odilon Redon
Bir Cevap Bırakın