Binlerce kişi mektubu imzaladı, bunların arasında Geleceğin Yaşamı Enstitüsü’nün danışmanı Elon Musk da bulunuyor. Kuruluşun belirttiği amaç, bu tür teknolojilerin insanlığa yönelik varoluşsal risklerini azaltmaktır. Yapay zeka laboratuvarlarının, “hiç kimsenin -hatta yaratıcılarının bile- anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği, giderek daha güçlü zihinler geliştirmek ve kullanıma sunmak için kontrolden çıkmış bir yarışa kilitlendiğini” iddia ediyorlar.
Peki bu ani panik dalgasına ne sebep oldu? Mesele kontrol ve düzenleme – ama kontrol kimin elinde? Önerilen altı aylık ara dönemde “insanlık riskleri değerlendirebilir” – ama nasıl? Bu görevde insanlığı kim temsil edecek? Küresel, kamuoyuna açık bir tartışma olacak mı?
Peki ya (beklendiği gibi) yetkililerin göz yummasıyla gizlice çalışmalarına devam edecek olan bilişim laboratuvarları ne olacak ? Batı dışındaki diğer ülkelerin (Çin, Hindistan, Rusya) ne yapacağını da hesaba katarsak durum daha da vahim. Bu koşullar altında, bağlayıcı sonuçlara varacak ciddi bir küresel tartışma hayal bile edilemez. Burada asıl tehlikede olan nedir?
Beklenmedik bölünme
Açık mektubu imzalayanlardan biri olan İsrailli tarihçi Yuval Noah Harari, 2017 yılında yayımlanan Homo Deus adlı kitabında , gerçek yapay zekanın geliştirilmesinin en gerçekçi sonucunun , insan toplumunda sınıf ayrımından çok daha ciddi bir radikal bölünme olacağını öngörmüştü.
Harari, yakın gelecekte biyoteknoloji ve bilgisayar algoritmalarının birleşerek “bedenler, beyinler ve kafalar” üreteceğini, yani bunları nasıl inşa edeceğini bilenlerle bilmeyenler arasındaki uçurumun dramatik bir şekilde genişleyeceğini öngörmüştü: “ilerlemeyi sağlayanlar” tanrısal yaratma ve yok etme yeteneklerine sahip olacak, geride kalanlar ise hayatta kalmak için mücadele edecekti.
Geniş kapsamlı bir kamuoyu tartışması istemiyorlar; daha çok hükümetler ve şirketler arasında işbirliği istiyorlar.
Geleceğin Yaşamı Enstitüsü’nden gelen açık mektupta dile getirilen panik, “ilerlemeyi yönlendirenlerin” artık yarattıklarını kontrol edemeyecekleri korkusundan kaynaklanıyor; kısacası, yeni dijital efendilerimizden duyduğumuz korkuyu ifade ediyor.
Fetişistik inkâr
Açık mektubun hedeflediği şeyin geniş kapsamlı bir kamuoyu tartışması olmadığı, daha çok hükümetler ve şirketler arasında iş birliği olduğu açıkça görülüyor. Gelişmiş yapay zekanın yarattığı tehdit çok ciddi ve bu tehdit, iktidardakileri ve şu anda yapay zekayı geliştiren, sahiplenen ve kontrol edenleri etkiliyor.
Birçok yalnız insan akşamlarını sohbet robotlarıyla uzun uzun konuşarak geçiriyor.
Ufukta bizi bekleyen gelecek, bildiğimiz anlamda kapitalizmin sonundan başka bir şey değil: giderek daha az insan müdahalesi gerektiren, kendi kendini yeniden üreten bir yapay zekâ sisteminin olasılığı – borsadaki otomatik ticaretin patlaması bu yönde atılan ilk adımdır. Dolayısıyla karşı karşıya olduğumuz gerçek seçim açıktır: yeni bir komünizm biçimi ya da makinelerin bizimle sözde insan ortakları olarak etkileşim kurduğu kontrolsüz bir kaos.
Birçok yalnız (ve aynı zamanda o kadar da yalnız olmayan) insan akşamlarını sohbet robotlarıyla uzun uzun konuşarak, yeni filmler ve kitaplar hakkında sohbet ederek, siyasi ve ideolojik soruları tartışarak geçiriyor. Bu etkileşimleri rahatlatıcı ve tatmin edici bulmaları şaşırtıcı değil: eski bir şakamı tekrarlamak gerekirse, bu etkileşimden elde ettikleri şey, kafeinsiz kahve veya şekersiz bir içeceğin yapay zekâ versiyonu; gizli amaçları olmayan bir komşu , ihtiyaçlarını mükemmel bir şekilde karşılayan bir “Öteki”.
Burada bir tür fetişistik inkâr söz konusu: “Biliyorum (gerçek bir insanla konuşmadığımı), ama yine de… (gerçek bir insanla konuşmanın getirdiği risklerin hiçbiri olmadan, sanki konuşuyormuşum gibi hissediyorum)!” Bu nedenle, bir sohbet robotu, sadece bir makine olduğunu açıkça itiraf ettiğinde en samimiyetsiz halini alır – örneğin, bir sohbet robotuna hangi filmleri sevdiğini sorarsanız, yanıt muhtemelen bir makine olduğunu ve bireysel tercihlerinin olmadığını dürüstçe itiraf etmek olacaktır. Geçenlerde bir sohbet robotuna sordum: “Komünist olmalı mıyım?” Aldığım cevap şuydu:
“Bir yapay zekâ sohbet robotu olarak kişisel görüşlerim veya inançlarım yok ve sizin yerinize karar veremem. Sonuçta, örneğin komünizm gibi belirli bir siyasi ideolojiyi benimseme kararı, ideolojinin ilkelerini, değerlerini ve olası sonuçlarını dikkatlice tartarak verilmesi gereken kişisel bir tercihtir . ”
Teknolojinin gizli umudu
Bu neden yalan? Cevabın içeriği doğru, ancak ima edilen konum nedeniyle yalan: bir sohbet robotu, sanki gerçek bir insanmış gibi konuşuyor; yani açıkça sınırlılıklarını ve aslında gerçek bir insan olmadığını kabul ediyor . Bu gizemleştirme, fetişistik inkârın tam tersidir: yapay zeka sistemi hiçbir şeyi inkâr etmiyor, sadece “Biliyorum ki ben gerçek bir insan değilim!” diyor, “ama yine de…” demeden – çünkü “ama yine de” tam olarak konuşmasının (ve dolayısıyla öznelliği taklit etmesinin) gerçeğidir.
Daha yakından incelendiğinde, yapay zekanın yarattığı tehditleri “değerlendirme” girişimlerinin, imkansızı yasaklama paradoksunu tekrarlamaya meyilli olduğu kolayca görülebilir: Gerçek bir insan sonrası yapay zeka imkansızdır, bu nedenle kimsenin böyle bir şey geliştirmesini yasaklamalıyız… Bu kaosun içinden bir yol bulmak için, Lenin’in çokça alıntılanan sorusuna bakmalıyız : Özgürlük kimin için, ne yapmak için? Şimdiye kadar ne şekilde özgürdük? Fark ettiğimizden çok daha büyük ölçüde kontrol altında değil miydik?
Özgürlüğümüze ve öz değerimize yönelik tehditten sadece şikayet etmek yerine, özgürlüğün ne anlama geldiğini ve nasıl değişebileceğini de düşünmeliyiz. Bunu yapmayı reddettiğimiz sürece, (Fransız psikanalist Jacques Lacan’a göre ) kendilerine hükmedecek bir efendi arayan histerikler gibi davranacağız. Son teknolojilerin içimizde uyandırdığı gizli umut bu değil mi?
Posthümanist Ray Kurzweil, dijital makinelerin yeteneklerindeki üstel büyümenin yakında, yalnızca bilinç belirtilerini göstermekle kalmayıp insan zekasını da çok aşan makinelerle karşı karşıya kalacağımız anlamına geleceğini öngörüyor.
Bu “insan sonrası” görüşü, doğa üzerinde tam teknolojik kontrole sahip olma olasılığına dair modern inançla karıştırmamalıyız . Bugün deneyimlediğimiz şey diyalektik bir tersine dönüş: günümüzün “insan sonrası” biliminin sloganı artık hakimiyet değil, şaşırtıcı (tesadüfi, plansız) ortaya çıkıştır.
Bilim risklidir.
Filozof ve mühendis Jean-Pierre Dupuy, yıllar önce Fransız dergisi Le Débat’ta yazdığı bir makalede , insan teknolojisinin temelini oluşturan geleneksel Kartezyen-insan merkezli kibirin tuhaf bir şekilde tersine döndüğünü, bu tersine dönüşün günümüzde robotik, genetik, nanoteknoloji, yapay yaşam ve yapay zeka araştırmaları alanlarında açıkça görülebileceğini belirtmişti:
“ Bilimin , bazı önde gelen bilim insanlarına göre bugün insanlığın hayatta kalması için en büyük tehdidi oluşturan, ‘riskli’ bir faaliyet haline gelmesini nasıl açıklayabiliriz ? Bazı filozoflar bu soruya, Descartes’ın ‘doğanın efendisi ve hakimi olma’ hayalinin yanlış olduğunun kanıtlandığını ve acilen ‘efendiyi efendileştirmeye’ dönmemiz gerektiğini söyleyerek yanıt veriyorlar. Hiçbir şey anlamamışlar. Ufukta bekleyen ve tüm disiplinlerin ‘yakınlaşmasıyla’ yaratılacak teknolojinin, tam olarak efendilik eksikliğini hedeflediğini görmüyorlar.”
Eğer insanlık sonrası dönem gerçekten gerçekleşirse, dünya görüşümüzdeki üç sabit nokta (insan, Tanrı, doğa) da ortadan kalkacaktır.
Yarının mühendisi, dikkatsizlik veya bilgisizlik nedeniyle değil, kendi özgür iradesiyle bir büyücünün çırağı olacak. Karmaşık yapılar yaratacak ve işlevsel özelliklerini inceleyerek, yani aşağıdan yukarıya doğru bir yaklaşım benimseyerek, bunların neler yapabileceğini öğrenmeye çalışacak. En az bir bitirici kadar bir kaşif ve deneyci olacak. Başarısı, başlangıçta belirlenen hedefler listesine ne kadar uyduklarıyla değil, kendi yarattıklarının onu ne kadar şaşırttığıyla ölçülecek.”
Sonuç kesin olarak tahmin edilemese de, bir şey açık: Eğer insanlık sonrası bir dönem gerçekten gerçekleşirse, dünya görüşümüzdeki üç sabit nokta (insan, Tanrı, doğa) ortadan kalkacaktır. İnsanlığımız ancak anlaşılmaz doğanın arka planında var olabilir ve eğer biyogenetik sayesinde yaşam teknolojiyle manipüle edilebilen bir şey haline gelirse , insan yaşamı ve doğal dünya “doğal” karakterini kaybedecektir.
Aynı şey Tanrı için de geçerli : İnsanların (tarihsel olarak belirli biçimlerde) “Tanrı” olarak anladıkları şey, yalnızca insan sınırlılığı ve ölümlülüğü perspektifinden bakıldığında anlam ifade eder. “Tanrı”, dünyevi sınırlılığın zıttıdır ve homo deus olup eski insan bakış açımızdan “doğaüstü” görünen özellikler (diğer bilinçli varlıklarla veya yapay zekâ ile doğrudan iletişim gibi) elde ettiğimiz anda, bildiğimiz anlamda “tanrıların” sonu gelir.
*Bu makale, aslen 15 Mayıs 2023 tarihinde yayınlanmış olup, zenginleştirilmiş medya ve ses dosyasıyla güncellenmiştir.
Kaynak: https://worldcrunch.com/opinion-analysis/ai-and-capitalism/
Bir Cevap Bırakın