Gerçeğin Yerini Kim Alıyor? Baudrillard’dan Yapay Zekâ Çağına

Bir an için şöyle bir sahne düşünelim: Telefonunuza eski bir sokak fotoğrafı düşüyor. Yağmurdan parlayan kaldırımlar, yorgun bir adam, dükkânın önünde bekleyen bir çocuk. Fotoğrafa uzun uzun bakıyor, adamın hayatını merak ediyor, çocukta kendi geçmişinizden bir şey buluyorsunuz. Sonra öğreniyorsunuz: O sokak hiç var olmamış. O çocuk hiç doğmamış. Görüntü, üretken yapay zekâyla hazırlanmış.

Bu varsayımsal sahnenin sorduğu soru son derece gerçek: Görüntünün bir geçmişi olmadığını öğrenmek, üzerimizde bıraktığı duyguyu geçersiz mi kılar? Bir şeyin yapay olduğunu bilmek, onun hayatımız üzerindeki gücünü azaltmaya yeter mi?

Jean Baudrillard’ın Simülakrlar ve Simülasyon kitabına bugün dönmemizin nedeni burada saklı. Kitap, günümüz yapay zekâ araçlarının nasıl çalıştığını açıklamaz. Görüntülerin, modellerin ve göstergelerin gerçeklikle kurduğu ilişkiyi sorgularken bize daha derin bir sorunun kapısını açar: Yapay zekâ gerçeğe benzeyen şeyler üretmenin yanında, gerçeği hangi ölçülerle tanıyacağımızı da değiştirmeye başlıyorsa ne olacak?

Yeni bir doğuşun gerisindeki eski soru

Yapay zekânın doğuşundan söz ederken tarihsel bir ayrımı gözetmek gerekiyor. Alan, sohbet pencereleriyle başlamadı. Alan Turing’in 1950 tarihli makalesi, makinelerin düşünmesini tartışırken değerlendirmeyi bir taklit oyunu üzerinden yeniden kuruyordu. McCarthy, Minsky, Rochester ve Shannon’ın 31 Ağustos 1955 tarihli Dartmouth önerisi ise 1956 yazında yapay zekâ üzerine bir araştırma çalışması düzenlemeyi teklif ediyordu.

Bugün yeni olan, uzun bir araştırma tarihinin gündelik hayatın içine konuşarak, yazarak ve görüntü üreterek yerleşmesi. Bir uzmanlık alanının adı, artık insanların ödevinde, işinde, yalnızlığında ve merakında karşısına çıkan bir muhatap gibi duyuluyor. Buradaki doğuş, aynı zamanda toplumsal bir karşılaşmanın doğuşu.

Bu karşılaşmada eski bir soru yeniden beliriyor: Bir davranışın ikna edici biçimde ortaya çıkması, o davranışın arkasında ne bulunduğunu söylemeye yeter mi? Akıcı konuşma, doğru bilgi, kavrayış, bilinç ve sorumluluk arasında nasıl bir ilişki var?

Bu soruların hepsine aynı cevabı vermek acelecilik olur. Turing’in tartışmasını da Baudrillard’ın simülasyon kavramını da birbirinin yerine kullanamayız. Yine de ikisi bizi görünür davranışla ona yüklediğimiz anlam arasındaki mesafeye bakmaya davet eder. O mesafe, bugün sandığımızdan daha fazla önem taşıyor.

Simülasyon neden basit bir yalan değildir?

Baudrillard’ı anlamanın önündeki ilk engel, simülasyonu yalnızca sahtecilik sanmak. Sahte bir belgeyi ele alalım. Belge, gerçek bir belgeyi taklit eder; sahteciliği ortaya çıkardığımızda hakiki olanla sahte olan arasındaki sınırı yeniden kurarız. Yalan da çoğu zaman buna benzer: Gizlenen bir gerçek vardır ve onu açığa çıkarmaya çalışırız.

Kutsal Gönderenden Yoksun İmgeler bölümünde tartışılan simülasyon daha rahatsız edici bir durumdur. Gerçeği tanımak için başvurduğumuz belirtiler de üretilebilir hale geldiğinde, sorun yalnızca bir maskeyi çıkarmak olmaktan uzaklaşır. Maske ile yüzü hangi ölçütle ayırdığımızı da yeniden düşünmek zorunda kalırız.

Buradan yapay zekâya uzanan ilişkiyi biz kuruyoruz. Hiç yaşanmamış bir olayın görüntüsü insanları korkutabiliyorsa, o görüntünün kaynağındaki yapaylık, doğurduğu korkuyu yapay yapmaz. Üretilmiş bir ses birinin itibarını zedeleyebiliyorsa, sesin kurmaca oluşu zararın gerçekliğini ortadan kaldırmaz.

Bir içeriğin gerçek bir olaya dayanmaması, gerçek sonuçlar doğurmasına engel değildir. Bu yüzden yalnızca görüntünün nereden geldiğini sormak yetmez. Neye kanıt sayıldığını, kimlerin kararını etkilediğini ve hangi ilişkiyi değiştirdiğini de sormamız gerekir. Simülasyon kavramının günümüze sunduğu en verimli soru, belki tam olarak budur.

Harita, üzerinde yürüdüğümüz toprağı biçimlendirirse

Kitabın açılışında Borges’in imparatorluk büyüklüğündeki haritası karşımıza çıkar. Harita ile toprak arasındaki ilişki ilk bakışta açıktır: Önce bir yer vardır, sonra onun haritasını çizeriz. Temsil, kendisinden önce var olan dünyaya gönderme yapar.

Baudrillard’ın hamlesi, bu öncelik ilişkisini ters çevirmektir. Model, yalnızca gerçeğin ardından gelen bir açıklama olmaktan çıkar; gerçeğin nasıl üretileceğini belirleyen bir düzeneğe dönüşür. Harita artık yürüdüğümüz yeri göstermenin yanında, nerelerden yürümemiz gerektiğini de kurar.

Bunu güncel bir düşünce deneyiyle açalım. Bir kurumun insanları bir tahmin sistemi üzerinden değerlendirdiğini varsayalım. Puanı düşük bulunan birine daha az fırsat verilsin. Bu kişi, fırsat azlığı yüzünden daha sınırlı bir deneyim kazansın. Sonraki değerlendirme de o sınırlı deneyimi esas alsın. Model, yalnızca bir durumu kaydetmemiştir; sonraki durumun oluşmasına katılmıştır.

Bu örnek, her modelin zorunlu olarak böyle çalıştığını söylemez. Fakat önemli bir ayrımı görünür kılar: Betimlemek ile düzenlemek birbirine yaklaşabilir. Modelin yanılma ihtimali varken, modelin hükmü kişinin geleceğinde somut bir ağırlık kazanabilir.

Bu nedenle yapay zekâyı tartışırken yalnızca doğruluk oranına bakamayız. Hangi kurumun modeli kullandığını, kararın nasıl uygulandığını ve itirazın mümkün olup olmadığını da incelemeliyiz. Bazen en önemli soru modelin dünyayı ne kadar iyi anlattığı kadar, dünyada neyi mümkün veya imkânsız kıldığıdır.

İmgenin dört yüzü

Baudrillard, imge ile gerçeklik arasındaki ilişkiyi dört uğrak üzerinden düşünür: Bir gerçekliği yansıtan imge; onu değiştiren ve gizleyen imge; arkasında gerçeklik bulunmadığını gizleyen imge; herhangi bir gerçekliği temsil etmek zorunda olmayan, kendi başına dolaşıma giren simülakr.

Bu ayrımı günümüze taşırken onu yapay zekânın dört zorunlu gelişim aşaması gibi okumamalıyız. Aynı araçla hazırlanmış iki görüntü bambaşka ilişkiler kurabilir. Bir mimarın tasarladığı evin görselleştirmesi henüz yapılmamış bir yapıyı gösterir ve bunun açıkça belirtilmesinde bir aldatma yoktur. Aynı görsel, var olan bir evin satış fotoğrafı diye sunulursa başka bir işleve bürünür.

Dolayısıyla asıl mesele yalnızca piksellerin üretim yöntemi değildir. İçeriğin nasıl sunulduğu, neyin yerine geçtiği ve hangi beklentiyi doğurduğu önemlidir. Kurmaca, kurmaca olduğunu açıkladığında hayatı zenginleştirebilir. Kurmaca, kanıtın yerini aldığında ise güven ilişkimizi değiştirir.

Burada değerli olan, bütün görüntüleri aynı suçlamayla karşılamak değil, aralarındaki ayrımları daha dikkatli kurmaktır. Sanat eseri, eğitici canlandırma, reklam, tanıklık ve haber aynı ölçütle değerlendirilemez. Görüntünün etkileyiciliği, hangi türden bir şeyle karşı karşıya olduğumuzu anlama sorumluluğumuzu azaltmaz.

Hipergerçek: İnsan kendi kopyasına yetişemediğinde

Hipergerçek sözcüğü, kulağa daha parlak ekranı veya daha yüksek çözünürlüğü anlatıyormuş gibi gelebilir. Oysa Baudrillard’ın tartışması, ayrıntı miktarından daha derindir. Model, gerçekliği ölçtüğümüz standarda dönüştüğünde ortaya çıkan bir ilişkiden söz eder.

Bir yüz hayal edelim: Hiç yorulmuyor, kusursuz ışıkta görünüyor, bütün açılarda aynı etkiyi bırakıyor. O yüzün yapay olduğunu biliyoruz. Buna rağmen bir süre sonra gerçek yüzleri onunla karşılaştırmaya başlarsak ne olur? Bir insanın yaşlanmasını, duraksamasını veya yorgunluğunu eksiklik gibi görmeye başlayabiliriz.

Aynı şey dil için de düşünülebilir. Cevabını ararken susan bir insan, hemen düzenli paragraflar üreten bir sistemin yanında yetersiz görünebilir. Oysa duraklama bazen bilgisizliğin, bazen dikkatli olmanın, bazen de söylenecek sözün ağırlığını hissetmenin işaretidir. Hız bu farkları tek başına anlatmaz.

Asıl ürpertici ihtimal, kopyanın insana benzemesi kadar insanın kopyaya benzemeye zorlanmasıdır. Kendimizi daha pürüzsüz, daha tahmin edilebilir ve daha sürekli üretken göstermeyi görev sayabiliriz. Böylece araçtan beklediğimiz biçim, kendimizden beklediğimiz yaşama biçimine dönüşür.

Bu, yapay zekâ kullanmanın kaçınılmaz sonucu değildir. Yine de korumamız gereken bir ayrımı gösterir: Bir çıktının tamamlanmış görünmesiyle bir hayatın değerli olması farklı şeylerdir. İnsanın her an bir sonuç sunması gerekmez.

Disneyland’ın dışındaki dünya ne kadar gerçek?

Düşsel ve Hipergerçek bölümünde Disneyland yalnızca bir eğlence parkı değildir. Baudrillard, açıkça düşsel olarak işaretlenmiş bu alanın, dışarıdaki dünyanın tartışmasız gerçek olduğu duygusunu korumasını sorgular. Yapay olanı belli bir yere yerleştirmek, yapaylığın hayatın geri kalanındaki dolaşımını gözden saklayabilir.

Bugün bu düşünceyi içerik etiketlerine uygulayabiliriz. Bir görselin yapay zekâyla hazırlandığını belirtmek değerlidir. Fakat böyle bir etiket taşımayan her içeriğin kendiliğinden güvenilir olduğunu düşünürsek yeni bir kolaycılığa düşeriz. İnsan eliyle hazırlanmış bir haber de seçici olabilir. Gerçek bir fotoğraf yanlış bağlama yerleştirilebilir. Gerçek sözler kesilerek yanıltıcı bir anlam kurulabilir.

Yapay zekâ bu sorunları başlatmadı; onları yeni bir üretim ölçeği ve yeni biçimlerle karşımıza çıkarıyor. Buna karşılık hakikatin bütün yükünü yalnızca üretim tekniğine taşıyamayız. Bir içeriğin kökeni kadar gerekçesi, bağlamı ve denetlenebilirliği de önem taşır.

Baudrillard’dan hareketle kendimize yöneltebileceğimiz soru şudur: Sahteyi birkaç işaretlenmiş örneğe kapatırken, geriye kalan dünyayı sorgulamaktan vazgeçiyor muyuz? Bütün tehlikeyi belli bir araçta toplamak, o aracı kullanan kurumları ve çıkarları görünmez kılabiliyor mu?

Bu yüzden bir etiketin ardından ikinci bir okuma gerekir. İçerik ne söylüyor? Bunu nasıl biliyor? Okuru hangi sonuca götürüyor? Etiket, bu soruların başlangıcı olabilir; yerlerine geçemez.

Akıcı bir cevap, hakikatin sesi midir?

İnsanlar söze yalnızca içeriğinden dolayı güvenmez. Ses tonu, düzen, terimlerin kullanımı ve kendinden emin bir anlatım da otorite duygusu yaratır. Üretken yapay zekâyla karşılaşmamızın felsefi önemi biraz da burada beliriyor: Bilmenin dışarıdan görünen işaretleri büyük bir hızla üretilebiliyor.

Bu, bütün cevapların yanlış olduğu anlamına gelmez. Sistemler birçok işi yararlı biçimde yapabilir. Fakat yararlılık ile yanılmazlık farklıdır. Bir paragrafın okunaklı oluşu, içindeki her iddianın sınanmış olduğunu göstermez.

ABD Ulusal Standartlar ve Teknoloji Enstitüsü’nün üretken yapay zekâ risk profili, yanlış içeriğin kendinden emin ve ikna edici bir biçimde sunulmasını “confabulation” başlığı altında ele alır. Bu risk, bir sistemin uydurma bilgiler veya kaynaklar üretmesiyle sınırlı görülmemelidir; kullanıcının sunuluş biçimine gereğinden fazla güvenmesiyle de ilişkilidir. Bir cevabın kulağa tutarlı gelmesi, dayandığı olayın veya kaynağın gerçekten var olduğunu garanti etmez. Kaynak gösterilmesi de tek başına yeterli değildir: Kaynağın mevcut olması, doğru aktarılması ve ileri sürülen iddiayı desteklemesi ayrıca kontrol edilmelidir. Özellikle önemli kararlar söz konusu olduğunda, cevabın düzgünlüğü ile doğruluğunu birbirinden ayırmak gerekir.

Baudrillard’ın diliyle kurduğumuz güncel soru, bilginin yerini bilgiye benzeyen işaretlerin alıp almadığıdır. Bu soruyu sormak, makinenin bilinci hakkında kesin hüküm vermeyi gerektirmez. Önce kendi güvenimizi nasıl kurduğumuzu anlamamız yeterlidir.

Cevaplar çoğalırken anlam neden azalabilir?

İletişim Araçlarında İçin İçin Kaynayan/Patlayan Anlam, kitabın bugün en fazla yankı uyandıran bölümlerinden biridir. Baudrillard, bilgi ve haberin çoğalmasıyla anlamın çoğalması arasında kendiliğinden işleyen bir bağ bulunduğu düşüncesini sarsar. İletişimin sürekli sahnelenmesi, anlamlı bir karşılaşmanın yerini alabilir.

Bu sarsıntıyı kendi hayatımızda sınayabiliriz. Bir konuda arka arkaya on özet okumak, o konuyu derinlemesine anlamakla aynı şey değildir. Bazen özetler, metnin zorlandığımız yerlerine ulaşmamızı sağlar. Bazen de zorlanmayı bütünüyle ortadan kaldırarak kavradığımız duygusunu üretir.

Üretken yapay zekâ, bu iki imkânı birlikte taşır. Anlamadığımız bir fikri başka bir örnekle açıklayabilir, bir düşüncenin karşısına güçlü bir itiraz koyabilir. Aynı zamanda düşünmenin zahmetini sürekli ertelediğimiz bir cevap kaynağına da dönüşebilir. Araçtan ne istediğimiz kadar, gelen cevaba ne yaptığımız da belirleyicidir.

Bir cevabı anlamanın küçük ama sert bir sınaması vardır: Onu kendi sözlerimizle açıklayabiliyor muyuz? Dayandığı varsayımı görebiliyor muyuz? Hangi durumda yanlış olacağını söyleyebiliyor muyuz? Bunlar mümkün değilse, elimizde bilgiye erişim bulunabilir; fakat henüz düşünceye sahip olduğumuz kesin değildir.

Cevabın hazır olması, hükmün de hazır olduğu anlamına gelmez. Bazen düşünmek, önümüzdeki düzgün paragrafın nerede eksik kaldığını fark etmekle başlar.

Biz aracı kullanırken araç da bizi biçimlendirir

Panoptiğin Sonu bölümünde televizyon kameralarının gündelik hayatını izlediği Loud ailesi tartışılır. Önemli soru yalnızca kameranın neyi gösterdiği değildir. Kameranın varlığı, gösterdiği yaşama nasıl katılmaktadır? Gözlenen hayat ile gözlemleyen araç birbirinden ne kadar kolay ayrılabilir?

Benzer bir soruyu sohbet arayüzlerine yöneltebiliriz. Bir sistemi kullanmayı öğrenirken düşüncelerimizi de onun anlayacağı biçimde düzenleriz. Taleplerimizi parçalara ayırır, kendimizi açıklama yöntemimizi değiştiririz. Bunun iyi sonuçları olabilir: Daha açık sorular sormayı, belirsizliklerimizi fark etmeyi öğrenebiliriz.

Fakat tersini de düşünmeliyiz. Bir fikrin değerini yalnızca sistemin kolayca işleyebilmesine göre ölçersek ne olur? Karmaşık bir duygunun hızlıca özetlenemeyen tarafını önemsiz sayabiliriz. Bir ilişkinin açıklığa kavuşması için gereken zamanı, verimsiz bir gecikme gibi görebiliriz.

Burada mesele teknolojinin insanı bütünüyle ele geçirdiğini ilan etmek değildir. İnsanla araç arasındaki ilişkinin karşılıklı olduğunu kabul etmektir. Bir çekiç elimizin hareketini, bir yazı biçimi düşüncemizin düzenini, bir arayüz sorumuzun şeklini etkileyebilir. Yeni olan, bu ilişkinin dil üzerinden bu kadar yakın kurulmasıdır.

Bu yakınlık içinde özgürlüğümüz, yalnızca hangi cevabı seçeceğimizden ibaret kalmamalı. Hangi soruyu soracağımızı, neyi sisteme taşımayacağımızı ve hangi deneyimi özetlenmeden bırakacağımızı da kendimiz belirleyebilmeliyiz.

İnsanın bilgisi, insanın tamamı mıdır?

Clone Story ve Hologramlar bölümleri, kopyalama arzusunun insanın benzersizliğiyle ilişkisini sorgular. Buradaki tartışmalar günümüz yapay zekâ uygulamalarıyla birebir aynı değildir. Fakat insanı yeniden üretilebilir bir bilgi toplamı olarak düşünmenin sınırlarını görmemize yardım eder.

Birinin sesini, yazılarını, fotoğraflarını ve alışılmış sözlerini bir araya getirdiğimizi varsayalım. Bunlardan o kişiye benzeyen bir temsil üretmek, onun bütün hayatına ulaşmak anlamına gelir mi? Kaydedilmemiş suskunluklar, sonradan değişen düşünceler, başkalarıyla yaşanan karşılaşmalar bu temsilde nasıl yer bulacaktır?

Özellikle kaybettiğimiz insanları hatırlarken bu soru ağırlık kazanır. Tanıdık bir ses bizi teselli edebilir. Böyle bir teselliyi küçümsemek doğru olmaz. Yine de sesin benzerliği ile kaybettiğimiz kişinin kendi iradesiyle bize cevap vermesi arasındaki farkı korumak gerekir. Duygunun gerçekliği, temsilin sınırlarını ortadan kaldırmaz.

İnsanı değerli yapan yalnızca tahmin edilebilir özelliklerinin toplamı değildir. Birini tanımak, onun bizi şaşırtabilmesini de içerir. İnsan ilişkisi, karşımızdakinin geçmişini bilmenin yanında geleceğini bütünüyle bilememeyi kabul etmektir.

Bu nedenle benzersizlik yalnızca kopyalanması zor bir ses rengi değildir. Kişinin dünyada bir kez yaşadığı, başkalarıyla birlikte kurduğu ve her an yeniden değişebilen ilişkiler bütünüdür. Bir temsil bu hayata dokunabilir; onun yerine bütünüyle geçtiğini varsaymak ise daha büyük bir iddiadır.

Modeller kendi yankılarını dinlemeye başladığında

Baudrillard’ın kapalı devre göstergeler düşüncesi, yapay zekâ tartışmalarında kolayca çekici bir benzetmeye dönüşebilir. Ancak felsefi benzetmeyle teknik bulguyu ayırmak gerekiyor. İkisinin birbirini çağrıştırması, aynı şeyi açıkladıkları anlamına gelmez.

Shumailov ve çalışma arkadaşlarının Nature’da yayımlanan model çöküşü araştırması, modellerin ürettiği verilerle tekrarlanan eğitimin belirli koşullarda özgün veri dağılımının özelliklerini kaybettirebildiğini gösterir. Özellikle daha seyrek örneklerin silinmesi, çeşitliliğin aşınmasına yol açabilir. Böyle bir süreçte sistem, başlangıçtaki dünyaya ait farklılıklardan giderek uzaklaşan çıktılar üretebilir.

Fakat buradan her sentetik verinin zararlı olduğu veya bütün modellerin kaçınılmaz biçimde çökeceği sonucu çıkmaz. Gerstgrasser ve çalışma arkadaşlarının araştırması, özgün gerçek verinin korunup sonraki sentetik verilerle birlikte biriktirildiği deney düzenlerinde model çöküşünün önlenebildiğini gösterir. Eski veriyi yenisiyle değiştirmek ile verileri biriktirmek aynı eğitim koşulu değildir. Sonuçlar, verinin kaynağına ve eğitim yöntemine dikkat etmeyi gerektirir; sentetik içerik hakkında tek bir evrensel hüküm vermez.

Bu çalışmalar Baudrillard’ın haklılığını teknik olarak kanıtlamaz. Yine de düşünmeye değer bir yakınlık sunar: Kendi ürettiklerimizle çevrili bir ortamda, bizi başlangıçta besleyen farklılıkları nasıl koruruz? Bu soru yalnızca makine eğitimi için değil, kültürel hayatımız için de önemlidir.

Bilimkurgu kapıdan bir robot olarak girmedi

Kitabın Simülasyon ve Bilimkurgu bölümü, başka bir alışkanlığımızı sarsar: Geleceği hep gündelik hayatın uzağında aramak. Baudrillard burada doğayı taklit etmeye dayanan simülakrları, makine ve üretimin çoğaltıcı gücüne dayanan simülakrları ve bilgi, model, sibernetik işleyiş etrafında kurulan simülasyon düzenini birbirinden ayırır.

Bu ayrımda belirleyici olan, kopyanın zamanla daha güzel yapılması değildir. Temsilin toplumdaki işlevi değişmektedir. Bir nesnenin benzerini yapmakla, dünyayı modellerin işlemesine uygun biçimde düzenlemek farklı ilişkilerdir. Bilimkurgu da yalnızca daha güçlü makinelerin, daha hızlı araçların ve insanın yerini alan robotların öyküsü olarak kalamaz. Model gündelik düzenin içine yerleştikçe, gelecek ile şimdi arasındaki güvenli mesafe daralır.

Buradan bugüne bakınca dikkatimiz yalnızca insana benzeyen bir makineye takılmamalı. Yapay zekâ hayatımıza çoğu zaman bir bedenle gelmiyor. Bir metni tamamlayan öneri, bir soruya verilen hazır yanıt, bir görüntüyü kuran komut alanı olarak geliyor. Şaşırtıcı olan, geleceğin bir anda görünmesi kadar, çok kısa sürede alışkanlığa dönüşebilmesi.

Bir sabah insan biçiminde bir robot kapıyı çalsa değişimin farkına varmak kolay olurdu. Fakat düşüncemizin hangi sırayla ilerleyeceğini etkileyen küçük önerileri fark etmek daha zor olabilir. Bu, Baudrillard’ın bugünkü araçları önceden tarif ettiği anlamına gelmez. Onun sorusu, değişimi yalnızca olağanüstü sahnelerde aradığımızda sıradanlaşan dönüşümleri kaçırabileceğimizi düşündürür. Hayatımızı değiştiren şey bazen ilk bakışta en az şaşırtan şeydir.

Ekranın altında hâlâ maddi bir dünya var

Baudrillard’ı okurken en gerekli itirazlardan biri, dünyanın göstergelere indirgenemeyeceğini hatırlatmaktır. Bir görüntünün nasıl dolaştığını tartışmak, o görüntünün üretildiği maddi koşulları ortadan kaldırmaz. Ekranın ardında donanım, enerji, çalışma, mülkiyet ve kurumlar bulunur.

Yapay zekâdan söz ederken sanki bulutların içinde kendiliğinden oluşan bir zekâyla karşı karşıyaymışız gibi konuşmak, çok somut soruları geri plana iter. Sistemi kim kuruyor? Hangi amaçla kullanıyor? Üretimden kim yararlanıyor? Hataların bedelini kim taşıyor? Bir araca erişemeyenler veya kararına itiraz edemeyenler nerede duruyor?

Bütün bu soruları yalnızca bireysel dikkat meselesine çevirmek de yeterli değildir. Kullanıcıların eleştirel olması değerlidir; fakat bir kurumun hesap vermesinin yerini tutmaz. Kararı etkileyen bir sistemin varlığını bilmek, o karara itiraz edebilmek ve sorumlu bir insana ulaşabilmek, arayüzün ne kadar ikna edici olduğundan ayrı konulardır.

Bir işin sonucunda zarar gören kişiye, meselenin yalnızca gerçek ile görüntü arasındaki sınırın belirsizleşmesi olduğunu söyleyemeyiz. Onun kaybı somuttur. Felsefi kavram, bu somutluğu daha iyi görmemizi sağlamalı; üstünü örten ikinci bir sis perdesine dönüşmemelidir.

Bu nedenle simülasyon tartışmasını dünya yokmuş gibi değil, dünyaya ilişkin kararlarımız nasıl kuruluyor diye okumak daha verimlidir. Görüntülerin gücünü ciddiye almak, bedenlerin ve hayatların ağırlığını unutmamayı da gerektirir.

Baudrillard’a karşı düşünmek de gerekir

Güçlü bir düşünür, bütün cümlelerine katıldığımız için önemli değildir. Bazen bizi alıştığımız açıklamalarla yetinemez hale getirdiği için önemlidir. Baudrillard’ın kışkırtıcı dili de böyle çalışır. Bununla birlikte onun geniş teşhislerini, her durumda doğrulanmış toplumsal yasalar gibi kabul etmemeliyiz.

Gerçeğin bütün ölçütlerinin çöktüğünü söylersek, doğru ile yanlış arasında ayrım yapmak için verdiğimiz emek anlamsız görünebilir. Oysa tanıklık, belge, araştırma, karşılaştırma ve düzeltme hâlâ fark yaratır. Bir kaydın sahte olduğunu ortaya çıkarmak, bir kişinin hayatını değiştirebilir. Bilginin sınanması kusursuz değildir; fakat kusurlu oluşu değersiz oluşu demek değildir.

Aynı şekilde yapay zekâya ilişkin bütün deneyimi boş bir taklide indirgemek de açıklayıcı olmaz. Bir araç, bir insanın öğrenmesine, bir sorunu çözmesine veya kendini ifade etmesine yardımcı olduğunda ortaya çıkan değer gerçektir. Kaynağı teknik olan bir imkânın insan hayatındaki anlamını peşinen küçümsemek için neden yoktur.

Benim Baudrillard’dan aldığım soru, her şeyin sahte olduğu iddiası değildir. Daha dikkatli bir soru alıyorum: Bir şeyin doğru, önemli ve gerçek olduğuna karar verirken hangi işaretlere yaslanıyorum? O işaretleri kim üretiyor? Yanıldığımı öğrenebileceğim bir yol hâlâ açık mı?

Bu okuma, kitabın bütün sonuçlarını benimsemeyi gerektirmez. Onunla tartışarak, en keskin kavramlarını kendi sınırlarının da farkında olarak kullanabiliriz. Felsefenin hakkı biraz da okuduğumuz düşünceye itiraz edebilmekte saklıdır.

İnsan olarak kalmak için hangi mesafeyi koruyacağız?

Buradan çıkaracağım sonuç, teknolojiyi hayatımızdan çıkarma çağrısı değil. Kullandığımız araçlarla kurduğumuz ilişkinin sorumluluğunu üstlenme çağrısı. Bu, Baudrillard’ın kitabından hazır biçimde alınmış bir çözüm programı da değildir; onun sorularından hareketle bugün için önerdiğim bir düşünme tutumudur.

Önce, bir içeriğin etkileyiciliği ile doğruluğunu ayıralım. Kaynağına gidelim. Bize verilen kaynakların gerçekten söyleneni destekleyip desteklemediğini kontrol edelim. Bilmediğimiz yerde bilmediğimizi söylemeyi, hem kendimiz hem kullandığımız sistemler için değerli sayalım.

Sonra, kendi hükmümüzün sorumluluğunu koruyalım. Bir öneriden yararlanabiliriz; fakat onu uyguladığımızda ortaya çıkacak sonuçla ilişkimiz sona ermez. Bir insanın hayatını etkileyen kararın arkasına yalnızca sistem böyle söyledi cümlesini yerleştirmek, sorumluluğu açıklamaktan çok dağıtabilir.

Üçüncü olarak, her deneyimin hemen bir içeriğe dönüşmesi gerekmediğini hatırlayalım. Bir kitabı bitirdikten sonra birkaç dakika susmak, cevabı geciktirmek, bir soruyla birlikte yürümek de düşünmenin parçasıdır. Üretim hızının artması, hayatın bütün zamanlarını üretim zamanına çevirmemizi gerektirmez.

Ve insanı yalnızca çıktısıyla değerlendirmeyelim. Bir arkadaşın duraksamasını, bir öğrencinin arayışını, bir yaşlının aynı hikâyeyi yeniden anlatmasını verimsizlik olarak gören bir dil, kendi yoksulluğunu ilerleme sanabilir. İnsan ilişkilerinin değeri her zaman ölçülebilir bir sonuca sığmaz.

Yapay zekâ bize yeni cümleler, yeni imgeler ve yeni imkânlar sunuyor. Bunlarla ne yapacağımız, nasıl bir hayat istediğimiz sorusuna bağlı. Gerçeğin yerini kimin aldığını sorarken kendi yerimizi de sormamız gerekiyor: Seyreden, paylaşan, kullanan ve karar veren kişiler olarak hangi dünyaya katılıyoruz?

Belki de önümüzdeki en önemli görev, gerçeğe benzeyen şeyleri çoğaltırken gerçekle kurduğumuz ilişkiyi yoksullaştırmamaktır. Bunun başlangıcı, her cevabı reddetmekte değil; bir cevabı kabul ettiğimizde neden kabul ettiğimizi söyleyebilmekte bulunuyor.

Kaynaklar ve okuma notu

Bu yazının felsefi çıkış noktası Jean Baudrillard’ın Simülakrlar ve Simülasyon kitabıdır: Fransızcadan çeviren Oğuz Adanır, Doğu Batı Yayınları, 6. basım, Ekim 2011. Özellikle “Gerçeğin Yerini Alan Simülakrlar”, “Kutsal Gönderenden Yoksun İmgeler”, “Düşsel ve Hipergerçek”, “Panoptiğin Sonu”, “İletişim Araçlarında İçin İçin Kaynayan/Patlayan Anlam”, “Clone Story”, “Hologramlar”, “Simülasyon ve Bilimkurgu” ve “Nihilizm Üzerine” bölümlerinden yararlanılmıştır. Yapay zekâya ilişkin bağlantılar ve önerilen düşünme tutumu bu yazının güncel yorumlarıdır.

Diğer kaynaklar: A. M. Turing, Computing Machinery and Intelligence (1950); J. McCarthy, M. L. Minsky, N. Rochester ve C. E. Shannon, Dartmouth araştırma önerisi (1955); NIST, Generative Artificial Intelligence Profile (2024); I. Shumailov ve arkadaşları, AI models collapse when trained on recursively generated data (2024); M. Gerstgrasser ve arkadaşları, Is Model Collapse Inevitable? (2024).