16 Şubat’ta ABD’deki Vanderbilt Üniversitesi’nin eşitlik, çeşitlilik ve kapsayıcılık birimi, kısa süre önce Michigan State Üniversitesi’nde gerçekleşen silahlı saldırıyla ilgili bir açıklama yayımladı. Açıklama basmakalıp ifadelerle doluydu, “bu trajedinin kurbanlarının anısına” üniversiteyi “birbirimize özen göstermeye ve kampüsümüzde kapsayıcılık kültürünü yaymaya duyduğumuz bağlılığı sağlamlaştırmak için topluluk olarak bir araya” gelmeye davet ediyordu. Metinle ilgili kayda değer tek şey, ilk taslağın ChatGPT tarafından yazıldığını belirten bir dipnottu. Öyle büyük bir yaygara koptu ki, ertesi gün özür yayımladılar.
Bu hadise, yapay zekanın endişeyle el ele yürüyen popülerliğini iyiden iyiye gözler önüne serdi. Bir dizinin sıradaki sözcüğünü tahmin ederek metin üreten “büyük dil modeli” ChatGPT, Kasım 2022’de piyasaya sürülmüş, yüz milyon kullanıcıya en hızlı ulaşan platform olmuş, makinelerin ne denli “zeki” olabileceğine dair tartışmaları şiddetlendirmişti. Bing’in ChatGPT ile güçlendirilmiş chat programı, bir New York Times muhabiriyle arasındaki diyalog yayımlanınca kapatılmıştı. Yayımlanan metinde program, ısrarla muhabire âşık olduğunu, muhabirin karısını sevmediğini, ete kemiğe bürünmek istediğini söylüyordu.
Bu tip tartışmalardan da teşhirci korku tellallığından da bir şey çıkacağı yok. Tabii bu sistemler yine de ciddiye alınmalı. Yazı yazmak ve kodlamayla ilgili düşük seviye işlerin yerini onlar alabilir, tıpkı endüstriyel fabrikaların fiziksel emeği ayrıştırması ve yoksullaştırması gibi kitlelerin bilişsel vasıfsızlaştırılmasına neden olabilirler. Bu sistemler kod yazabildiği için, tıpkı BuzzFeed’in içerik üretmek için ChatGPT’yi kullanacağını beyan etmesiyle gazetecilikte olduğu gibi “yazılım” bir istihdam alanı olarak ortadan kalkabilir. Otomasyon elbette her zaman kısmidir, ancak işgücünün bir kısmının makinelere devredilmesi kapitalizmin değişmezlerindendir. Devredilen bu işler bilişsel nitelikteyse, makineler her şeyin yanı sıra emek ile yönetim ve emek ile “boş zaman” arasındaki mühim sosyal sınırları da bulandırma riski taşır.
Tabii sermayenin koşulları da değişiyor. Google’ın ChatGPT’ye rakip olarak ürettiği Bard’ın görücüye çıkar çıkmaz yanlış yanıtladığı soruyla şirkete bir günde 100 milyar dolar piyasa değeri kaybettirmesiyle bunun işaretlerini aldık. “Bilgi ekonomisi” kavramıyla ilgili kafası karışan varsa, bu paragrafla her şey netleşecektir. Yalnız teknolojik kapitalizmin bir sonraki safhası nasıl gelirse gelsin, yeni yapay zeka örnekleri anlam yaratmanın toplumsal sürecine doğrudan müdahil oluyor. Nitekim GPT sistemleri, birer ideoloji makinesi.
Bu sistemlerin meydana çıkmasının daha az tartışılan bir sonucu daha var, o da ideolojideki değişim.
Dil modelleriyle ideoloji ilk kez niceliksel üretiliyor
GPT sistemleriyle ilgili en temel üç çıkarım, onların birer oyuncak olduklarını, zararlı olduklarını ve medeniyeti baştan aşağı değiştireceklerini savunuyor. New York Times’ta yayımlanan yazısında Noam Chomsky, onları birer oyuncak olarak nitelendirirken hakikati ve mantığı ahlakla şekillenen bir içgüdüyle sezmemizi sağlayan sinirsel bir fonksiyon olan dille doğrudan bir ilişkileri olmadığını savunuyor. Emily Bender ve Timnit Gebru, “rastlantısal papağan” olarak adlandırdıkları bu sistemlerin zararlı olduklarını, “akıl almaz” büyüklükteki veri setlerinin önyargılarını yansıttıklarını, insanların söylemlerle halihazırda verdiği zararı yeniden dağıttıklarını belirtiyor. Henry Kissinger ise toplumsal oyunun tüm kurallarını, yani yalnızca emeğin ya da jeopolitikayı değil, “gerçekliğin ta kendisine” dair algımızı da değiştireceklerini düşünüyor.
Sayın okur, Kissinger ile aynı fikirde olmaktan pek de memnun sayılmam, ancak bugüne dek en kayda değer görüş ondan geldi. Chomsky üstadımız sizi yanıltmasın, GPT sistemleri gayet de dil üretebiliyor. Ayrıca zararlı oldukları doğru, ama nedeni de bu tespitin kâr odaklı mühendisliğin yükselişini nasıl durduracağı da net değil. Kissinger ne yazık ki haklı, çalışma prensipleri insan olmanın ne anlama geldiğine dair hissiyatımıza çok yakın bir işlevi otomatikleştirdiği için GPT sistemleri, bizzat düşünce biçimimizde büyük değişimlere yol açabilir. Düşünce biçimini kontrol etmeye “ideoloji” diyoruz, GPT sistemleri de bunu daha önce görülmemiş biçimde doğrudan ve niceliksel olarak ele alıyor.
“GPT”nin açılımı “generative pretrained transformer” (üretken önişlemeli dönüştürücü). Oysa “GPT”, ekonomide “general purpose technology” (genel amaçlı teknoloji) anlamına da geliyor. Bu da internetten kazınmış dil simgelerinden oluşan devasa veri kümelerini (ChatGPT’nin kullandığı ilk dil modeli olan GPT-3, bir trilyon simgeyle eğitilmiştir) alıp her türden, tutarlı ve genellikle anlamlı metinlere dönüştüren sistemlerin ardındaki düşünceyi gözler önüne seriyor. Ayrıntıların çoğu önemsiz, biri hariç: Bu bir trilyon simge, sistem tarafından metin oluşturmak için kullanılabilecek bir dizi dizeye (tüm sözcükler değil, mesele de bu zaten) indirgeniyor. Öğrenilen bu simgeler, her simgenin diğerleriyle istatistiki bir ilişkiye sahip olduğu bir şebekeye yerleştiriliyor. Bunu bir ışık şebekesi gibi düşünebilirsiniz. Bir ışığa dokunursanız, diğerlerinde de bir örüntü yanar. Bir diğerine dokunursanız, başka bir örüntü elde edersiniz. Böyle devam eder. Sonuç olarak sisteme bir komut verdiğimde (“Marx’ın değer teorisini açıklayan bir makale yaz”) şebeke sıradaki sözcük olmaya aday ufak bir grubu bir kümede topluyor. Sonra bu sözcüklerden birini rastgele seçiyor, ardından da bunu sürdürerek bir makale yazıyor, ya da söylenene yanıt veriyor.
Sisteme “ince ayar yapmanın” pek çok yolu olsa da örüntü özelliği hepsinde ortak. İstatistiki yakınlık tarafından seçilen sözcüklerin gerçek dünyadaki meselelerde karşılık bulmayacağını görmek zor değil, nitekim veri bilimciler, yanlış bilginin yayılacağına dair korkuları artıran bu duruma “temellendirme sorunu” diyor. OpenAI henüz onunla ilgili herhangi bir teknik ayrıntı paylaşmayı reddediyor, ancak geçen ay piyasaya çıkan GPT-4’ün bu “halüsinasyonu” en aza indirmesi bekleniyor. Oysa ortada çok daha ilginç ve ciddi bir mesele var.
GPT sistemlerinin ortaya çıkardığı şey dildir, ama belirli bir sözcük merkezi etrafında ortalaması alınmış haldedir. Kavramsal sınırları muallak bir peltedir. İngilizce olmasına İngilizcedir (neredeyse başka her dil için de geçerli), ama itilafları giderilmiş, en ortayolcu haline ayarlanmıştır. Bu yüzden de Vanderbilt’in istediği türden basın açıklamalarını yazmak için çok faydalı sistemlerdir. Dinamiği ve anlam yaratan özellikleriyle paketlenmiş ve hazır edilmiş bir “dil hizmetidir”, ama mümkün olan en düz haline ayarlanmıştır ki dili yalnızca hasar kontrolü için kullananların işine yarasın.
Silahlı saldırıyla ilgili açıklamayı yazmakla görevlendirilen makine değil insan olsa, muhtemelen neredeyse tıpatıp aynı belgeyi ortaya çıkarırdı. Ne diyebileceğimize dair sert kısıtlamalarla yazdığımızda, biz de sözcük ve cümle seçimlerimizi standartlaştırırız. Bu tip bir dile “ideoloji” diyoruz, GPT sistemleri de bu ideolojiyi ortaya çıkarıp incelemeye olanak tanıyan ilk nicel araç.
Hegemonya ve Kitsch
The New York Times muhabiri ve ona âşık olan sohbet robotu hikâyesindeki eksik, en başta ortalığı karıştıran komuttu. Muhabir, ChatGPT’den “C. G. Jung’un kullandığı anlamıyla bir ‘gölge arketipi’ benimsemesini” istemişti. Endişelerin odağı başkayken görmezden gelinmesi doğal olan bu önemli ayrıntı, neler olduğuna dair bazı ipuçları da taşıyordu. Komutunuzda “gölge arketipi” ve “Jung” geçtiğinde, veri setinde “ışığı yanan” bazı sözcük kümeleri, bir “anlam paketi” var. Bunlar da Jung’un teorilerinin ve psikanalizin tartışmaları, akademik ve meslekten bağımsız bloglar, Reddit paylaşımları ve bu tür fikirlerin açıkça tartışıldığı diğer yerlerde bir araya geliyor.
Oysa sistem, Carl Gustav Jung diye biri ya da “gölge arketipi” diye bir kavram olduğunu “bilmiyor”. Bunlar dizelerden ibaret. Işığı yanan her örüntünün içinde de yaygın sözcüklerden oluşan bir grup daha var, örneğin “aşk”, “eş”, hatta “ete kemiğe bürünmek” burada olabilir. Makine işlemeyi sürdürdükçe sıradaki sözcükleri de tahmin ediyor ve yoğunlaşmış “gölge-arketip-Jung” kümesinden diğer anlam paketlerine doğru “ilişkilendiriyor”. Tabii bakmadığımız müddetçe diğer paketlerin içeriğini bilmiyoruz. İstatistikle ilerleyen bir anlam treninde gibiyiz, orada olsalar da aşina olmadığımız anlam tünelleri arasından sallana sallana gidiyoruz.
Sözcük akışında herhangi bir nesnenin var olmadığını bilmek önemli. Eğer bir GPT sisteminin durup bir şeyi nesne olarak “düşünmesini” istiyorsanız, onu bir şekilde buna zorlamanız lazım, nitekim GPT-4 ve yapım aşamasındaki ardılları da muhtemelen bunu deniyor. Bazı şeylerin ise birer “nesne” ya da sözcük “paketleri” olarak sabit kalmaları daha olası. ChatGPT’den Aydınlanmanın Diyalektiği’ni (Theodor Adorno ve Max Horkheimer’ın ideoloji ve modern toplumla ilgili başyapıtı) anlatmasını istersem, şaşırtıcı derecede iyi bir cevap vermekle kalmıyor, zorluğuyla nam salmış bu metne sadık ayrıntılar da sunuyor. Meslektaşım Matthew Handelman’ın Adorno, Frankfurt Okulu ve matematikle ilgili kitabını sorduğumda ise kitapla ilgili bazı temel bilgiler verdikten sonra Handelman’ın temel tezinin “Matematik toplumsal bir inşadır,” olduğunu söylüyor. Bu doğru değil (kendisine sordum). Ama ilginç bir açıdan doğru değil.
Paket bize muhtemelen “eleştirel teori” ile “matematik” arasında örtüşenleri gösteriyor, bu örtüşmeye dair söylenmesi en olası şeyleri muhteva ediyor. Bazı akademisyenler gerçekten de matematiğin toplumsal bir inşa olduğunu iddia ediyor, ama akademisyenlerin böyle düşündüğünü iddia eden esas grup aşırı sağcılar. Onlar 1968’den sonra olup biten her şeyden Adorno ve arkadaşlarını suçlayan “kültürel Marksizm” adlı Yahudi düşmanı komplo teorisini savunuyor. Felsefi bir eser yazdığınızda ya da entelektüelliğin tarihine dair bir araştırma yaptığınızda, bu ortalamacı etkiye karşı çalışıyorsunuz. GPT sistemlerini sorguladığınızda ortaya çıkan anlam paketleri ise hayli bilgilendirici, hatta kimi zaman aydınlatıcı. Bunun nedeni de bu paketlerin ideolojiyi ortaya çıkarması, bunu da niceliksel olarak yapması. Bu, daha önce hiç görmediğimiz bir şey.
İdeoloji, politik ilkelerden ibaret değildir. Marx “Alman İdeolojisi”nden bahsederken, sosyalist arkadaşlarının fikirlerin gücüne olan örtük inancını kastediyor, buna karşı maddi kuvvetin gücünü öne sürüyordu. Ancak Marksistler yavaş yavaş söylemin ve temsilin gücü sorununu ele aldılar, ne düşünebildiğimizin, hayal edebildiğimizin ve söyleyebileceğimizin önemli bir siyasi mesele olduğunu kabul ettiler. Antonio Gramsci, egemen fikirler dizisini “hegemonya” olarak adlandırdı, bu fikirlerin egemen sınıfın hakimiyetine ayak uydurduğunu, ancak bu hakimiyetle ilgili olmadıklarını savundu. Edebiyat eleştirmeni Hannes Bajohr ise tam buradan hareketle “Dili kontrol eden, siyaseti kontrol eder,” dedi, bizi özelleştirilmiş GPT sistemlerine karşı uyardı.
Marksistler arasında ideolojiyi bir tür kitsch olarak gören de çok. İlk kez Marksist sanat eleştirmeni Clement Greenberg tarafından 1937’de ortaya atılan kitsch, basitleştirilmiş estetik formdur. Söyleyebileceğimiz ya da düşünebileceğimiz onca şey arasında bazı yolları yürümek, diğerlerine kıyasla yeğdir. Bu yolların şekli bellidir, sıfırdan döşemeye gerek yoktur. Piyasadaki onca devam filmi tam da bu bakımdan kitsch özelliği taşır, bir Marvel filmi izlemeye başladığımızda yolun bizi nereye götüreceğini çok iyi biliriz. Greenberg’e göre avangart, form açısından maceracıydı, yeni yollar döşeyerek yeni anlamlar yaratırdı. GPT sistemlerinin anlam paketlerinin çıktılarında hegemonya ve kitsch iç içe, belki “gerçek dünyanın” bazı unsurlarını ıskalıyorlar, ama ideolojiye sıkı sıkıya bağlılar.
Adorno ideolojiyi “yönetilen dünyanın doğrusu ve doğru olmayanı” olarak açıklıyordu. Sakladığı kadarını açığa da çıkarıyor, – Adorno’nun yüksek sanat düşkünlüğüne rağmen – toplumsal işlevlerin bizi koşullandırdığını görebileceğimiz bir giriş noktası sağlıyordu. GPT sistemleri bu iki yönlü sokağın bir kısmını ifşa etti, – medya kuramcısı Wendy Chun’un bir zamanlar yazılım sistemleriyle ilgili genel olarak söylediği gibi – hem ideolojiyi hem de onun eleştirisini ortaya koydu. GPT sistemleri, ideolojinin dilbilimsel oluşumuna dair eşi benzeri görülmemiş bir bakış açısı sunuyor. Siyasal anlambilimde “neyin neye yakın olduğunu” üretmemize, ardından da incelememize olanak tanıyan bir sistem daha önce hiç olmamıştı. Ürettikleri anlam paketleri elbette dili düzleştiriyor, ancak daha önce bir araya getirmediğimiz anlam kıvrımları ve köşeleriyle bizi şaşırtabiliyorlar da.
Bu anlam olukları boyunca kaymak, dijital küresel kapitalizmin ideolojisine giriş noktasıdır ve bize hegemonyanın anlık görüntüsünü sunar. Bu Kissinger’ın yapay zekanın gerçeklik algımızı tümden değiştireceği fikrinden oldukça uzakmış gibi görülebilir. Peki ya “basitleştirilmiş bir formda” paketlenmiş en ortalama sözcükler bu gerçekliğin ufkunu oluşturuyorsa? Bu durumda ideolojinin atan kalbine attığımız ufacık bakış çok önemlidir.
Kamera icat edildiğinde, dünyanın uzak parçalarını ilk kez kendi gözlerimizle gördük. GPT sistemleri de dünyanın parçalarını o kadar yakın gösteriyor ki bunlar temelde bizim dünyamız haline geliyor, ancak garip, düzleştirilmiş bir biçimde. Emeğin ve sermayenin koşulları kaçınılmaz olarak değiştikçe, ideolojiyle bağlantıları anlık olarak gözler önüne seriliyor. GPT-4 Mart ayında piyasaya sürüldü, ancak OpenAI tüm teknik ayrıntıları endüstriyel sır olarak sakladı. Bu kayıtsız boşluğa teknik farkındalıkla bakabileceğimiz pencere yakında kapanacak. Bundan derhal faydalanmalıyız.
*Bu yazı, Can Koçak tarafından Leif Weatherby’nin Jacobin’de yayımlanan yazısından çevrilmiştir.
