Öngörüden Üretime: Anlam ve İktidarın Motoru Olarak Üretken Yapay Zekâ

🧵⚙️💪🏻 TEZGÂH 🧵⚙️💪🏻

Özet

Bu makale üretken yapay zekânın ne olduğunu, nasıl çalıştığını, neden bu denli etkileyici göründüğünü ve nerelerde bizi yanıltabileceğini açıklar. Önce sıradan bir dilde berrak bir teknik ön bilgi sunar, ardından teknolojiyi toplumsal, ekonomik ve siyasal bağlamına yerleştirir. Merkezî iddia basittir. Üretken yapay zekâ ne bir zihin ne de bir aynadır; geçmiş insan ifadesinin okyanuslarını talep üzerine taptaze görünen çıktılara çeviren bir altyapıdır. Altyapı olduğu için de asıl meseleleri dikkat, emek, değer, risk ve yetkenin nasıl dağıtıldığıdır. Bu meseleleri anlamak, makinenin gerçekten zeki olup olmadığına dair ritüel sorulardan daha iyi seçimler yapmamızı sağlar.

1. Üretken yapay zekâ tam olarak nedir?

Üretken yapay zekâ, çok büyük veri koleksiyonlarındaki istatistiksel düzenlilikleri öğrenen ve sonra bu düzenliliklere uyan yeni içerikler üreten modellere karşılık gelir. Bir sohbet robotuna soru sorduğunuzda, model bir sonraki sözcüğü, sonra bir sonrakini üretir; yanıtı belirteçten belirtece inşa eder. Bir görüntü modelini yönlendirdiğinizde, milyonlarca resim ve altyazıdan öğrendikleriyle güdülenerek gürültüyü kademeli olarak yapıya arıtarak bir görüntü üretir. Her iki durumda da model bir düşünme öznesi değil, bir örüntü makinesidir. Bir arama motorunun ağı indeksleyerek bir bilgiyi bulması gibi bir olguyu ‘bulup çıkarmaz’; eğitiminden şekillenmiş makul bir süreklilik sentezler. Ortaya çıkan sonuç çoğu zaman içgörülü görünür; çünkü insan dili başlı başına örüntülerden oluşan yoğun bir ağdır. Akıcılık bir başarıdır, ama anlama ile aynı şey değildir.

2. Makineler bunu yapmayı nasıl öğrenir?

Temel tarif şaşırtıcı derecede yekpâredir. Modeller muazzam metin, görsel, ses, kod ya da video külliyatlarını ‘içer’ ve bir tahmin görevini çözmeyi öğrenir. Bir dil modeli, bir cümledeki bir sonraki belirteci öngörecek şekilde eğitilir. Bir görüntü modeli, yapılandırılmış ayrıntı ortaya çıkana kadar bir gürültüleme sürecini tersine çevirmeyi öğrenir. Bunlar, hedeflerin verinin bizzat içinde bulunduğu öz gözetimli görevlerdir. Öneğitimden sonra sistemlerin çoğu, talimatları izlemeye ve zararlı davranıştan kaçınmaya uyarlanır. Bu uyarlama, sıradan denetimli örneklerle yapılabileceği gibi modelin bazı yanıtlara diğerlerinden daha çok ‘tercih göstermesini’ öğreterek de yapılabilir. İnsanlar hizalamadan söz ettiklerinde bu aşamayı, yani modelin davranışının belirli değerlere ya da normlara doğru çekildiği evreyi anlatırlar. Hizalama, silisyuma dökülmüş bir ruh değildir. Kimilerini diğerlerinden daha olası kılan sayısız küçük dürtünün toplamıdır.

3. Modeller bazen neden uydurur?

Modelin amacı ikna edici olmaktır, doğru olmak değil. Önceki bağlama göre bir sonraki belirtecin olasılığını eniyiler; sözcükleri ile dünya arasındaki uygunluğu değil. Dışsal bir olgu kaynağı yoksa, pürüzsüz bir tümceye giden en güvenli yolun içinde icat edilmiş ayrıntılar bulunabilir. Bu yüzden araçlarla eşleştirilen sistemler daha iyi sonuç verir. Model bir veritabanını sorgulayabiliyorsa, bir hesap makinesine başvurabiliyorsa ya da bir belgeyi getirebiliyorsa, öngörüleri kendi eğitim belleği dışındaki bilgilerle çivilenebilir. Yeni gelenler için önemli ders, modellerin işe yaramaz olduğu değil; kanıt erişimi ve atıf talebi olmaksızın güçlü anlatıcılar, fakat zayıf tarihçiler olduklarıdır.

4. Verinin içinde ne var ve bu neden önemlidir

Her üretken sistem başkalarının geçmiş emeğine dayanır. Ham madde, gezegen ölçeğinde insan ifadesidir: kitaplar, makaleler, kod depoları, sosyal paylaşımlar ve görseller. Bir kısmı lisanslıdır. Büyük bir bölümü değildir. Yorumlayıcılar ve moderatörler bu veriyi temizler, etiketler ve süzer; çoğu zaman düşük ücretle ve görünmez biçimde. Modelleri eğitmek ve çalıştırmak için hesaplama kümeleri elektrik tüketir ve bunların tedarik zincirleri metaller, su ve toprak gerektirir. Sohbet penceresinde beliren kısa bir yanıtın arkasında, insanların ve kaynakların uzun bir hattı vardır. Bu, çıktıyı gayrimeşru kılmaz; ancak bu araçlar hakkında kamu işleri ve altyapı hizmetleri hakkında konuştuğumuz türden bir dille konuşmamız gerektiği anlamına gelir. Toplarlar, dönüştürürler ve değeri yeniden dağıtırlar. Etik sorular duyguya sahip olup olmadıkları değil; rıza, tazmin, köken ve etkiyle ilgilidir.

5. Yazarlık, özgünlük ve remiks koşulu

Yaygın bir kaygı, üretken sistemlerin yalnızca var olanı remikslediğidir. Kelimenin düz anlamıyla biz de öyle yaparız. İnsan yaratıcılığı birikimlidir; özgünlük etkilenmelerden inşa edilir. Fark, özne oluş ve sorumluluktadır. Bir romancı kaynaklarını ve niyetlerini açıklayabilir ve intihalden dolayı sorumlu tutulabilir. Bir model niyetlenemez, itiraf edemez. Çıktıyı bütünüyle özgün saymak, krediyi sıfıra indirir ve hiç kimseye yükümlülük vermez. Çıktıyı her zaman hırsızlık saymak ise, izleyicilerin değerli bulabileceği sahici sentez ve yeni düzenlemeyi görmezden gelir. Daha iyi bir çerçeve, yükümlülükleri olan paylaşımlı yazarlıktır. Sistem bir topluluğun emeğinin omuzlarında yükseliyorsa, topluluk tanınmayı, vazgeçme seçeneklerini ve faydalanma yollarını hak eder.

6. Önyargı, çerçeveleme ve varsayılanların siyaseti

Üretken sistemler, beslendikleri dağılımları yeniden üretir. Eğitim verisi bazı sesleri eksik temsil ediyor ya da zararlı çerçeveleri fazla temsil ediyorsa, modelin sözde nötr ve yardımsever tonu o örüntüleri ileriye taşır. Hizalama katmanları bazı çıktıları bastırabilir; ama aynı zamanda başka bir değer kümesini de dayatır. Varsayılan asistan ‘tarafsız’ değildir; küratörlenmiş bir personadır. Bu, teknolojiyi reddetmek için bir neden değildir. Kaynaklar konusunda şeffaflık talep etmek, toplulukların özelleştirmesine imkân vermek ve model davranışını eleştiriye açık bir tasarım tercihi olarak ele almak için bir nedendir. Bir kütüphanenin tarafsız olup olmadığını sormayız. Kime hizmet ettiğini, raflara neyin konulduğuna kimin karar verdiğini ve kataloğun neleri dışarıda bıraktığını sorarız.

7. İş, verimlilik ve değişen iş bölümü

Üretken araçlardan gerçek bir verimlilik kazanımı elde edilebilir. Taslaklar daha hızlı üretilebilir, kodun iskeleti kurulabilir, görseller pahalı yeniden işlere gerek kalmadan yinelenebilir ve çeviri materyalleri daha erişilebilir kılabilir. Risk, araçların gelmesi değil; kazançların nasıl paylaştırılacağıdır. Bir işyeri, kadroyu sabit tutup insanların kazanılan zamanı kaliteye, güvenliğe ve bakıma harcamasına karar verebilir. Ücretleri ya da işleri kısıp gözetimi artırmaya da karar verebilir. Bunlar yönetim tercihidir. Teknolojinin zorladığı şeyler değildir. Dağıtım kararlarına çalışanları katan kurumlar, işe en yakın insanların arıza kiplerini ve köşe durumlarını önceden sezmeleri sayesinde, genellikle daha iyi kullanımlar ve daha az zarar keşfeder. İşin yaratıcı ya da ilişkisel olduğu yerlerde en iyi örüntü, modelleri ikame değil enstrüman olarak kullanan hibrit pratiktir.

8. Eğitim ve öğrenmenin geleceği

Öğretmenler üretken araçların kopya çekmeyi zahmetsiz kılacağından kaygılanır; bazı öğrenciler ise, çilesiz yazmanın düşünmelerini içinin boşaltacağından endişe eder. Yapıcı karşılık cezalandırıcı değil, müfredatsaldır. Bu sistemleri dil için hesap makineleri gibi ele alabiliriz. Süreç kayıtları, kaynak izleme ve sözlü savunmaları zorunlu kılabiliriz. Salt sentez yerine yargı ve saha gözlemi gerektiren görevler verebiliriz. Aynı zamanda bu araçları, özel ders imkânı olmayan öğrenenler için geri bildirim iskeleleri kurmakta kullanabiliriz. Ders, bu makalenin geri kalanıyla uyumludur. Aracın değeri, onu saran uygulamaya bağlıdır. Onunla öğretiyorsak, onu da öğretmeliyiz.

9. Güvenlik, emniyet ve yetenekle kötüye kullanım arasındaki sınır

Bu modeller genişçe sorulan sorulara yanıt verdiğinden, zararlı amaçlara doğru da yönlendirilebilir. Bazı riskler kişiler arasıdır; örneğin taciz ya da sahte görseller. Diğerleri kurumsaldır; örneğin otomatik oltalama ya da istem enjeksiyonu yoluyla veri sızdırma. Başkaları ise fikrî mülkiyet, mahremiyet ve meslekî standartlarla ilgilidir. Güvenlik tek seferlik bir filtre değildir. Eğitim verisini kürate etmeyi, arıza kiplerini test etmeyi, korkuluklar kurmayı, kullanımı izlemeyi ve telafi sunmayı içeren sürmekte olan bir disiplindir. Bu unsurların hiçbiri tek başına yeterli değildir. Güvenli yol katmanlı, uyarlanabilir ve etkilediği insanlara karşı hesap verebilir olandır.

10. Yönetişim, hukuk ve kamusal tercihlerin biçimi

Kurallar teknolojiye yetişmeye çalışıyor ve evrilmeyi sürdürecek. İyi yönetişimin amacı her şeyi durma noktasına getirmek değildir. Aksi hâlde en büyük kümeyi kim önce kurabiliyorsa onun vereceği kararları, bilinçli ve müzakere edilmiş kılmaktır. Açıklama, denetlenebilirlik ve köken bilgisi, kullanıcıların neyle karşı karşıya olduklarını bilmesine yardım eder. Hesaplama gücü ve enerji raporlaması, toplulukların çevresel ayak izlerini anlamasına yardım eder. Kamu hizmetleri için yapılan sözleşmeler, veri saklama, itiraz edilebilirlik ve çıkış için net standartlar içermelidir. Açık ve kapalı modeller, arayüzler ve yükümlülükler netse bir arada var olabilir. En önemli tasarım seçeneği ise katılımdır. Bir sistemden etkilenen insanlar, neyin zarar, neyin başarı sayılacağını tanımlamada söz sahibi olmalıdır.

11. Daha iyi sistemler tasarlamak: ilkelerden uygulamaya

Bu modelleri kamuya dönük bir altyapı gibi ele alırsak, birkaç pratik taahhüt kendiliğinden ortaya çıkar. Sistemler, çıktılar kaynaklarının ve geçirdikleri dönüşümlerin izini taşıyabilsin diye köken bilgisini (provenans) varsayılan olarak sağlamalıdır. Arayüzler, üretilen iddiaların uzman araçlar olmadan denetlenebilmesi için atıf ve bağlantıyı desteklemelidir. Kuruluşlar model kartları yayımlamalı ve davranış kaymaları oldukça bunları güncellemelidir. Satın alma, yalnızca doğruluk hakkında değil; aynı zamanda çalışanlara danışma, veri yönetişimi ve şikâyetlerin ele alınma planı hakkında da soru sormalıdır. Topluluklar, geniş ölçekli iyileştirmelerden izole olmadan davranışı yerel normlara ayarlayabilmelidir. Bunların hiçbiri esrarengiz bir hava gerektirmez. Evrak işi, sabır ve mühendisliği kamusal bir meslek olarak görme iradesi gerektirir.

12. Eleştiri ile inşayı birleştiren bir araştırma gündemi

Eleştirel kuramın vazgeçilmez bir rolü vardır; ama teşhisle sınırlı kalmamalıdır. Hem kavramsal hem teknik yapılacak işler var. Temsiliyeti yalnızca demografik sayımlarla değil, anlatı çerçeveleri ve metaforları da içerecek biçimde ölçen yöntemlere ihtiyacımız var. Veri üzerinde toplu pazarlık için hukukî ve teknik araçlara ihtiyacımız var. Yapay içerik tanınabilsin diye mahremiyete saygılı ve dayanıklı filigranlama ile imzalamaya ihtiyacımız var; masumları ifşa etmeden. Dağıtımdan önce korumaları sonradan yamamak yerine, en çok zarar görme olasılığı olan insanlardan başlayan kullanıcı çalışmalarına ihtiyacımız var. Yalnızca akıcılık için değil, yargı için de kıstaslara ihtiyacımız var. Yazarlarla mühendislerin birbirinin zanaatini görebilmesini öğreten bir pedagojiye ihtiyacımız var. Bu, kütüphanecilerin, dilbilimcilerin, sosyologların, eğitimcilerin, tasarımcıların ve yazılım mühendislerinin aynı masada oturup birlikte ürün çıkardığı karma takımlar için bir an.

13. Gösteriyi nasıl okumalı

Ne zaman bir gösterim viral olsa, çok basit soruları sormak yardımcı olur. Girdi tam olarak nedir ve çıktı tam olarak nedir. Sistemin neye bakmasına izin verildi ve neleri görmesi yasaklandı. On yerine bir deneme izlemek yerine on deneme izleseydik, başarısızlık nasıl görünürdü ve olasılığı ne olurdu. Zaman için hangi bölümler kurgulandı. Bu kuşkunun hiçbiri başarıyı küçültmez. Yalnızca ölçüyü yerine oturtur. Bu modeller biçimi sentezlemede şaşırtıcıdır. Dünyayı temsil etmede yanılgılıdır. İlk güçlerini harekete geçirip ikincisini telafi ettiğimizde en kullanışlı hâllerini alırlar.

14. İnsanî bir sonuç

Zihinler ve canavarlara dair mecazları bir kenara itersek, üretken yapay zekâ hem yönetmesi hem iyi kullanması daha kolay hâle gelir. Sembolleri işe yarar biçimlere düzenleyen genel amaçlı bir makinedir. Birçoğunun emeğinden inşa edilir ve birçoğunun yaşamını etkiler. Bu da onu en sade anlamıyla bir kamusal teknoloji yapar. Doğru soru, makinenin bize benzer olup olmadığı değildir. Doğru soru, ölçekli olarak taslak çıkarıp çizim yapabilen bir aracı neye dönüştüreceğimizdir. Onu dikkat dağıtmaya ve sömürüye doğrultabiliriz ya da bakıma, erişilebilirliğe ve ortak araştırmaya doğrultabiliriz. Seçim modelde değil. Seçim bizdedir.