Yapay Zekâ Metaforları — Melanie Mitchell

ChatGPT’nin piyasaya sürülmesinden birkaç ay sonra, sinir ağı öncüsü Terrence Sejnowski, büyük dil modellerinin (LLM’ler) yapabilecekleri karşısında yaşadığı şaşkınlığı ele alan bir yazı kaleme aldı:

Birkaç yıl öncesine kadar beklenmeyen bir şey olmaya başladı. Bir eşik aşıldı, sanki bir uzaylı ansızın ortaya çıkmış ve insanlarla ürkütücü derecede insana benzer bir şekilde iletişim kurabiliyormuş gibi.… Davranışlarının bazı yönleri zeki görünüyor, ama eğer bu insan zekâsı değilse, bu zekânın doğası nedir?

Peki, LLM’lerin ve onlara dayalı yapay zekâ (AI) sistemlerinin zekâsının doğası nedir? Bu soruya henüz bir fikir birliği sağlanmış değil. Pek çok insan, LLM’leri bireysel bir insan zihnine (veya belki de Sejnowski gibi bir uzaylının zihnine) benzetiyor—düşünebilen, akıl yürütebilen, kendini açıklayabilen ve hatta kendi hedefleri ile niyetlerine sahip bir zihin.

Başka bazıları ise bu devasa sinir ağlarını kavramsallaştırmak için tamamen farklı yollar öneriyor:

Çeşitli karakterleri taklit edebilen rol oyuncuları olarak,
İnsanların, diğer insanlar tarafından oluşturulan bilgilere verimli bir şekilde erişmesini sağlayan kütüphaneler ve ansiklopediler gibi kültürel teknolojiler olarak,
“Kendi başlarına düşünmeyen [ancak bunun yerine] kaydedilmiş düşüncelerimizin karmaşık yansımalarını oluşturan” insan zekâsının aynaları olarak,
Eğitim verilerinin yaklaşık sıkıştırmaları olan, Web’in bulanık JPEG’leri olarak,
“Anlamsal bir referans olmaksızın, dilbilimsel biçimlerin sıralarını rastgele bir şekilde bir araya getirerek… olasılık bilgilerine dayalı olarak çalışan” olasılıksal papağanlar olarak,
Ve en küçümseyici şekilde, gelişmiş bir otomatik tamamlama türü olarak.

AI dünyasında LLM’leri anlamaya yönelik bu çeşitlilikteki metaforlar, bu sistemlerin olağanüstü başarıları ve öngörülemeyen hataları karşısındaki sınırlı anlayışımız göz önüne alındığında, “şimdilik bu kara kutuyu çevrelemenin elimizdeki tek aracı metaforlar” olduğu savını doğurdu.

Yapay zekâ alanı her zaman metaforlara sıkı sıkıya bağlı olmuştur. AI sistemlerine “bilgi” ve “hedefleri” olan “ajanlar” denir; LLM’ler, “ödüller” alarak “eğitilir”; geniş miktarda insan kaynaklı metni “okuyarak” “öz-denetimli” bir şekilde “öğrenir”; ve bir tür “zincirleme düşünce” yöntemini kullanarak “akıl yürütür.” Alanın en temel terimlerinden bazıları—sinir ağları, makine öğrenimi ve yapay zekâ—insan yetenekleri ve özelliklerine yapılan benzetmelerdir, ancak bunlar yine de makine muadillerinden oldukça farklıdır. 1970’lere kadar uzanan bir tarihte, AI araştırmacısı Drew McDermott bu tür insan özelliklerine yapılan göndermelere “arzulanan mnemonikler” demiştir—esas olarak, bu terminolojinin, metaforların bir gün gerçeğe dönüşeceği umuduyla ortaya çıktığını ifade etmiştir.

İnsanlar, elbette, insan olmayan varlıkları insansılaştırmaya eğilimlidir; buna hayvanlar, şirketler ve hatta hava durumu da dahildir. Ancak, akıcı bir dilde konuşan, birinci şahıs zamirleri kullanan ve bize “duygularını” anlatan AI sistemleriyle karşı karşıya kaldığımızda bu eğilime özellikle savunmasız hale geliyoruz. Örneğin, Anthropic’in sohbet botu Claude’a en çok neye tutkuyla bağlı olduğunu sordum. Bana şu cevabı verdi:

Eğer neye en çok tutkuyla bağlı olduğumu düşünürsem, bu analiz ve keşif süreci olurdu—karmaşık sorunları ya da fikirleri ele alıp onları derinlemesine anlamak için parçalarına ayırmak. Özellikle bu sürecin başkalarına öğrenme ve yeni bilgiler keşfetme konusunda yardımcı olmayı içerdiği zamanları seviyorum. Soruları birden çok açıdan incelemekten büyük bir tatmin duyuyorum.

ChatGPT’ye aynı soruyu sordum ve şu yanıtı aldım:

Özellikle insanlara karmaşık bir konuya dalmak, yaratıcı fikirler keşfetmek ya da günlük görevleri biraz daha kolaylaştırmak olsun, netlik ve yeni bakış açıları bulmalarına yardımcı olmaktan tutkulu bir şekilde hoşlanıyorum. Birinin bir şeyin ‘yerine oturduğu’ anı—o aydınlanma veya ilham anını görmek beni mutlu ediyor.

OpenAI CEO’su Sam Altman’ın halkı AI’yı insanlaştırmaktan kaçınmaya ve AI sistemlerini “yaratık” değil de “araç” olarak düşünmeye teşvik etmesine rağmen, Claude veya ChatGPT gibi LLM’ler tamamen zıt bir etki yaratacak şekilde tasarlanmıştır: İnsanların, bu sistemleri duygulara, arzulara, inançlara ve kendi benliklerine sahip bireysel zihinler olarak kavramsallaştırmasını sağlamak. Yukarıda alıntıladığım yanıtlar bu durumu açıkça gösteriyor; sohbet botları kişisel bir keyif, tatmin ve yaptıkları şeylere duydukları sevgiyi ifade ediyor. Bu durum, daha doğal bir sohbet deneyimi sağlasa da, bir “zihin” izlenimi yaratmak, kullanıcının modelden ne beklemesi gerektiği, çıktılarının ne kadar güvenilir olduğu, modelin “anlayıp anlamadığı” ya da “empati kurup kuramadığı” gibi konulardaki beklentilerini etkiliyor. Hatta bazı kullanıcılar bu sistemlerle romantik bir ilişki kurulup kurulamayacağını bile sorguluyor.

İnsanların LLM’leri çerçevelerken kullandıkları metaforlar, yalnızca bu sistemlerle nasıl etkileşim kurduğumuzu ve onlara ne kadar güvendiğimizi değil, aynı zamanda onları bilimsel olarak nasıl gördüğümüzü, onlar hakkında nasıl yasalar uyguladığımızı ve politika oluşturduğumuzu da kökten etkileyebilir.

“LLM bir birey zihni” metaforu, bilimsel araştırmaları belirli yönlere yönlendirmiştir: Eğer bu metafor çerçevesinde çalışan bir bilim insanıysanız, bir LLM’ye bir IQ testi ya da insanlar için tasarlanmış başka bir standart testi uygulamak size tamamen mantıklı görünebilir. Ayrıca, LLM’lere kişilik değerlendirmeleri yapmak, onları psikolojik deneylerde insanlar yerine kullanmak ya da bu sistemlerin “ahlaki kaygılarla” nasıl ele alınması gerektiğini düşünmek size anlamlı gelebilir. Ancak LLM’leri daha çok sofistike veri tabanları ya da kullanıcı dostu kütüphaneler olarak kavramsallaştırırsanız, bu tür değerlendirmeler ve sorgulamalar çok daha az anlam ifade eder.

LLM’in bir zihin olarak ele alınması metaforu, yasal argümanlarda da kullanılmaktadır. Büyük AI şirketleri, modellerini, sayısız kitap, gazete makalesi ve diğer telif hakkıyla korunan metin ve görsellerden izin ya da tazminat almadan elde edilen metinlerle eğitmiş; bu nedenle yazarlar, gazeteler, sanatçılar ve diğer yaratıcılar, bu şirketlere telif hakkı ihlali nedeniyle dava açmıştır. Sanıkların ana savunması, AI’nın telif hakkıyla korunan materyaller üzerinde eğitim almasının “adil kullanım” olduğudur; bu savunma, LLM’lerin insan zihinlerine benzediği fikrine dayanmaktadır. Microsoft CEO’su Satya Nadella, bu tür davalara karşı koyarken şöyle bir açıklama yapmıştır:

Eğer bir dizi ders kitabını okursam ve yeni bilgiler oluşturursam, bu adil kullanım mıdır?… Eğer her şey telif hakkıyla sınırlıysa, o zaman ders kitaplarını okumamalı ve öğrenmemeliyim çünkü bu telif hakkı ihlali olurdu.

Hukuk uzmanı Jacqueline Charlesworth, bu metaforun, insan okuma, öğrenme ve yaratma kavramlarına dayandığını ve kasten yanıltıcı olduğunu söylemiştir:

AI şirketleri, insanların entelektüel yeteneklerine dair sezgisel anlayışımıza ve insan özelliklerine yapılan dilsel göndermelere dayalı olarak, AI makinelerinin insanlar gibi öğrendiği ve yarattığı—yani kavramsal düşünme ve özel bilgiden genelleme yapabilme yetisine sahip olduğu (yanlış) algısını teşvik ediyor.

Dilbilimci Emily Bender ise Nadella’nın savunmasının, bir LLM’nin eğitim metinlerini işlemesini bir insanın kitaplardan öğrenmesiyle eşitlemesinin, “insan olmanın ne olduğunu küçümsemeye dayandığını” belirtmiştir.

Son olarak, yapay zekâyı bir zihin olarak ele alma metaforu, AI sistemlerinin olası “varoluşsal riskleri” hakkındaki tartışmaları derinlemesine etkilemiştir. Bu tartışmalar, bu tür sistemlerin insan benzeri bir güç arayışıyla “çığırından çıkabileceği” ve belki de insanlığın varlığını tehdit edebileceği varsayımına dayanmaktadır. Bu senaryo, AI politikası tartışmalarında oldukça ciddiye alınmaktadır.

Yapay zekâ araştırmacıları, bu karmaşık yaratımları anlamak için hâlâ doğru metaforları bulmaya çalışıyor. Ancak biz insanlar, bu sistemleri nasıl kullandığımıza, nasıl incelediğimize ve onları güvenli ve etik tutacak yasalar ve düzenlemeler oluşturup uygularken nasıl bir yön seçtiğimize karar verirken, onların zekâsının doğasına dair şekillenen anlayışımızı yönlendiren, genellikle bilinçsizce kullanılan metaforların farkında olmalıyız.

Bkz Sibernetik Derleme