Zarafetengiz Makineler — Dario Amodei | 🦋🤖 YERSİZ ŞEYLER

Zarafetengiz Makineler¹ [şiir/şarkı]
Yapay Zekâ Dünyayı Daha İyi Hale Nasıl Getirebilir
Ekim 2024

Güçlü yapay zekânın riskleri hakkında çok düşünüyor ve konuşuyorum. CEO’su olduğum şirket, Anthropic, bu riskleri azaltmaya yönelik birçok araştırma yapıyor. Bu yüzden bazen insanlar benim bir kötümser ya da yapay zekânın çoğunlukla kötü veya tehlikeli olacağını düşünen bir “felaket tellalı” olduğum sonucuna varıyor. Hiç de öyle düşünmüyorum. Aslında, risklere odaklanmamın ana nedenlerinden biri, onların, temelde olumlu gördüğüm bir geleceğin önündeki tek engel olması. Bence çoğu insan, yapay zekânın olumlu etkilerinin ne kadar köklü olabileceğini hafife alıyor; tıpkı risklerin ne kadar ciddi olabileceğini hafife aldıkları gibi.

Bu makalede, olumlu tarafın nasıl görünebileceğini tasvir etmeye çalışıyorum—her şeyin yolunda gittiği bir dünyada güçlü yapay zekânın nasıl bir şey olabileceğini anlatmaya gayret ediyorum. Elbette kimse geleceği kesinlik veya hassasiyetle bilemez ve güçlü yapay zekânın etkileri, geçmişteki teknolojik değişimlerden bile daha öngörülemez olacaktır; dolayısıyla tüm bunlar kaçınılmaz olarak tahminlerden ibaret olacak. Ancak en azından eğitimli ve faydalı tahminler yapmayı hedefliyorum—detayların çoğu yanlış çıksa bile, olacakların genel çerçevesini yakalayabilen tahminler. Bolca ayrıntı eklememin sebebi de bu; çünkü somut bir vizyonun, çok temkinli ve soyut bir anlatımdan daha fazla tartışmayı ileri taşıdığını düşünüyorum.

Ancak öncelikle, ben ve Anthropic’in neden güçlü yapay zekânın olumlu yönlerinden çok fazla bahsetmediğimizi ve neden genel olarak risklerden bahsetmeye devam edeceğimizi kısaca açıklamak istiyorum. Özellikle bu tercihi şu nedenlerle yaptım:

Etkimizi en üst düzeye çıkarmak. Yapay zekâ teknolojisinin temel gelişimi ve birçok (hepsi değil) faydası kaçınılmaz görünüyor (eğer riskler her şeyi rayından çıkarmazsa) ve esas olarak güçlü piyasa güçleri tarafından yönlendiriliyor. Öte yandan, riskler önceden belirlenmiş değil ve bizim eylemlerimiz, bu risklerin gerçekleşme olasılığını büyük ölçüde değiştirebilir.
Propaganda algısından kaçınmak. Yapay zekâ şirketlerinin, yapay zekânın tüm harika faydalarından bahsetmesi, onları propagandacı gibi gösterebilir veya olumsuz yanları örtbas etmeye çalışıyormuş gibi algılanabilir. Ayrıca, ilkesel olarak da, zamanın çok büyük bir kısmını “kendi kitabını satmaya” harcamanın insanın ruhuna zarar verdiğini düşünüyorum.
Büyüklük taslamaktan kaçınmak. Yapay zekâ riski konusunda kamuoyunda öne çıkan birçok figürün (yapay zekâ şirketi liderlerini de kapsayan) yapay genel zekâ (AGI) sonrası dünyayı anlatma biçimi beni rahatsız ediyor. Sanki bu süreci tek başlarına gerçekleştirmek onların misyonuymuş ve insanları kurtuluşa götüren birer peygambermiş gibi konuşuyorlar. Şirketlerin dünyayı tek taraflı olarak şekillendirdiğini düşünmek tehlikelidir ve pratik teknolojik hedefleri neredeyse dini bir çerçevede ele almak da tehlikelidir.
“Bilim kurgu” yükünden kaçınmak. Güçlü yapay zekânın olumlu etkilerinin genellikle hafife alındığını düşünsem de, radikal yapay zekâ geleceklerini tartışan küçük bir topluluk bunu fazlasıyla “bilim kurgu” havasında yapıyor (örneğin, dijital zihin yüklemeleri, uzay keşfi veya genel siberpunk estetiği gibi unsurlar içererek). Bunun, insanların bu iddiaları daha az ciddiye almasına ve onları bir tür gerçekdışı fantazi olarak görmesine yol açtığını düşünüyorum. Açık olmak gerekirse, mesele tarif edilen teknolojilerin mümkün olup olmadığı veya gerçekleşme olasılığı değil (ana makale bunu ayrıntılı bir şekilde inceliyor); asıl sorun, bu “hava”nın örtük olarak bir dizi kültürel bagajı ve dile getirilmemiş varsayımları da içermesi—hangi tür bir geleceğin arzu edilir olduğu, çeşitli toplumsal meselelerin nasıl şekilleneceği gibi. Sonuç olarak, bu tür anlatımlar genellikle dar bir alt kültür için tasarlanmış bir fantazi gibi görünüyor ve çoğu insanı uzaklaştırıyor.

Yine de yukarıdaki tüm endişelere rağmen, güçlü yapay zekâya sahip iyi bir dünyanın nasıl görünebileceğini tartışmanın önemli olduğunu düşünüyorum ve bunu yaparken yukarıdaki tuzaklardan kaçınmaya gayret etmeliyiz. Hatta, yalnızca krizleri yönetmeye yönelik bir plan yerine, gerçekten ilham verici bir gelecek vizyonuna sahip olmanın kritik olduğuna inanıyorum. Güçlü yapay zekânın birçok sonucu çatışmacı veya tehlikeli olabilir, ancak en sonunda uğruna mücadele ettiğimiz bir şey, herkesin daha iyi durumda olduğu olumlu bir sonuç olmalı; insanları günlük çekişmelerin ötesine geçmeye ve önlerindeki zorluklarla yüzleşmeye teşvik eden bir amaç. Korku bir tür motivasyon sağlayabilir, ancak yeterli değildir; umuda da ihtiyacımız var.

Güçlü yapay zekânın olumlu kullanım alanlarının listesi oldukça uzun (robotik, üretim, enerji ve çok daha fazlasını içeriyor), ancak ben doğrudan insan yaşam kalitesini iyileştirme potansiyeli en yüksek olan birkaç alana odaklanacağım. En çok heyecan duyduğum beş kategori şunlar:

Biyoloji ve fiziksel sağlık
Sinirbilim ve zihinsel sağlık
Ekonomik kalkınma ve yoksulluk
Barış ve yönetişim
Çalışma ve anlam

Tahminlerim, çoğu ölçüte göre radikal olarak değerlendirilecek (bilim kurgu “tekillik” vizyonları² hariç), ancak bunları içtenlikle ve samimiyetle dile getiriyorum. Söylediklerimin tamamı çok kolay bir şekilde yanlış çıkabilir (yukarıdaki noktayı tekrar etmek gerekirse), ancak en azından görüşlerimi, çeşitli alanlardaki ilerlemenin ne kadar hızlanabileceğine ve bunun pratikte ne anlama gelebileceğine dair yarı-analitik bir değerlendirmeye dayandırmaya çalıştım. Hem biyoloji hem de sinirbilim alanlarında mesleki deneyime sahip olduğum için şanslıyım ve ekonomik kalkınma alanında bilgili bir amatörüm, ancak yine de birçok şeyi yanlış anlayacağımdan eminim. Bu makaleyi yazmak, bana biyoloji, ekonomi, uluslararası ilişkiler ve diğer alanlarda uzmanlardan oluşan bir grup oluşturarak burada ortaya koyduğum şeyin çok daha iyi ve daha bilgili bir versiyonunu yazmanın değerli olacağını gösterdi. Burada yaptığım çabaları, bu grup için bir başlangıç noktası olarak görmek muhtemelen en iyisi olacaktır.

Temel Varsayımlar ve Çerçeve

Bu makaleyi daha kesin ve sağlam bir temele oturtmak için, güçlü yapay zekâdan ne kastettiğimizi (yani 5-10 yıllık sürecin başlamasına neden olacak eşiğin ne olduğunu) açık bir şekilde belirtmek ve böyle bir yapay zekâ mevcut olduğunda etkilerini düşünmek için bir çerçeve ortaya koymak faydalı olacaktır.

Güçlü yapay zekânın (AGI terimini sevmiyorum)³ nasıl görüneceği ve ne zaman (veya olup olmayacağı) ortaya çıkacağı başlı başına büyük bir konu. Bu, kamuya açık olarak tartıştığım ve muhtemelen tamamen ayrı bir makale yazabileceğim (muhtemelen bir noktada yazacağım) bir mesele. Açıkça görülüyor ki, birçok insan güçlü yapay zekânın yakın zamanda geliştirileceğine şüpheyle yaklaşıyor ve bazıları bunun hiç geliştirilemeyeceğini düşünüyor. Ben bunun en erken 2026’da gelebileceğini düşünüyorum, ancak çok daha uzun sürebileceği yollar da mevcut. Ancak bu makale bağlamında, bu tartışmaları bir kenara koymak, makul bir zaman dilimi içinde geleceğini varsaymak ve sonrasında yaşanacak 5-10 yıllık sürece odaklanmak istiyorum. Ayrıca böyle bir sistemin nasıl görüneceğine, hangi yeteneklere sahip olacağına ve nasıl etkileşim kuracağına dair bir tanım yapmayı amaçlıyorum, her ne kadar bu konuda farklı görüşler olsa da.

Güçlü yapay zekâ derken kastettiğim şey, büyük olasılıkla günümüzün büyük dil modellerine (LLM’ler) benzer bir yapıya sahip olacak bir yapay zekâ modeli—ancak farklı bir mimariye dayanabilir, birbiriyle etkileşime giren birkaç model içerebilir ve farklı bir eğitim sürecinden geçmiş olabilir—ve şu özelliklere sahip olacaktır:

Saf zekâ açısından⁴, biyoloji, programlama, matematik, mühendislik, yazım gibi ilgili alanların çoğunda Nobel Ödülü kazanmış birinden daha akıllıdır. Bu, çözülememiş matematik teoremlerini kanıtlayabileceği, son derece iyi romanlar yazabileceği, sıfırdan karmaşık yazılım kodları oluşturabileceği anlamına gelir.
Sadece “konuştuğunuz akıllı bir varlık” olmanın ötesinde, metin, ses, video, fare ve klavye kontrolü, internet erişimi gibi sanal ortamda çalışan bir insanın sahip olduğu tüm “arayüzlere” sahiptir. Bu arayüzlerin sağladığı tüm eylemleri, iletişimleri ve uzaktan operasyonları gerçekleştirebilir; internette işlem yapabilir, insanlara talimat verebilir veya onlardan talimat alabilir, malzeme sipariş edebilir, deneyler yönlendirebilir, videolar izleyebilir, videolar oluşturabilir ve daha fazlasını yapabilir. Tüm bu görevleri, yine, dünyanın en yetenekli insanlarından daha üstün bir beceriyle yerine getirir.
Sadece pasif bir şekilde sorulara yanıt vermekle kalmaz; saatler, günler veya haftalar sürebilecek görevler verilebilir ve ardından akıllı bir çalışan gibi, gerektiğinde açıklama isteyerek bu görevleri bağımsız bir şekilde yerine getirir.
Fiziksel bir bedene sahip değildir (bir bilgisayar ekranında var olmak dışında), ancak bilgisayar aracılığıyla mevcut fiziksel araçları, robotları veya laboratuvar ekipmanlarını kontrol edebilir; teorik olarak kendisi için robotlar veya ekipmanlar bile tasarlayabilir.
Modeli eğitmek için kullanılan kaynaklar, milyonlarca örneğini çalıştırmak için yeniden kullanılabilir (bu, 2027 yılı itibarıyla öngörülen veri merkezi kümelerine uyuyor) ve model, bilgiyi özümseyip eylemler üretebilir, bunu insan hızının yaklaşık 10x-100x katı hızla gerçekleştirebilir⁵. Ancak fiziksel dünyanın veya etkileşimde olduğu yazılımların yanıt süreleri tarafından kısıtlanabilir.
Bu milyonlarca kopyanın her biri, bağımsız olarak farklı görevler üzerinde çalışabilir ya da gerekirse tıpkı insanların işbirliği yaptığı gibi ortak bir görev üzerinde birlikte çalışabilir. Hatta, belirli görevlerde özellikle iyi olmak için ince ayar yapılmış farklı alt gruplardan oluşabilir.

Bunu “bir veri merkezinde yaşayan dâhiler ülkesi” olarak özetleyebiliriz.

Böyle bir varlığın çok zor problemleri çok hızlı bir şekilde çözebileceği açık, ancak ne kadar hızlı olacağını belirlemek o kadar da basit değil. İki “aşırı” görüşün de yanlış olduğunu düşünüyorum.

Birincisi, üstün zekânın kendini geliştirerek her türlü bilimsel, mühendislik ve operasyonel görevi neredeyse anında çözeceği ve dünyanın saniyeler veya günler içinde tamamen değişeceği (“Tekillik”) fikri. Bunun sorunu, donanım üretimi veya biyolojik deneyler yürütmek gibi konularda fiziksel ve pratik sınırların olmasıdır. Yeni bir dâhiler ülkesi bile bu sınırlara çarpacaktır. Zekâ çok güçlü olabilir, ancak sihirli bir peri tozu değildir.

İkincisi ve tersine, teknolojik ilerlemenin gerçek dünya verileri veya toplumsal faktörler tarafından sınırlandığını ve insandan daha üstün zekânın çok az katkı sağlayacağını düşünebilirsiniz⁶. Bu bana da aynı derecede mantıksız görünüyor—çok zeki bir insan grubunun ilerlemeyi büyük ölçüde hızlandırabileceği yüzlerce bilimsel ya da toplumsal sorun aklıma geliyor, özellikle de sadece analiz yapmakla sınırlı olmayıp gerçek dünyada olayları şekillendirebiliyorlarsa (ki varsaydığımız dâhiler ülkesi bunu yapabilir, insan ekiplerini yönlendirerek veya onlara yardımcı olarak dahil olmak üzere).

Gerçeğin, bu iki aşırı uçtan oluşan karmaşık bir birleşim olduğu ve göreve ve alana göre değişen, çok ince ayrıntıları olan bir durum olduğu kanısındayım. Bu ayrıntıları verimli bir şekilde düşünmek için yeni çerçevelere ihtiyacımız olduğuna inanıyorum.

Ekonomistler sıklıkla “üretim faktörlerinden” bahseder: emek, toprak ve sermaye gibi unsurlar. “Emeğin/toprağın/sermayenin marjinal getirisi” ifadesi, belirli bir durumda belirli bir faktörün sınırlayıcı olup olmadığı fikrini ifade eder—örneğin, bir hava kuvvetinin hem uçaklara hem de pilotlara ihtiyacı vardır ve eğer uçak kalmadıysa daha fazla pilot işe almak pek işe yaramaz. Yapay zekâ çağında, zekânın marjinal getirilerini⁷ tartışmamız ve zekâ çok yüksek olduğunda onunla tamamlayıcı olan ve sınırlayıcı faktör haline gelen diğer unsurların neler olduğunu anlamaya çalışmamız gerektiğine inanıyorum.

Biz bu şekilde düşünmeye alışık değiliz—“Daha zeki olmak bu görevde ne kadar yardımcı olur ve hangi zaman ölçeğinde?” gibi sorular sormuyoruz—ancak çok güçlü yapay zekâya sahip bir dünyayı kavramsallaştırmanın doğru yolu bu gibi görünüyor.

Zekâyı sınırlayan veya onunla tamamlayıcı olan faktörlerin listesi hakkında tahminlerim şunlardır:

Dış dünyanın hızı. Zeki ajanların bir şeyleri başarabilmek ve öğrenebilmek için dünyayla etkileşim halinde olmaları gerekir⁸. Ancak dünya yalnızca belirli bir hızda hareket eder. Hücreler ve hayvanlar belirli bir hızda çalışır, dolayısıyla üzerlerinde yapılan deneyler belirli bir sürede tamamlanır ve bu süre daha fazla kısaltılamayabilir. Aynı şey donanım, malzeme bilimi, insanlarla iletişimi içeren herhangi bir şey ve hatta mevcut yazılım altyapımız için de geçerlidir. Ayrıca, bilimde genellikle birbirine bağlı bir dizi deney gereklidir; her biri bir önceki deneyden öğrenir veya üzerine inşa edilir. Tüm bunlar, büyük bir projenin—örneğin kanser tedavisi geliştirme sürecinin—belirli bir minimum sürenin altına indirilemeyeceğini, zekâ ne kadar artarsa artsın bu sürenin değişmeyeceğini gösterir.
Veri ihtiyacı. Bazen ham veri eksiktir ve bu durumda daha fazla zekâ işe yaramaz. Günümüz parçacık fizikçileri son derece yaratıcıdır ve çok çeşitli teoriler geliştirmişlerdir, ancak parçacık hızlandırıcı verileri çok sınırlı olduğu için bu teoriler arasında seçim yapamazlar. Süper zeki olsalar bile çok daha iyi sonuçlar elde edecekleri net değildir—ancak belki de daha büyük bir hızlandırıcının inşasını hızlandırabilirler.
Doğal karmaşıklık. Bazı şeyler doğası gereği öngörülemez veya kaotiktir ve en güçlü yapay zekâ bile bunları bugünün insanları veya bilgisayarlarından çok daha iyi tahmin edemez ya da çözüme kavuşturamaz. Örneğin, inanılmaz derecede güçlü bir yapay zekâ bile genel durumda kaotik bir sistemde (üç cisim problemi gibi) bugünün insanları ve bilgisayarlarına kıyasla ancak çok az daha ileriyi tahmin edebilir⁹.
İnsanlardan Gelen Kısıtlamalar. Pek çok şey, yasaları çiğnemeden, insanlara zarar vermeden veya toplumu bozup altüst etmeden yapılamaz. Uyumlu bir yapay zekâ bu şeyleri yapmak istemeyecektir (ve eğer uyumsuz bir yapay zekâmız varsa, tekrar riskler hakkında konuşuyoruz demektir). İnsan toplumunun birçok yapısı verimsizdir veya hatta aktif olarak zararlıdır, ancak klinik deneylerle ilgili yasal gereklilikler, insanların alışkanlıklarını değiştirmeye istekli olması veya hükümetlerin davranışları gibi kısıtlamalara saygı gösterirken değiştirilmesi zordur. Teknik anlamda oldukça başarılı olan ancak düzenlemeler veya yanlış yönlendirilmiş korkular nedeniyle etkisi önemli ölçüde azalmış ilerlemelere örnek olarak nükleer enerji, süpersonik uçuş ve hatta asansörler verilebilir.
Fizik Yasaları. Bu, ilk noktanın daha kesin ve katı bir versiyonudur. Kırılması imkânsız gibi görünen bazı fiziksel yasalar vardır. Işıktan daha hızlı seyahat etmek mümkün değildir. Karıştırılmış bir puding kendiliğinden eski haline dönmez. Çipler, belirli bir santimetrekare başına belirli bir transistör sayısından fazlasını barındıramaz, aksi takdirde güvenilmez hale gelir. Hesaplama, silinen her bit başına belirli bir minimum enerji gerektirir ve bu, dünyadaki hesaplama yoğunluğunu sınırlar.
Zaman ölçeklerine dayalı ek bir ayrım vardır. Kısa vadede sert bir kısıtlama oluşturan bazı şeyler, uzun vadede zekâ tarafından daha esnek hale getirilebilir. Örneğin, zekâ, daha önce canlı hayvan deneyleri gerektiren şeyleri laboratuvar ortamında öğrenmeyi sağlayan yeni bir deneysel paradigma geliştirmek için kullanılabilir veya yeni verileri toplamak için gerekli araçları inşa edebilir (örneğin, daha büyük bir parçacık hızlandırıcı). Ayrıca (etik sınırlar içinde), insan kaynaklı kısıtlamaları aşmanın yollarını da bulabilir (örneğin, klinik deney sistemini iyileştirmeye yardımcı olmak, klinik deneylerin daha az bürokrasiye sahip olduğu yeni yargı bölgeleri oluşturulmasına destek vermek veya bilimi doğrudan geliştirerek insan klinik deneylerini daha az gerekli ya da daha ucuz hale getirmek).

Dolayısıyla, zekânın başlangıçta diğer üretim faktörleri tarafından ağır bir şekilde sınırlandığını, ancak zamanla zekânın giderek bu diğer faktörleri dolanarak ilerlediğini hayal etmeliyiz, her ne kadar bunlar tamamen ortadan kalkmasa da (ve fizik yasaları gibi bazı şeyler mutlak olsa da)¹⁰. Asıl önemli soru, tüm bunların ne kadar hızlı gerçekleşeceği ve hangi sırayla ilerleyeceğidir.

Yukarıdaki çerçeveyi akılda tutarak, giriş bölümünde belirtilen beş alan için bu soruya yanıt vermeye çalışacağım.

1. Biyoloji ve Sağlık

Biyoloji, bilimsel ilerlemenin insan yaşam kalitesini doğrudan ve net bir şekilde iyileştirme potansiyeline en fazla sahip olduğu alan olabilir. Geçtiğimiz yüzyılda en eski insan hastalıklarından bazıları (çiçek hastalığı gibi) nihayet ortadan kaldırıldı, ancak daha birçok hastalık hâlâ varlığını sürdürüyor ve bunların yenilmesi büyük bir insani başarı olurdu. Hastalıkları tedavi etmenin ötesinde, biyolojik bilimler insan sağlığının temel kalitesini iyileştirebilir; sağlıklı insan ömrünü uzatabilir, biyolojik süreçlerimiz üzerinde daha fazla kontrol ve özgürlük sağlayabilir ve şu anda insan yaşamının değişmez bir parçası olarak gördüğümüz günlük sorunları ele alabilir.

Önceki bölümde bahsedilen “sınırlayıcı faktörler” diliyle konuşursak, zekâyı doğrudan biyolojiye uygulamanın başlıca zorlukları veri eksikliği, fiziksel dünyanın hızı ve doğasında var olan karmaşıklıktır (aslında bu üçü birbirine bağlıdır). İnsan kaynaklı kısıtlamalar da klinik deneylerin devreye girdiği daha sonraki aşamalarda önemli bir rol oynar. Bunları tek tek ele alalım.

Hücreler, hayvanlar ve hatta kimyasal süreçler üzerinde yapılan deneyler fiziksel dünyanın hızıyla sınırlıdır: birçok biyolojik protokol, bakterilerin veya diğer hücrelerin kültürlenmesini ya da kimyasal reaksiyonların gerçekleşmesini içerir ve bu süreçler bazen günler veya haftalar sürebilir ve hızlandırmanın bariz bir yolu yoktur. Hayvan deneyleri aylar (veya daha uzun) sürebilir ve insan deneyleri genellikle yıllar (ve hatta uzun vadeli sonuçları ölçmek için on yıllar) alır.

Bununla ilişkili olarak, veri eksikliği sorunu vardır—miktar bakımından değil, kalite bakımından: ilgilenilen biyolojik etkiyi diğer 10.000 değişkenin arasından ayırt eden, belirli bir süreçte nedensel bir müdahalede bulunan veya bir etkiyi doğrudan ölçen (dolaylı veya gürültülü bir şekilde sonuçlarını çıkarsamayan) net, kesin veri eksikliği her zaman mevcuttur. Kütle spektrometresi teknikleri üzerinde çalışırken topladığım proteomik veriler gibi büyük, niceliksel moleküler veriler bile gürültülüdür ve birçok ayrıntıyı kaçırır (bu proteinler hangi hücre türlerinde bulunuyordu? Hücrenin hangi bölgesindeydi? Hücre döngüsünün hangi aşamasındaydı?).

Bu veriyle ilgili sorunların kısmen sorumlusu, doğasında var olan karmaşıklıktır: Eğer insan metabolizmasının biyokimyasını gösteren bir diyagram gördüyseniz, bu karmaşık sistemin herhangi bir parçasının etkisini izole etmenin son derece zor olduğunu ve sistem üzerinde hassas veya öngörülebilir bir şekilde müdahale etmenin daha da zor olduğunu bilirsiniz. Ve son olarak, insan üzerinde bir deney yürütmenin gerektirdiği doğal sürenin ötesinde, gerçek klinik deneyler çok fazla bürokrasi ve düzenleyici gereklilik içerir; bunlar (benim de dahil olduğum birçok kişinin görüşüne göre) gereksiz ek zaman ekler ve ilerlemeyi geciktirir.

Tüm bunlar göz önüne alındığında, birçok biyolog uzun süredir yapay zekânın ve genel olarak “büyük veri”nin biyolojideki değerine şüpheyle yaklaşmaktadır. Tarihsel olarak, son 30 yılda biyolojiye matematik, bilgisayar bilimi ve fizik becerilerini uygulayan araştırmacılar oldukça başarılı oldular, ancak başlangıçta umut edilen gerçek anlamda dönüştürücü etkiye ulaşamadılar. Bu şüphecilik, AlphaFold (ki kısa süre önce yaratıcılarına Kimya Nobel Ödülü’nü kazandırarak bunu haklı bir şekilde taçlandırdı) ve AlphaProteo¹¹ gibi büyük ve devrim niteliğindeki atılımlarla bir miktar azaldı, ancak hâlâ yapay zekânın yalnızca belirli sınırlı koşullarda faydalı olduğu (ve olmaya devam edeceği) algısı yaygındır. Yaygın bir ifade, “Yapay zekâ verilerinizi analiz etme konusunda daha iyi bir iş çıkarabilir, ancak daha fazla veri üretemez veya verinin kalitesini iyileştiremez. Çöp girerse, çöp çıkar.” şeklindedir.

Ancak bence bu karamsar bakış açısı, yapay zekâyı yanlış bir şekilde ele alıyor. Eğer yapay zekâ ilerlemesine dair temel hipotezimiz doğruysa, yapay zekâyı bir veri analizi yöntemi olarak değil, biyologların yaptığı tüm görevleri yerine getiren sanal bir biyolog olarak düşünmek gerekir—gerçek dünyada deneyleri tasarlamak ve yürütmek (laboratuvar robotlarını kontrol ederek veya bir baş araştırmacının lisansüstü öğrencilerine yaptığı gibi insanlara hangi deneyleri yapmaları gerektiğini söyleyerek), yeni biyolojik yöntemler veya ölçüm teknikleri icat etmek ve daha fazlasını yapmak dahil. Yapay zekâ, biyolojiyi gerçekten hızlandırabilirse, bunu tüm araştırma sürecini hızlandırarak yapacaktır. Bunu tekrar vurgulamak istiyorum çünkü biyolojiyi dönüştürme konusundaki yapay zekâ yeteneklerinden bahsettiğimde karşılaştığım en yaygın yanlış anlama budur: Ben yalnızca verileri analiz eden bir araç olarak yapay zekâdan bahsetmiyorum. Bu makalenin başındaki güçlü yapay zekâ tanımıyla uyumlu olarak, yapay zekâyı biyologların yaptığı neredeyse her şeyi gerçekleştirmek, yönlendirmek ve geliştirmek için kullanmaktan bahsediyorum.

Biyolojide ilerlemenin nereden geleceğini daha spesifik olarak ele alırsak, şaşırtıcı derecede büyük bir kısmının, genellikle geniş kapsamlı ölçüm araçları veya teknikleriyle ilgili çok az sayıda keşiften kaynaklandığını görüyoruz¹². Bu tür büyük keşiflerden belki yılda yalnızca ~1 tane yapılır ve kolektif olarak biyolojideki ilerlemenin >%50’sini yönlendirdiği söylenebilir. Bu keşifler, doğasında var olan karmaşıklığı ve veri sınırlamalarını aşarak biyolojik süreçler üzerindeki anlayışımızı ve kontrolümüzü doğrudan artırdıkları için bu kadar güçlüdür. Birkaç on yılda bir gerçekleşen keşifler, hem biyolojinin temel bilimsel anlayışının büyük kısmını hem de en güçlü tıbbi tedavilerin çoğunu mümkün kılmıştır.

Birkaç örnek:

CRISPR: Canlı organizmalardaki herhangi bir genin canlı düzenlenmesine olanak tanıyan bir teknik (herhangi bir rastgele gen dizisinin başka bir rastgele diziyle değiştirilmesi). İlk teknik geliştirildiğinden beri, belirli hücre türlerini hedefleme, doğruluğu artırma ve yanlış gen düzenlemelerini azaltma gibi konularda sürekli iyileştirmeler yapıldı—bunların tümü, insanlar üzerinde güvenli kullanım için gereklidir.
Hassas gözlem yapmaya olanak tanıyan çeşitli mikroskopi türleri: Gelişmiş ışık mikroskopları (çeşitli floresan teknikleri, özel optikler vb.), elektron mikroskopları, atomik kuvvet mikroskopları gibi.
Genom dizileme ve sentezi: Son birkaç on yılda maliyeti birkaç kat azalmıştır.
Optogenetik teknikler: Bir nöronu üzerine ışık tutarak ateşlemeye olanak tanır.
mRNA aşıları: Teorik olarak, herhangi bir şeye karşı bir aşı tasarlamamıza ve ardından hızla uyarlamamıza olanak tanır (mRNA aşıları, elbette, COVID sırasında ünlendi).
Hücre terapileri (örneğin CAR-T): Bağışıklık hücrelerinin vücuttan çıkarılıp, prensipte herhangi bir hedefe saldırmaları için “yeniden programlanmasına” olanak tanır.
Hastalıklara dair temel kavramsal içgörüler: Mikrop teorisi veya bağışıklık sistemi ile kanser arasındaki bağlantının fark edilmesi¹³ gibi.

Bu teknolojilerin tümünü listeleme zahmetine giriyorum çünkü onlar hakkında kritik bir iddiada bulunmak istiyorum: Eğer çok daha fazla yetenekli, yaratıcı araştırmacı olsaydı, bu tür keşiflerin oranının 10 kat veya daha fazla artırılabileceğini düşünüyorum. Ya da başka bir şekilde ifade etmek gerekirse, zekânın bu keşifler için getirisi yüksektir ve biyoloji ile tıbbın geri kalanındaki ilerlemelerin çoğu esas olarak bunlardan türemektedir.

Bunu neden düşünüyorum? Çünkü “zekânın getirilerini” belirlemeye çalışırken sormamız gereken bazı sorulara verilen yanıtlar bunu destekliyor. Öncelikle, bu keşifler genellikle çok az sayıda araştırmacı tarafından yapılıyor ve çoğu zaman aynı kişiler tekrar tekrar bu keşifleri gerçekleştiriyor, bu da rastgele aramadan ziyade becerinin belirleyici olduğunu gösteriyor (rastgele arama olsaydı, uzun süren deneylerin sınırlayıcı faktör olması gerekirdi). İkinci olarak, bu keşifler çoğu zaman yıllar önce yapılabilecek durumda oluyor: Örneğin, CRISPR, bakterilerin bağışıklık sisteminde doğal olarak bulunan bir bileşendi ve 80’lerden beri biliniyordu, ancak bunun genel gen düzenleme için kullanılabileceğinin fark edilmesi 25 yıl sürdü. Aynı zamanda, bilim camiasının umut vadeden yönleri yeterince desteklememesi nedeniyle birçok keşif yıllarca gecikmiştir (mRNA aşılarının mucidiyle ilgili bu profili inceleyin; benzer hikâyeler sayısız örnekle doludur). Üçüncü olarak, başarılı projeler genellikle kısıtlı imkânlarla yürütülmüş ya da başlangıçta umut vaat ettiği düşünülmemiş, ancak sonradan büyük başarılar elde etmiş projelerdir; yani, sadece büyük kaynakların yoğunlaşması keşifleri tetiklemiyor, yaratıcılık da önemli bir faktör.

Son olarak, bazı keşifler “seri bağımlılığa” sahiptir (B keşfinin yapılabilmesi için önce A keşfinin yapılması gerekir, çünkü gerekli araçlar veya bilgi ancak böyle edinilebilir), bu da deney sürelerinin gecikmesine neden olabilir. Ancak birçok keşif, belki de çoğu, birbirinden bağımsızdır; yani aynı anda paralel olarak üzerinde çalışılabilir. Hem bu gerçekler hem de genel olarak biyoloji alanındaki deneyimlerim, insanlık olarak sahip olduğumuz büyük biyolojik bilgi yığınları arasındaki bağlantıları kurmak konusunda daha zeki ve daha yetkin bilim insanlarına sahip olsaydık, keşfedilmeyi bekleyen yüzlerce büyük buluş olduğunu güçlü bir şekilde düşündürüyor (yeniden CRISPR örneğini ele alalım). AlphaFold/AlphaProteo’nun onlarca yıl boyunca dikkatlice tasarlanmış fiziksel modellemelere rağmen önemli sorunları insanlardan çok daha etkili bir şekilde çözebilmesi, bu yönde bir ilke kanıtı sunmaktadır (her ne kadar dar bir alanda dar bir araç olsa da), ve bu, ileriye doğru nasıl ilerlememiz gerektiğini göstermelidir.

Bu nedenle, güçlü yapay zekânın bu tür keşiflerin hızını en az 10 kat artırabileceğini ve bize biyolojideki gelecek 50-100 yıllık ilerlemeyi 5-10 yıl içinde sağlayabileceğini tahmin ediyorum¹⁴. Peki neden 100 kat değil? Belki de mümkündür, ancak burada hem seri bağımlılık hem de deney süreleri kritik hale gelir: 100 yıllık ilerlemeyi 1 yılda elde etmek, ilk denemede birçok şeyin doğru gitmesini gerektirir—buna hayvan deneyleri, mikroskopların veya pahalı laboratuvar tesislerinin tasarlanması gibi süreçler de dahildir. Aslında, belki de saçma gibi görünen bir fikir olarak, 5-10 yıl içinde 1000 yıllık ilerleme kaydedebileceğimiz ihtimaline açığım, ancak 1 yılda 100 yıllık ilerleme sağlayabileceğimiz fikrine çok şüpheyle yaklaşıyorum. Başka bir şekilde ifade etmek gerekirse, kaçınılmaz bir gecikme süresi olduğuna inanıyorum: deneyler ve donanım tasarımı belirli bir “gecikmeye” sahiptir ve mantıksal olarak çıkarımla öğrenilemeyecek şeyleri öğrenebilmek için belirli sayıda “kaçınılmaz” yineleme gerektirir. Ancak bunun üzerine büyük ölçekli paralel çalışma eklenebilir¹⁵.

Peki ya klinik deneyler? Klinik deneylerle ilgili büyük bir bürokrasi ve gecikme sorunu olduğu doğru, ancak gerçekte (hepsi değilse de) gecikmelerin büyük bir kısmı, zorlukla işe yarayan veya etkisi belirsiz olan ilaçları titizlikle değerlendirme ihtiyacından kaynaklanmaktadır. Ne yazık ki, bu durum günümüzdeki çoğu tedavi için geçerlidir: Ortalama bir kanser ilacı, hayatta kalma süresini yalnızca birkaç ay artırırken, dikkatlice ölçülmesi gereken ciddi yan etkilere sahiptir (Alzheimer ilaçları için de benzer bir durum söz konusudur). Bu da çok büyük ölçekli çalışmalar gerektirir (istatistiksel güç elde edebilmek için) ve düzenleyici kurumlar, bürokrasi ve çıkar çatışmalarının karmaşıklığı nedeniyle bu tür zor kararları genellikle iyi veremez.

Ancak, bir şey gerçekten iyi çalıştığında süreç çok daha hızlı ilerler: hızlandırılmış onay süreçleri vardır ve etki büyüklüğü daha yüksek olduğunda onay almak çok daha kolaydır. COVID için geliştirilen mRNA aşıları 9 ayda onaylandı—bu, normal süreden çok daha hızlıydı. Bununla birlikte, bu koşullar altında bile klinik deneyler hâlâ çok yavaş ilerliyor—mRNA aşılarının ~2 ay içinde onaylanması gerektiği bile savunulabilir. Ancak bu tür gecikmeler (~bir ilacın uçtan uca onaylanması için yaklaşık 1 yıl), büyük ölçekli paralelleştirme ve çok fazla değil ama bir miktar yineleme gerekliliği (“birkaç deneme”) ile birleştiğinde, 5-10 yıl içinde köklü bir dönüşüm için oldukça uygun bir zemin oluşturuyor. Daha iyimser bir senaryoda, yapay zekâ destekli biyolojik bilimin, klinik deneylerde yineleme ihtiyacını azaltarak daha iyi hayvan ve hücre deney modelleri (veya hatta insanlarda ne olacağını daha doğru tahmin eden simülasyonlar) geliştirebileceği mümkündür. Bu, özellikle onlarca yıl süren yaşlanma sürecine karşı ilaç geliştirme çalışmalarında kritik olacaktır; çünkü bu durumda daha hızlı bir yineleme döngüsüne ihtiyacımız var.

Son olarak, klinik deneyler ve toplumsal engeller konusuna dönecek olursak, biyomedikal yeniliklerin, bazı diğer teknolojilerle kıyaslandığında, başarıyla uygulanma konusunda alışılmadık derecede güçlü bir geçmişe sahip olduğunu açıkça belirtmek gerekir¹⁶. Giriş bölümünde de belirtildiği gibi, birçok teknoloji teknik olarak iyi çalışmasına rağmen toplumsal faktörler nedeniyle engellenmektedir. Bu durum, yapay zekânın neler başarabileceği konusunda kötümser bir bakış açısını destekleyebilir. Ancak biyomedikal alanı benzersizdir; çünkü ilaç geliştirme süreci gereğinden fazla zahmetli olsa da, geliştirilen ilaçlar genellikle başarılı bir şekilde uygulanır ve kullanılır.

Yukarıdakileri özetlemek gerekirse, temel öngörüm, yapay zekâ destekli biyoloji ve tıbbın, insan biyologlarının önümüzdeki 50-100 yılda kaydedeceği ilerlemeyi 5-10 yıl içine sıkıştırmamıza olanak tanıyacağı yönünde. Buna “sıkıştırılmış 21. yüzyıl” diyeceğim: güçlü yapay zekâ geliştirildikten sonra, birkaç yıl içinde biyoloji ve tıpta tüm 21. yüzyıl boyunca kaydedilecek ilerlemeyi gerçekleştireceğimiz fikri.

Güçlü yapay zekânın birkaç yıl içinde neler yapabileceğini tahmin etmek doğası gereği zor ve spekülatif olsa da, “insanlar kendi başlarına önümüzdeki 100 yılda neler başarabilirdi?” sorusunu sormak daha somut bir çerçeve sunuyor. 20. yüzyılda başardıklarımıza bakmak, 21. yüzyılın ilk 20 yılından çıkarımlar yapmak veya “10 CRISPR ve 50 CAR-T’nin” bize ne kazandıracağını düşünmek, güçlü yapay zekânın sağlayabileceği ilerleme düzeyini pratik ve sağlam bir şekilde tahmin etmeye yardımcı olabilir.

Aşağıda, beklentilerimizin ne olabileceğini listelemeye çalışıyorum. Bu liste herhangi bir katı metodolojiye dayanmadığı gibi, ayrıntılarda neredeyse kesinlikle yanlış çıkacaktır, ancak beklememiz gereken radikalliğin genel seviyesini anlatmaya çalışmaktadır:

Neredeyse tüm doğal bulaşıcı hastalıkların güvenilir bir şekilde önlenmesi ve tedavi edilmesi¹⁷. 20. yüzyılda bulaşıcı hastalıklara karşı kaydedilen büyük ilerlemeler göz önüne alındığında, 21. yüzyılı sıkıştırılmış bir biçimde yaşarken bu işi büyük ölçüde “tamamlayabileceğimizi” hayal etmek radikal bir düşünce değildir. mRNA aşıları ve benzeri teknolojiler zaten “her şey için aşılar” fikrini mümkün kılmaktadır. Bulaşıcı hastalıkların tamamen ortadan kaldırılıp kaldırılamayacağı (yalnızca bazı bölgelerde değil, tüm dünyada) yoksulluk ve eşitsizlikle ilgili sorulara bağlıdır; bu konular Bölüm 3’te ele alınmaktadır.
Çoğu kanserin ortadan kaldırılması. Son birkaç on yıldır kanserden ölüm oranları yılda yaklaşık %2 oranında düşmektedir; yani, insan bilimlerinin mevcut ilerleme hızıyla 21. yüzyılda çoğu kanseri ortadan kaldırma yolunda ilerliyoruz. Bazı alt türler hâlihazırda büyük ölçüde tedavi edilmiştir (örneğin, CAR-T tedavisi ile bazı lösemi türleri), ancak en çok heyecan duyduğum şey, kanseri henüz başlangıç aşamasındayken hedef alarak büyümesini önleyen son derece seçici ilaçlardır. Yapay zekâ ayrıca, kanserin bireysel genomuna çok hassas bir şekilde uyarlanmış tedavi protokollerini mümkün kılacaktır—bunlar bugün de mümkündür, ancak büyük ölçüde zaman ve insan uzmanlığı gerektirdiği için son derece pahalıdır, oysa yapay zekâ bu süreci ölçeklendirmemize olanak tanıyacaktır. Hem ölüm oranlarında hem de görülme sıklığında %95 veya daha fazla azalma mümkün görünmektedir. Bununla birlikte, kanser son derece çeşitli ve uyum sağlama yeteneği yüksek bir hastalıktır ve tamamen yok edilmesi en zor hastalıkların başında gelmektedir. Nadir ve zorlu bazı kötü huylu tümörlerin direnç göstermesi sürpriz olmaz.
Genetik hastalıklar için çok etkili önleme ve tedavi yöntemleri. Embriyo taramasındaki büyük ilerlemeler, çoğu genetik hastalığın önlenmesini mümkün kılacaktır ve CRISPR’ın daha güvenli ve daha güvenilir bir versiyonu mevcut bireylerdeki genetik hastalıkların büyük çoğunluğunu tedavi edebilir. Ancak, vücudun büyük bir bölümündeki hücreleri etkileyen hastalıklar en son çözülenler olabilir.
Alzheimer’ın önlenmesi. Alzheimer’ın nedenlerini anlamakta büyük zorluk çektik (beta-amiloid proteini ile bir bağlantısı olduğu biliniyor, ancak detaylar son derece karmaşık görünüyor). Bu, biyolojik etkileri izole eden daha iyi ölçüm araçlarıyla çözülebilecek türden bir sorun gibi görünüyor; dolayısıyla yapay zekânın bunu çözme potansiyeline dair iyimserim. Gerçekten neyin gerçekleştiğini anladığımızda, nispeten basit müdahalelerle hastalığın önlenmesi mümkün olabilir. Bununla birlikte, zaten gelişmiş Alzheimer’ın yol açtığı hasarın tersine çevrilmesi son derece zor olabilir.
Diğer çoğu rahatsızlık için geliştirilmiş tedavi yöntemleri. Bu, diyabet, obezite, kalp hastalıkları, otoimmün hastalıklar ve daha fazlasını kapsayan geniş bir kategoridir. Bunların çoğu, kanser ve Alzheimer’a kıyasla “daha kolay” çözülebilir görünüyor ve pek çoğunda zaten büyük bir azalma görülmektedir. Örneğin, kalp hastalıklarından kaynaklanan ölümler şimdiden %50’den fazla azalmış durumdadır ve GLP-1 agonistleri gibi basit müdahaleler, obezite ve diyabetle mücadelede büyük ilerlemeler sağlamıştır.
Biyolojik özgürlük. Son 70 yıl boyunca doğum kontrolü, doğurganlık, kilo yönetimi ve daha pek çok alanda ilerlemeler kaydedildi. Ancak yapay zekâ ile hızlandırılmış biyolojinin mümkün olanın sınırlarını büyük ölçüde genişleteceğini düşünüyorum: kilo, fiziksel görünüm, üreme ve diğer biyolojik süreçler tamamen insanların kontrolüne geçebilir. Bunları biyolojik özgürlük başlığı altında ele alacağız: herkesin ne olmak istediğini seçme ve hayatını en çok hoşuna giden şekilde yaşama gücüne sahip olması fikri. Elbette küresel erişim eşitliği gibi önemli sorular gündeme gelecektir; bunlar için Bölüm 3’e bakınız.
İnsan ömrünün iki katına çıkması¹⁸. Bu radikal görünebilir, ancak 20. yüzyılda yaşam beklentisi neredeyse 2 kat arttı (yaklaşık 40 yıldan ~75 yıla çıktı), dolayısıyla “sıkıştırılmış 21. yüzyıl” çerçevesinde bunun tekrar ikiye katlanarak 150’ye ulaşması, mevcut eğilime uygun bir gelişme olurdu. Açıkçası, yaşlanma sürecini yavaşlatmaya yönelik müdahaleler, önceki yüzyılda (çoğunlukla çocukluk çağındaki) hastalıklardan kaynaklanan erken ölümleri önlemek için gerekenlerden farklı olacaktır, ancak değişimin büyüklüğü emsalsiz değildir¹⁹. Somut olarak bakıldığında, sıçanlarda maksimum yaşam süresini %25-50 oranında artıran ve sınırlı olumsuz etkilere sahip bazı ilaçlar zaten mevcut. Ayrıca bazı hayvanlar (örneğin bazı kaplumbağa türleri) zaten 200 yıl yaşıyor, yani insanların teorik bir üst sınırda olduğu iddiası doğru değil. Tahminime göre en önemli ihtiyaç, insan yaşlanmasını güvenilir bir şekilde ölçebilen ve “Goodhart etkisine” uğramayan biyobelirteçler olabilir, çünkü bu, deneyler ve klinik deneyler üzerinde hızlı yineleme yapılmasını sağlayacaktır. İnsan ömrü 150 yıla ulaştığında, “kaçış hızı” yakalanabilir ve şu anda hayatta olanların çoğunun istedikleri kadar yaşamasına yetecek kadar zaman kazanılabilir; ancak bunun biyolojik olarak mümkün olup olmadığına dair kesin bir garanti yoktur.

Bu listeye bakıp, eğer tüm bunlar 7-12 yıl içinde gerçekleşirse (ki bu agresif bir yapay zekâ zaman çizelgesiyle uyumlu olurdu), dünyanın nasıl farklı bir yer olacağını düşünmek faydalı olacaktır. Söylemeye gerek bile yok, bu, insanlığın binlerce yıldır mücadele ettiği en büyük felaketlerin bir anda ortadan kalkması anlamına gelecek ve hayal edilemeyecek bir insani zafer olacaktır. Arkadaşlarımın ve meslektaşlarımın birçoğu çocuk yetiştiriyor ve bu çocuklar büyüdüğünde, umuyorum ki hastalıklarla ilgili herhangi bir konuşma onlara bizim için iskorbüt, çiçek hastalığı veya hıyarcıklı veba gibi gelecektir. Bu nesil, ayrıca biyolojik özgürlük ve kendini ifade etme konusunda daha fazla olanaktan faydalanacak ve şanslılarsa istedikleri kadar uzun yaşayabilecekler.

Bu değişikliklerin, güçlü yapay zekâ bekleyen küçük bir topluluk dışındaki herkes için ne kadar şaşırtıcı olacağını abartmak neredeyse imkânsız. Örneğin, ABD’de şu anda binlerce ekonomist ve politika uzmanı, Sosyal Güvenlik ve Medicare’in nasıl iflas etmesini önleyebileceklerini ve daha genel olarak sağlık hizmetlerinin (ki bunun büyük bir kısmı 70 yaş üstü insanlara ve özellikle de kanser gibi ölümcül hastalıkları olanlara yöneliktir) maliyetlerini nasıl düşük tutabileceklerini tartışıyor. Eğer tüm bunlar gerçekleşirse, bu programların mevcut durumu büyük ölçüde iyileşecektir²⁰, çünkü çalışan nüfus ile emekli nüfus arasındaki oran büyük ölçüde değişecektir. Elbette, bu değişim başka zorluklarla birlikte gelecektir, örneğin yeni teknolojilere yaygın erişimin nasıl sağlanacağı gibi. Ancak, eğer biyoloji, yapay zekâ tarafından başarıyla hızlandırılan tek alan bile olsa, dünyanın ne kadar büyük bir değişime uğrayacağını düşünmek önemlidir.

2. Sinirbilim ve Zihin

Önceki bölümde fiziksel hastalıklara ve biyolojiye genel olarak odaklandım ve sinirbilim veya zihinsel sağlığı ele almadım. Ancak sinirbilim biyolojinin bir alt disiplini olup zihinsel sağlık en az fiziksel sağlık kadar önemlidir. Hatta, belki de zihinsel sağlık, insan refahını fiziksel sağlıktan bile daha doğrudan etkileyen bir faktördür.

Yüz milyonlarca insan, bağımlılık, depresyon, şizofreni, düşük işlevli otizm, travma sonrası stres bozukluğu (PTSD), psikopati²¹ veya zihinsel yetersizlikler gibi problemler nedeniyle çok düşük yaşam kalitesine sahiptir. Milyarlarca insan ise genellikle bu ağır klinik bozuklukların daha hafif versiyonları olarak değerlendirilebilecek günlük sorunlarla mücadele etmektedir. Ve tıpkı genel biyolojide olduğu gibi, burada da sadece sorunları çözmenin ötesine geçerek insan deneyiminin temel kalitesini artırmak mümkün olabilir.

Biyoloji için ortaya koyduğum temel çerçeve, sinirbilim için de eşit derecede geçerlidir. Bu alan, genellikle ölçüm veya hassas müdahale araçlarıyla ilgili az sayıda keşif tarafından ileriye taşınmaktadır—yukarıda bahsedilenler arasında optogenetik bir sinirbilim keşfiydi ve daha yakın zamanda CLARITY ve genişletilmiş mikroskopi de benzer doğrultuda ilerlemelerdir; ayrıca birçok genel hücre biyolojisi yöntemi doğrudan sinirbilime taşınmaktadır. Bu ilerlemelerin hızı da yapay zekâ tarafından benzer şekilde artırılacağından, “100 yıllık ilerlemeyi 5-10 yılda sıkıştırma” çerçevesinin sinirbilime de biyolojiyle aynı şekilde ve aynı nedenlerle uygulanabileceğini düşünüyorum. Biyolojide olduğu gibi, 20. yüzyıldaki sinirbilim ilerlemeleri de muazzamdı—örneğin, nöronların nasıl ve neden ateşlendiğini 1950’lere kadar tam olarak anlamamıştık. Dolayısıyla, yapay zekâ ile hızlandırılmış sinirbilimin birkaç yıl içinde hızlı bir ilerleme kaydetmesini beklemek makul görünüyor.

Bu temel tabloya eklememiz gereken bir nokta daha var: Son birkaç yılda yapay zekâ hakkında öğrendiğimiz (veya öğrenmekte olduğumuz) bazı şeyler, yalnızca insanlar tarafından yürütülmeye devam edilse bile sinirbilimin ilerlemesine katkıda bulunma potansiyeline sahiptir. Yorumlanabilirlik (interpretability) bunun açık bir örneğidir: Biyolojik nöronlar yüzeyde yapay nöronlardan tamamen farklı şekilde çalışıyor gibi görünse de (biyolojik nöronlar sivri uçlu sinyaller ve genellikle bu sinyallerin frekansı ile iletişim kurar; bu yüzden yapay nöronlarda bulunmayan bir zaman unsuru vardır; ayrıca hücre fizyolojisi ve nörotransmitterlerle ilgili birçok detay işleyişlerini önemli ölçüde değiştirir), temel soru aynıdır: “Basit birimlerden oluşan, doğrusal/doğrusal olmayan işlemleri birleştirerek eğitilmiş ve dağıtılmış ağlar, önemli hesaplamaları gerçekleştirmek için nasıl birlikte çalışır?” Bu nedenle, bireysel nöron iletişiminin ayrıntılarının, hesaplama ve devrelerle ilgili ilgi çekici soruların çoğunda soyutlanacağını güçlü bir şekilde düşünüyorum²². Bunun tek bir örneği olarak, yapay zekâ sistemlerinde yorumlanabilirlik araştırmacıları tarafından keşfedilen bir hesaplama mekanizması, yakın zamanda fare beyinlerinde yeniden keşfedildi.

Gerçek nöral ağlar üzerinde deney yapmak (genellikle hayvan beyinlerine müdahale gerektirdiğinden) yapay nöral ağlar üzerinde deney yapmaktan çok daha zordur, bu yüzden yorumlanabilirlik, sinirbilimi anlama sürecimizi iyileştirmek için güçlü bir araç haline gelebilir. Ayrıca, güçlü yapay zekâların bu aracı insanlardan daha iyi geliştirmesi ve uygulaması muhtemeldir.

Ancak, sadece yorumlanabilirlikten öte, yapay zekâdan öğrendiğimiz, zeki sistemlerin nasıl eğitildiğine dair bilgiler (her ne kadar henüz gerçekleştiğinden emin olmasam da) sinirbilimde bir devrim yaratmalıdır. Sinirbilim alanında çalıştığım dönemde, birçok kişinin öğrenme süreciyle ilgili (şu an yanlış olduğunu düşündüğüm) sorulara odaklandığını gördüm, çünkü ölçekleme hipotezi (scaling hypothesis) / acı ders (bitter lesson) kavramı henüz mevcut değildi. Basit bir hedef fonksiyonun ve büyük miktarda verinin inanılmaz derecede karmaşık davranışları ortaya çıkarabileceği fikri, hedef fonksiyonları ve mimari önyargıları anlamayı daha ilginç hale getirirken, ortaya çıkan hesaplamaların ayrıntılarını anlamayı daha az ilginç kılmaktadır. Son yıllarda alanı yakından takip etmedim, ancak hesaplamalı sinirbilimcilerin bu dersi tam olarak özümsediğine dair pek güçlü bir izlenimim yok.

Ölçekleme hipotezine yaklaşımım her zaman “aha—bu, zekânın nasıl çalıştığına ve neden bu kadar kolay evrimleştiğine dair üst düzey bir açıklama” şeklinde olmuştur, ancak ortalama bir sinirbilimcinin bunu böyle gördüğünü sanmıyorum; çünkü yapay zekâ alanında bile ölçekleme hipotezi “zekânın sırrı” olarak tam anlamıyla kabul edilmiş değil.

Sinirbilimcilerin bu temel içgörüyü, insan beyninin özgün özellikleriyle (biyofiziksel sınırlamalar, evrimsel geçmiş, topoloji, motor ve duyusal girdiler/çıktılar gibi ayrıntılar) birleştirerek sinirbilimin temel bilmecelerinden bazılarını çözmeye çalışmaları gerektiğini düşünüyorum. Bunu yapanlar muhtemelen vardır, ancak bunun henüz yeterli olmadığını tahmin ediyorum ve yapay zekâ destekli sinirbilimcilerin bu bakış açısını daha etkili bir şekilde kullanarak ilerlemeyi hızlandırabileceğine inanıyorum.

Yapay zekânın sinirbilimdeki ilerlemeyi dört farklı yoldan hızlandırmasını bekliyorum ve umarım bu yollar bir araya gelerek zihinsel hastalıkları tedavi etmeye ve bilişsel işlevleri iyileştirmeye yardımcı olabilir:

Geleneksel moleküler biyoloji, kimya ve genetik. Bu, temelde Bölüm 1’de genel biyoloji için anlatılan sürecin aynısıdır ve yapay zekâ muhtemelen aynı mekanizmalar aracılığıyla bu süreci hızlandırabilir. Beyin fonksiyonlarını değiştirmek, uyanıklığı veya algıyı etkilemek, ruh halini değiştirmek gibi amaçlarla nörotransmitterleri düzenleyen birçok ilaç vardır ve yapay zekâ bize çok daha fazlasını icat etmede yardımcı olabilir. Ayrıca, yapay zekâ zihinsel hastalıkların genetik temellerine yönelik araştırmaları hızlandırabilir.
İnce düzeyde nöral ölçüm ve müdahale. Bu, bireysel nöronların veya nöral devrelerin ne yaptığını ölçme ve davranışlarını değiştirmek için müdahalede bulunma yeteneğidir. Optogenetik ve nöral problar, canlı organizmalarda hem ölçüm hem de müdahale yapabilen teknolojilerdir. Ayrıca, çok sayıda bireysel nöronun ateşleme düzenlerini okumak için moleküler kayıt bantları gibi son derece gelişmiş birçok yöntem önerilmiştir ve bunların prensipte mümkün olduğu görülmektedir.
Gelişmiş hesaplamalı sinirbilim. Yukarıda belirtildiği gibi, modern yapay zekânın hem spesifik içgörüleri hem de genel bakış açısı, sistem sinirbilimiyle ilgili sorulara verimli bir şekilde uygulanabilir ve belki de psikoz veya duygudurum bozuklukları gibi karmaşık hastalıkların gerçek nedenlerini ve dinamiklerini ortaya çıkarmamıza yardımcı olabilir.
Davranışsal müdahaleler. Sinirbilimin biyolojik yönüne odaklandığım için pek bahsetmedim, ancak psikiyatri ve psikoloji, 20. yüzyıl boyunca geniş bir davranışsal müdahale repertuvarı geliştirmiştir; dolayısıyla yapay zekânın hem yeni yöntemlerin geliştirilmesini hem de hastaların mevcut yöntemlere daha iyi uymasını sağlamayı hızlandırabileceği mantıklıdır. Daha geniş anlamda, her zaman sizin en iyi versiyonunuzu ortaya çıkarmanıza yardımcı olan, etkileşimlerinizi analiz ederek daha etkili olmanızı sağlayan bir “yapay zekâ koçu” fikri oldukça umut verici görünmektedir.

Bu dört ilerleme yolunun birlikte çalışmasıyla, fiziksel hastalıklarda olduğu gibi, yapay zekâ dahil olmasa bile önümüzdeki 100 yıl içinde çoğu zihinsel hastalığın tedavi edileceğini veya önleneceğini düşünüyorum—ve bu nedenle, yapay zekâ ile hızlandırılmış 5-10 yıl içinde tamamlanması makul olabilir. Daha somut bir tahmin yapmak gerekirse, beklediğim gelişmeler şunlar:

Çoğu zihinsel hastalık muhtemelen tedavi edilebilir. Psikiyatrik hastalıklar konusunda uzman değilim (sinirbilimde geçirdiğim zaman daha çok küçük nöron gruplarını incelemek için problar geliştirmekle geçti), ancak PTSD, depresyon, şizofreni, bağımlılık gibi hastalıkların yukarıda belirtilen dört yöntemin bir kombinasyonu ile çözülebileceğini ve çok etkili bir şekilde tedavi edilebileceğini düşünüyorum. Yanıt muhtemelen “biyokimyasal bir şeyler ters gitti” (her ne kadar çok karmaşık olsa da) ve “nöral ağda yüksek seviyede bir şeyler ters gitti” şeklinde olacaktır. Yani, bu bir sistem sinirbilimi sorusudur—ancak bu, yukarıda tartışılan davranışsal müdahalelerin etkisini göz ardı etmez. Özellikle canlı insanlar üzerinde ölçüm ve müdahale için geliştirilen araçların, hızlı yineleme ve ilerlemeyi mümkün kılması muhtemeldir.
Çok “yapısal” nitelikteki durumlar daha zor olabilir, ancak imkânsız değil. Psikopatiyle ilgili bazı kanıtlar, bunun belirgin nöroanatomik farklılıklarla ilişkili olduğunu göstermektedir—psikopatların bazı beyin bölgelerinin daha küçük veya daha az gelişmiş olduğu bulunmuştur. Ayrıca, psikopatların küçük yaşlardan itibaren empati eksikliğine sahip olduklarına inanılmaktadır; yani, beyinlerindeki farklılık muhtemelen her zaman böyleydi. Aynı durum bazı zihinsel yetersizlikler ve muhtemelen diğer bazı hastalıklar için de geçerli olabilir. Beynin yeniden yapılandırılması zor bir görev gibi görünüyor, ancak aynı zamanda zekânın getirilerinin yüksek olduğu bir görev gibi de duruyor. Belki de yetişkin beynini daha erken veya daha plastisiteye sahip bir duruma getirecek bir yol vardır, böylece yeniden şekillendirilebilir hale gelebilir. Bunun ne kadar mümkün olduğu konusunda çok emin değilim, ancak yapay zekânın bu konuda icat edebileceği şeyler konusunda iyimserim.
Zihinsel hastalıkların etkili genetik önleme yöntemleriyle ortadan kaldırılması mümkün görünüyor. Çoğu zihinsel hastalık kısmen kalıtsaldır ve tüm genom ilişkilendirme çalışmaları (GWAS), genellikle çok sayıda olan ilgili faktörleri belirleme konusunda giderek daha fazla ilerleme kaydetmektedir. Fiziksel hastalıklarda olduğu gibi, embriyo taraması yoluyla bu hastalıkların çoğunun önlenmesi muhtemelen mümkün olacaktır. Ancak burada bir fark var: Psikiyatrik hastalıklar daha çok poligenik olma eğilimindedir (birçok gen katkıda bulunur), bu nedenle karmaşıklık arttıkça, hastalıkla ilişkilendirilen olumlu özelliklerin farkında olmadan elenmesi riski yükselir. İlginç bir şekilde, son yıllarda yapılan GWAS çalışmaları bu tür korelasyonların abartılmış olabileceğini öne sürmektedir. Her durumda, yapay zekâ ile hızlandırılmış sinirbilim bu konuların aydınlatılmasına yardımcı olabilir. Elbette, karmaşık özellikler için embriyo taraması, birçok toplumsal meseleye yol açacak ve tartışmalı olacaktır; ancak ağır veya sakat bırakıcı zihinsel hastalıkların taranmasını çoğu insanın destekleyeceğini tahmin ediyorum.
Klinik hastalık olarak düşünmediğimiz günlük sorunlar da çözülecek. Hepimizin klinik hastalık düzeyine ulaşmayan günlük psikolojik sorunları vardır. Bazı insanlar çabuk sinirlenir, bazıları odaklanmakta zorlanır veya sık sık uykulu hisseder, kimileri korku veya kaygı yaşar, kimileri ise değişime karşı kötü tepki verir. Günümüzde, örneğin uyanıklık veya odaklanmayı artırmaya yardımcı olan ilaçlar zaten mevcuttur (kafein, modafinil, ritalin gibi), ancak diğer birçok alanda olduğu gibi burada da çok daha fazlası mümkün olacaktır. Muhtemelen, henüz keşfedilmemiş birçok ilaç mevcuttur ve ayrıca tamamen yeni müdahale biçimleri olabilir, örneğin hedefe yönelik ışık uyarımı (yukarıda bahsedilen optogenetik gibi) veya manyetik alanlar. 20. yüzyılda bilişsel işlevleri ve duygusal durumu düzenleyen birçok ilaç geliştirdiğimizi göz önünde bulundurduğumuzda, sıkıştırılmış 21. yüzyılın herkesin beynini daha iyi çalıştırarak günlük yaşamlarını daha tatmin edici hale getirdiği bir dünya olasılığı konusunda son derece iyimserim.
İnsanların temel deneyimleri çok daha iyi hale getirilebilir. Bir adım daha ileri gidersek, birçok insan olağanüstü vahiy anları, yaratıcı ilham, şefkat, tatmin, aşkınlık, sevgi, güzellik veya derin meditasyon halini deneyimlemiştir. Bu tür deneyimlerin niteliği ve sıklığı kişiden kişiye büyük ölçüde değişir, aynı kişi için bile zaman içinde farklı olabilir ve bazen çeşitli ilaçlarla tetiklenebilir (ancak genellikle yan etkileri vardır). Tüm bunlar, “deneyimlenebilir olanın alanının” çok geniş olduğunu ve insanların yaşamlarının daha büyük bir kısmının bu olağanüstü anlardan oluşabileceğini gösteriyor. Muhtemelen, genel bilişsel işlevleri de her alanda iyileştirmek mümkündür. Bu, sinirbilimin “biyolojik özgürlük” ya da “uzatılmış yaşam süresi” versiyonu olabilir.

Bilim kurgu yapıtlarında yapay zekâ ile ilgili sıkça gündeme gelen ancak burada özellikle ele almadığım bir konu “zihin yükleme” meselesidir—bir insan beyninin desenini ve dinamiklerini yakalayarak bunları yazılıma aktarma fikri. Bu konu başlı başına bir makaleye konu olabilir, ancak şunu söylemek yeterlidir ki, yüklemenin prensipte kesinlikle mümkün olduğunu düşünsem de, pratikte ciddi teknolojik ve toplumsal engellerle karşılaşacağını ve güçlü yapay zekâya rağmen tartıştığımız 5-10 yıllık zaman diliminin dışında kalacağını düşünüyorum.

Özetle, yapay zekâ ile hızlandırılmış sinirbilimin, çoğu zihinsel hastalık için çok daha etkili tedaviler sunması, hatta bu hastalıkları tamamen iyileştirmesi ve aynı zamanda “bilişsel ve zihinsel özgürlüğü” büyük ölçüde genişletmesi, insanın bilişsel ve duygusal yetilerini önemli ölçüde geliştirmesi muhtemeldir. Bu gelişmeler, önceki bölümde ele alınan fiziksel sağlıkta beklenen ilerlemeler kadar radikal olacaktır. Belki dışarıdan bakıldığında dünya görünürde çok farklı olmayacaktır, ancak insanların deneyimlediği dünya çok daha iyi, daha insancıl ve kendini gerçekleştirme fırsatlarının çok daha fazla olduğu bir yer haline gelecektir. Ayrıca, gelişmiş zihinsel sağlığın, siyasi ya da ekonomik gibi görünen birçok toplumsal sorunu da hafifleteceğini düşünüyorum.

3. Ekonomik Kalkınma ve Yoksulluk

Önceki iki bölüm, hastalıkları iyileştiren ve insan yaşam kalitesini artıran yeni teknolojilerin geliştirilmesiyle ilgiliydi. Ancak insani açıdan bakıldığında, bariz bir soru ortaya çıkıyor: “Herkes bu teknolojilere erişebilecek mi?”

Bir hastalık için bir tedavi geliştirmek bir şeydir, hastalığı dünyadan tamamen yok etmek ise başka bir şeydir. Daha genel olarak, mevcut birçok sağlık müdahalesi henüz dünyanın her yerinde uygulanmamıştır ve bu durum, sağlık dışındaki teknolojik ilerlemeler için de geçerlidir. Bunu farklı bir şekilde ifade etmek gerekirse, dünyanın birçok yerinde yaşam standartları hâlâ son derece düşüktür: Sahra Altı Afrika’da kişi başına düşen GSYİH yaklaşık 2.000 $ iken, Amerika Birleşik Devletleri’nde yaklaşık 75.000 $’dır. Eğer yapay zeka, gelişmiş dünyada ekonomik büyümeyi ve yaşam kalitesini daha da artırırken, gelişmekte olan dünyaya pek bir fayda sağlamazsa, bunu korkunç bir ahlaki başarısızlık ve önceki iki bölümde bahsedilen gerçek insani zaferlere bir leke olarak görmeliyiz. İdeal olarak, güçlü yapay zeka gelişmiş dünyayı devrim niteliğinde değiştirirken, gelişmekte olan dünyanın gelişmiş dünyaya yetişmesine de yardımcı olmalıdır.

Yapay zekanın eşitsizlik ve ekonomik büyümeyi ele alabileceğine, temel teknolojileri icat edebileceğine olan inancım kadar güçlü bir şekilde inanmıyorum, çünkü teknoloji, zekaya (karmaşıklıkları aşma ve veri eksikliklerini giderme yeteneği de dahil olmak üzere) belirgin bir şekilde yüksek getiri sağlarken, ekonomi insanlardan kaynaklanan birçok kısıtlamayı ve büyük ölçüde içsel karmaşıklığı içerir. Ünlü “sosyalist hesaplama problemini”⁰³⁰ bir yapay zekanın çözebileceğine pek inanmadığım gibi, hükümetlerin ekonomik politikalarını böyle bir varlığa devredeceklerine (veya devretmeleri gerektiğine) de inanmıyorum. Ayrıca, insanların etkili ama şüpheyle yaklaştıkları tedavileri kabul etmelerini sağlamanın zorlukları gibi sorunlar da mevcuttur.

Gelişmekte olan dünyayı etkileyen zorluklar, hem özel hem de kamu sektörlerinde yaygın olan yolsuzluk nedeniyle daha da karmaşık hale gelmektedir. Yolsuzluk, yoksulluğu artıran ve yoksulluğun daha fazla yolsuzluk doğurduğu bir kısır döngü yaratır. Yapay zeka destekli ekonomik kalkınma planlarının yolsuzluk, zayıf kurumlar ve diğer insan kaynaklı büyük zorluklarla hesaplaşması gerekmektedir.

Buna rağmen, iyimser olmak için önemli nedenler görüyorum. Hastalıklar tamamen yok edildi ve birçok ülke yoksulluktan zenginliğe geçti; bu süreçlerde yapılan seçimlerin zekaya yüksek getiri sağladığı açık (insan kaynaklı kısıtlama ve karmaşıklıklara rağmen). Bu nedenle, yapay zekanın bunları mevcut insan yeteneklerinden daha iyi yapabilmesi muhtemeldir. Ayrıca, insan kısıtlamalarını aşan ve yapay zekanın odaklanabileceği hedefe yönelik müdahaleler de olabilir. Ancak daha da önemlisi, denemek zorundayız. Hem yapay zeka şirketleri hem de gelişmiş dünyadaki politika yapıcılar, gelişmekte olan dünyanın geride bırakılmamasını sağlamak için üzerlerine düşeni yapmalıdır; ahlaki zorunluluk çok büyük. Bu nedenle, bu bölümde iyimser bir bakış açısı sunmaya devam edeceğim, ancak her şeyin kesin olmadığı ve başarının kolektif çabalarımıza bağlı olduğu gerçeğini akılda tutmalıyız.

Aşağıda, güçlü yapay zeka geliştikten sonraki 5-10 yıl içinde gelişmekte olan dünyada olayların nasıl gelişebileceğine dair bazı tahminlerimi paylaşıyorum:

Sağlık müdahalelerinin dağıtımı. Belki de en iyimser olduğum alan, sağlık müdahalelerinin dünya çapında dağıtılmasıdır. Hastalıklar gerçekten de yukarıdan aşağıya yürütülen kampanyalarla yok edilmiştir: Çiçek hastalığı 1970’lerde tamamen ortadan kaldırılmıştır ve çocuk felci ile Gine kurdu yıllık vaka sayısı 100’den az olacak şekilde neredeyse tamamen yok edilmiştir. Matematiksel olarak gelişmiş epidemiyolojik modelleme, hastalıkları yok etme kampanyalarında aktif bir rol oynamaktadır ve insandan daha akıllı yapay zeka sistemlerinin bu işi insanlardan daha iyi yapabilecekleri oldukça olası görünmektedir. Dağıtımın lojistiği de büyük ölçüde optimize edilebilir. GiveWell’e erken dönemde bağış yapan biri olarak öğrendiğim bir şey, bazı sağlık yardım kuruluşlarının diğerlerinden çok daha etkili olduğudur; yapay zeka destekli çabaların daha da etkili olacağı umulmaktadır.

Ayrıca, bazı biyolojik ilerlemeler, dağıtımın lojistiğini çok daha kolay hale getirmektedir: Örneğin, sıtmanın tamamen yok edilmesi zor olmuştur çünkü hastalık her bulaştığında yeniden tedavi gerektirmektedir; ancak yalnızca bir kez uygulanması gereken bir aşı, lojistiği çok daha basit hale getirir (ve aslında şu anda böyle sıtma aşıları geliştirilmektedir). Daha da basit dağıtım mekanizmaları mümkündür: Bazı hastalıklar, hayvan taşıyıcılarını hedef alarak tamamen yok edilebilir; örneğin, hastalık taşıma yetisini engelleyen bir bakteriyle enfekte edilmiş sivrisineklerin doğaya salınması (bu sivrisineklerin diğer tüm sivrisineklere de bulaştırması) veya gen sürükleme teknikleriyle sivrisineklerin tamamen ortadan kaldırılması gibi. Bu tür yöntemler, milyonlarca bireyi tek tek tedavi etmek için yürütülen koordineli bir kampanya yerine, tek bir merkezi müdahaleyle çözülebilir. Genel olarak, yapay zeka destekli sağlık faydalarının, en yoksul ülkelere bile ulaşmasının makul bir zaman dilimi olarak 5-10 yıl içinde gerçekleşebileceğini düşünüyorum ve bunun iyi bir kısmının (belki %50’sinin) bu sürede yayılmasını bekliyorum. Güçlü yapay zekadan sonraki 5-10 yıl içinde gelişmekte olan dünyanın, bugün gelişmiş dünyanın olduğundan en azından önemli ölçüde daha sağlıklı olması, iyi bir hedef olabilir, hatta gelişmiş dünyanın gerisinde kalmaya devam etse bile. Elbette, bunu başarmak küresel sağlık, hayırseverlik, siyasi savunuculuk ve diğer birçok alanda büyük bir çaba gerektirecektir ve hem yapay zeka geliştiricileri hem de politika yapıcılar bu konuda yardımcı olmalıdır.

Ekonomik büyüme. Gelişmekte olan dünya yalnızca sağlık alanında değil, genel olarak ekonomik anlamda da hızla gelişmiş dünyaya yetişebilir mi? Bunun bazı emsalleri vardır: 20. yüzyılın son birkaç on yılında, Doğu Asya’daki bazı ekonomiler, yıllık yaklaşık %10 oranında sürdürülebilir reel GSYİH büyüme oranları yakalayarak gelişmiş dünyaya yetişmeyi başardı. Bu başarıya yol açan kararları alanlar, doğrudan tüm ekonomileri kontrol eden yöneticiler değil, belirli birkaç kritik kaldıracı (örneğin, ihracata dayalı sanayi politikası izlemek ve doğal kaynak zenginliğine bel bağlama cazibesine direnmek gibi) kullanan insan ekonomi planlamacılarıydı. “Yapay zeka finans bakanları ve merkez bankacıları”nın bu %10’luk başarıyı tekrarlayabileceği veya aşabileceği düşünülebilir. Önemli bir soru, gelişmekte olan dünya hükümetlerinin bunu benimsemeye nasıl ikna edileceğidir; üstelik bunu, öz-belirlenim ilkesine saygı göstererek yapmak gerekecektir—bazıları buna hevesli olabilir, ancak diğerleri muhtemelen şüpheyle yaklaşacaktır.

İyimser tarafta, önceki maddede bahsedilen birçok sağlık müdahalesinin ekonomik büyümeyi organik olarak artırması muhtemeldir: AIDS, sıtma ve parazitli solucanların yok edilmesi verimlilik üzerinde dönüştürücü bir etkiye sahip olacaktır, ayrıca bazı nörobilimsel müdahalelerin (örneğin, gelişmiş ruh hali ve odaklanma) hem gelişmiş hem de gelişmekte olan dünyada ekonomik faydaları olacaktır. Son olarak, sağlık dışındaki yapay zeka hızlandırılmış teknolojiler (enerji teknolojisi, taşıma dronları, geliştirilmiş yapı malzemeleri, daha iyi lojistik ve dağıtım gibi) dünyaya kendiliğinden yayılabilir; örneğin, cep telefonları bile hayırsever çabalara gerek kalmadan, piyasa mekanizmaları aracılığıyla hızla Sahra Altı Afrika’ya yayılmıştır.

Daha olumsuz tarafta ise, yapay zeka ve otomasyonun pek çok potansiyel faydası olmakla birlikte, bunlar ekonomik kalkınma açısından bazı zorluklar da yaratmaktadır, özellikle henüz sanayileşmemiş ülkeler için. Artan otomasyon çağında bu ülkelerin hâlâ gelişip ekonomilerini iyileştirebilmesini sağlamanın yollarını bulmak, ekonomistlerin ve politika yapıcıların çözmesi gereken önemli bir sorundur.

Genel olarak, bir ideal senaryo—belki de ulaşılması gereken bir hedef—gelişmekte olan dünyada yıllık %20 GSYİH büyüme oranı olacaktır; bunun %10’u yapay zeka destekli ekonomik kararlar ve geri kalan %10’u sağlık da dahil ancak bununla sınırlı olmamak üzere yapay zeka hızlandırılmış teknolojilerin doğal yayılımı ile sağlanabilir. Bu başarıldığında, Sahra Altı Afrika 5-10 yıl içinde Çin’in şu anki kişi başına düşen GSYİH seviyesine ulaşırken, gelişmekte olan dünyanın büyük kısmı mevcut ABD GSYİH seviyelerinin üzerine çıkabilir. Ancak tekrar etmek gerekirse, bu varsayılan olarak gerçekleşecek bir şey değil, hepimizin birlikte çalışarak olasılığını artırmamız gereken bir hedeftir.

Gıda güvenliği²⁴. 20. yüzyıl boyunca, daha iyi gübreler ve pestisitler, daha fazla otomasyon ve daha verimli arazi kullanımı gibi tarım teknolojisindeki ilerlemeler, mahsul verimlerini büyük ölçüde artırarak milyonlarca insanı açlıktan kurtardı. Genetik mühendislik şu anda birçok mahsulü daha da iyileştirmektedir. Bunu yapmanın daha fazla yolunu bulmak—ve aynı zamanda tarımsal tedarik zincirlerini daha verimli hale getirmek—bize yapay zeka destekli ikinci bir Yeşil Devrim kazandırabilir ve gelişmekte olan dünya ile gelişmiş dünya arasındaki farkın kapanmasına yardımcı olabilir.

İklim değişikliğini hafifletme. İklim değişikliği, gelişmekte olan dünyada çok daha güçlü hissedilecek ve kalkınmasını engelleyecektir. Yapay zekanın, atmosferik karbon giderimi ve temiz enerji teknolojisinden, karbon yoğun fabrika çiftçiliğine bağımlılığımızı azaltan laboratuvar ortamında yetiştirilmiş ete kadar, iklim değişikliğini yavaşlatan veya önleyen teknolojilerde iyileşmelere yol açmasını bekleyebiliriz. Tabii ki, yukarıda da tartışıldığı gibi, iklim değişikliği konusundaki ilerlemeyi sınırlayan tek şey teknoloji değildir—bu makalede ele alınan diğer tüm konularda olduğu gibi, insan toplumsal faktörleri de önemlidir. Ancak, yapay zeka destekli araştırmaların, iklim değişikliğini hafifletmenin maliyetini ve yarattığı aksaklıkları önemli ölçüde azaltacak araçları bize sağlayacağına dair güçlü nedenler vardır; bu da birçok itirazı geçersiz kılar ve gelişmekte olan ülkelerin daha fazla ekonomik ilerleme kaydetmesine olanak tanır.

Ülkeler içindeki eşitsizlik. Şimdiye kadar eşitsizlikten daha çok küresel bir olgu olarak bahsettim (ki bence en önemli hali budur), ancak elbette eşitsizlik ülkeler içinde de mevcuttur. Gelişmiş sağlık müdahaleleri ve özellikle yaşam süresinde radikal artışlar veya bilişsel gelişim sağlayan ilaçlar söz konusu olduğunda, bu teknolojilerin “sadece zenginlere ait” olacağı yönünde haklı endişeler olacaktır. Ancak, özellikle gelişmiş dünyada ülke içi eşitsizlik konusunda daha iyimserim ve bunun iki nedeni var. Birincisi, gelişmiş dünyada piyasalar daha iyi işler ve piyasalar genellikle zamanla yüksek değerli teknolojilerin maliyetini düşürmede başarılıdır²⁵. İkincisi, gelişmiş dünya siyasi kurumları vatandaşlarına daha duyarlıdır ve evrensel erişim programlarını uygulama kapasitesine sahiptir—ve vatandaşların, yaşam kalitesini bu denli radikal şekilde artıran teknolojilere erişim talep edeceğini düşünüyorum. Tabii ki, bu tür taleplerin başarıya ulaşması garanti değildir—ve burada, adil bir toplum sağlamak için hepimizin elinden geleni yapması gereken bir başka alan ortaya çıkıyor.

Buna ek olarak, yaşam kurtaran ve yaşam kalitesini artıran teknolojilere erişimdeki eşitsizlikten bağımsız olarak, servet eşitsizliği gibi ayrı bir sorun da vardır. Bunun çözümü daha zor görünmektedir ve bunu Bölüm 5’te ele alıyorum.

Vazgeçme (opt-out) sorunu. Hem gelişmiş hem de gelişmekte olan dünyada, insanların yapay zeka destekli faydalardan bilinçli olarak kaçınmasıyla ilgili bir endişe vardır (aşı karşıtı hareketlere veya daha genel anlamda Ludist hareketlere benzer bir durum). Kötü geri besleme döngüleri oluşabilir; örneğin, en kötü kararları alma eğiliminde olan bireyler, tam da karar alma yetilerini iyileştiren teknolojilerden kaçınabilir. Bu, giderek büyüyen bir uçuruma yol açarak hatta distopik bir alt sınıf yaratabilir (bazı araştırmacılar bunun demokrasiyi zayıflatacağını savunmaktadır; bu konuyu bir sonraki bölümde daha ayrıntılı tartışıyorum). Bu durum, yapay zekanın olumlu ilerlemeleri üzerine bir kez daha ahlaki bir leke düşürecektir. Bu, çözülmesi zor bir sorundur, çünkü insanları zorlamanın etik açıdan kabul edilebilir olduğunu düşünmüyorum, ancak en azından insanların bilimsel anlayışlarını artırmaya çalışabiliriz—ve belki de yapay zekanın kendisi bu konuda bize yardımcı olabilir.

Umudu artıran bir işaret, tarihsel olarak teknoloji karşıtı hareketlerin sözden öteye pek geçmemiş olmasıdır: modern teknolojiye karşı çıkmak popüler olabilir, ancak çoğu insan sonunda onu benimser, en azından bireysel seçim söz konusu olduğunda. Bireyler genellikle sağlık ve tüketici teknolojilerini benimserken, gerçekten engellenen teknolojiler (örneğin nükleer enerji gibi) kolektif siyasi kararlarla sınırlı kalmaktadır.

Genel olarak, yapay zekanın biyolojik ilerlemelerini hızla gelişmekte olan dünyaya ulaştırma konusunda iyimserim. Yapay zekanın benzeri görülmemiş ekonomik büyüme oranlarını mümkün kılabileceği ve gelişmekte olan dünyanın en azından bugünün gelişmiş dünyasının seviyesini aşmasını sağlayabileceği konusunda umutluyum, ancak bundan emin değilim. Hem gelişmiş hem de gelişmekte olan dünyada “vazgeçme” sorunu hakkında endişeliyim, ancak bunun zamanla azalacağını ve yapay zekanın bu süreci hızlandırabileceğini düşünüyorum. Mükemmel bir dünya olmayacak ve geride kalanlar en azından ilk birkaç yıl içinde tamamen yetişemeyecek. Ancak güçlü çabalarımızla işleri doğru yönde ve hızlı bir şekilde ilerletebiliriz. Bunu başarırsak, dünyadaki her insana karşı borçlu olduğumuz onur ve eşitlik vaatlerinin en azından bir kısmını yerine getirmek için bir adım atmış oluruz.

4. Barış ve Yönetişim

Diyelim ki ilk üç bölümde ele alınan her şey olumlu şekilde gerçekleşti: hastalık, yoksulluk ve eşitsizlik önemli ölçüde azaldı ve insan deneyiminin asgari seviyesi büyük ölçüde yükseldi. Ancak bu, insan ıstırabının tüm ana nedenlerinin ortadan kalktığı anlamına gelmez. İnsanlar hâlâ birbirleri için bir tehdit oluşturmaktadır. Teknolojik ilerleme ve ekonomik kalkınmanın demokrasi ve barışa yol açtığına dair bir eğilim bulunsa da, bu oldukça belirsiz bir eğilimdir ve sık sık (hatta son zamanlarda) gerilemeler yaşanmıştır.

20. yüzyılın başında insanlar savaşın geride kaldığını düşündüler; ardından iki dünya savaşı geldi. Otuz yıl önce Francis Fukuyama, Tarihin Sonu’nu ve liberal demokrasinin nihai zaferini yazdı; ancak bu henüz gerçekleşmedi. Yirmi yıl önce ABD’li politika yapıcılar, Çin ile serbest ticaretin onu zenginleştikçe liberalleştireceğine inanıyordu; bu kesinlikle olmadı ve şimdi yükselen otoriter bir blokla ikinci bir Soğuk Savaş’a doğru ilerliyor gibi görünüyoruz. Ve bazı makul teoriler, internet teknolojisinin aslında ilk başta sanıldığı gibi demokrasiyi değil, otoriterliği güçlendirebileceğini öne sürüyor (örneğin “Arap Baharı” döneminde olduğu gibi).

Bu nedenle, güçlü yapay zekanın barış, demokrasi ve özgürlükle ilgili bu sorunlarla nasıl kesişeceğini anlamaya çalışmak önemli görünüyor.

Ne yazık ki, yapay zekânın demokrasiyi ve barışı yapısal olarak ilerleteceğine veya buna öncelik vereceğine inanmak için güçlü bir neden göremiyorum; oysa insan sağlığını yapısal olarak ilerleteceğine ve yoksulluğu hafifleteceğine inanıyorum. İnsan çatışması doğası gereği çekişmeli bir süreçtir ve yapay zekâ, prensipte hem “iyi adamlar” hem de “kötü adamlar” için yardımcı olabilir. Hatta bazı yapısal faktörler endişe verici görünüyor: Yapay zekâ, otokratların araç setinde önemli yer tutan propaganda ve gözetim faaliyetlerini çok daha etkin hâle getirecek gibi görünüyor. Bu nedenle, işleri doğru yöne eğmek bize, bireysel aktörlere, kalıyor: Eğer yapay zekânın demokrasiyi ve bireysel hakları desteklemesini istiyorsak, bu sonucu elde etmek için mücadele etmek zorundayız. Bunun uluslararası eşitsizlik meselesinden bile daha önemli olduğunu düşünüyorum: Liberal demokrasinin ve siyasi istikrarın galip geleceği garanti edilmemiştir, hatta pek olası bile olmayabilir ve geçmişte olduğu gibi büyük fedakârlık ve kararlılık gerektirecektir.

Bu meseleyi iki kısma ayırarak düşünüyorum: uluslararası çatışma ve ulusların iç yapısı. Uluslararası düzlemde, güçlü yapay zekâ üretildiğinde demokrasilerin dünya sahnesinde üstünlüğe sahip olması çok önemli görünüyor. Yapay zekâ destekli otoriterlik, düşünmesi bile korkunç bir senaryo, bu yüzden demokrasiler hem otokratlar tarafından alt edilmemek hem de otoriter ülkelerdeki insan hakları ihlallerini önlemek için güçlü yapay zekânın dünyaya nasıl getirileceğine dair kuralları belirleyebilmelidir.

Şu an en iyi yol olduğuna dair tahminim, bir “ittifak stratejisi”dir²⁶. Bu stratejide, bir grup demokrasi, tedarik zincirini güvence altına alarak, hızla ölçeklenerek ve rakiplerinin çipler ve yarı iletken ekipman gibi kritik kaynaklara erişimini engelleyerek veya geciktirerek güçlü yapay zekâ konusunda net bir avantaj elde etmeye çalışır (hatta sadece geçici bir avantaj bile yeterli olabilir). Bu koalisyon bir yandan yapay zekâyı sağlam bir askerî üstünlük elde etmek için kullanırken (sopa), diğer yandan da güçlü yapay zekânın avantajlarını demokrasiyi teşvik eden koalisyon stratejisini destekleme karşılığında giderek daha geniş bir ülke grubuna dağıtmayı teklif eder (havuç). Bu, biraz “Barış İçin Atom” programına benzer bir model olurdu. Koalisyon, dünya çapında daha fazla desteği yanına çekmeyi hedefleyerek en kötü rakiplerimizi izole etmeye ve sonunda onları, dünyanın geri kalanı gibi aynı anlaşmayı kabul etmeye mecbur bırakmaya çalışacaktır: Demokrasilerle rekabet etmekten vazgeçip tüm faydaları almak ve üstün bir düşmanla savaşmamak.

Bunların hepsini başarabilirsek, dünya sahnesinde demokrasilerin lider olduğu ve ekonomik ile askerî açıdan otokrasiler tarafından alt edilme, fethedilme veya sabote edilme tehlikesinden uzak oldukları bir düzen elde ederiz. Hatta yapay zekâdaki üstünlüklerini kalıcı bir avantaja dönüştürmeleri bile mümkün olabilir. Bu, iyimser bir bakış açısıyla, bir “sonsuz 1991” senaryosuna—demokrasilerin üstünlüğü elinde tuttuğu ve Fukuyama’nın hayallerinin gerçekleştiği bir dünyaya—yol açabilir. Yine de bunun son derece zor olacağı açıktır ve özellikle özel yapay zekâ şirketleriyle demokratik hükümetler arasında sıkı işbirliği gerektirecektir. Aynı zamanda, havuç ve sopa arasındaki dengenin nasıl kurulacağı konusunda olağanüstü derecede akıllıca kararlar verilmesini zorunlu kılacaktır.

Tüm bunlar iyi gitse bile, her ülke içinde demokrasi ile otokrasi arasındaki mücadelenin ne olacağı sorusu kalacaktır. Burada ne olacağını öngörmek elbette zor, ancak güçlü yapay zekânın demokratik ülkeler tarafından kontrol edildiği bir küresel ortamda, yapay zekânın her yerde yapısal olarak demokrasiyi destekleyebileceği konusunda bir miktar iyimserim. Özellikle, böyle bir ortamda demokratik hükümetler üstün yapay zekâlarını bilgi savaşını kazanmak için kullanabilir: Otokratların etkisini ve propaganda operasyonlarını karşılayabilir ve hatta küresel çapta özgür bir bilgi ortamı oluşturabilirler; bunu, otokratların teknik olarak engelleyemeyeceği veya izleyemeyeceği bilgi kanalları ve yapay zekâ hizmetleri sağlayarak yapabilirler. Propaganda yapmak gerekmeyebilir, yalnızca kötü niyetli saldırıları bertaraf etmek ve bilgi akışını engellenmeden sağlamak yeterli olabilir. Bu tür bir dengeleme süreci hemen gerçekleşmese de, zamanla küresel yönetişimin demokrasiden yana eğilmesini sağlama ihtimali oldukça yüksek.

Bunun birkaç nedeni var. Birincisi, 1-3. bölümlerde tartışılan yaşam kalitesindeki artışlar, her şey eşit olduğunda, demokrasiyi teşvik etmelidir; tarihsel olarak da en azından bir ölçüde böyle olmuştur. Özellikle, zihinsel sağlık, refah ve eğitimdeki iyileşmelerin demokrasiyi artırmasını bekliyorum; çünkü bu üçü de otoriter liderlere verilen destekle ters orantılıdır. Genel olarak, insanların diğer ihtiyaçları karşılandığında daha fazla kendini ifade etme isteği olur ve demokrasi, diğer şeylerin yanı sıra, bir kendini ifade etme biçimidir. Bunun tersine, otoriterlik korku ve öfke üzerine kurulu olduğundan, bu faktörlerin azalması otoriterliğin zeminini zayıflatabilir.

İkinci olarak, özgür bilginin gerçekten otoriterliği zayıflatma ihtimali yüksektir, tabii eğer otoriterler onu sansürleyemezse. Sansürlenmemiş yapay zekâ aynı zamanda bireylere baskıcı hükümetleri zayıflatmak için güçlü araçlar da sağlayabilir. Baskıcı hükümetler, insanlara belirli bir tür ortak bilgiyi reddederek, onların “kralın çıplak olduğunu” fark etmelerini engelleyerek ayakta kalır. Örneğin, Sırbistan’da Milošević hükümetinin devrilmesine yardımcı olan Srđa Popović, otoriterlerin gücünü psikolojik olarak nasıl ellerinden alacağını, büyüyü nasıl bozacağını ve bir diktatöre karşı desteği nasıl toplayacağını anlatan teknikler üzerine kapsamlı yazılar kaleme almıştır. Eğer Popović’in becerilerinin zekâ ile yüksek getiriler sunduğu düşünülürse, onun insanüstü derecede etkili bir yapay zekâ versiyonunun herkesin cebinde olduğu ve diktatörlerin onu engelleme veya sansürleme gücüne sahip olmadığı bir dünya, dünya çapında muhaliflerin ve reform yanlılarının arkasında bir rüzgâr yaratabilir. Tekrar etmek gerekirse, bu uzun ve çetin bir mücadele olacaktır; zafer garanti değildir, ancak eğer yapay zekâyı doğru şekilde tasarlayıp inşa edebilirsek, en azından özgürlük savunucularının her yerde avantaj sahibi olduğu bir mücadele olabilir.

Nörobilim ve biyolojide olduğu gibi, burada da sorulabilecek bir soru şudur: İşleri sadece otokrasiden kaçınmak için değil, aynı zamanda demokrasileri bugünkünden daha iyi hâle getirmek için nasıl geliştirebiliriz? Çünkü demokrasiler içinde de adaletsizlikler her zaman meydana gelir. Hukukun üstünlüğüne dayalı toplumlar vatandaşlarına, herkesin yasa önünde eşit olacağı ve herkesin temel insan haklarına sahip olacağı vaadinde bulunur, ancak pratikte insanların her zaman bu hakları aldığı açıkça söylenemez. Bu vaadin kısmen bile yerine getiriliyor olması gurur verici bir şeydir, ancak yapay zekâ bize daha iyisini yapmamızda yardımcı olabilir mi?

Örneğin, yapay zekâ hukuki ve yargısal sistemimizi daha tarafsız hâle getirerek kararları ve süreçleri iyileştirebilir mi? Günümüzde insanlar, hukuk ve yargı bağlamında yapay zekâ sistemlerinin ayrımcılığa sebep olacağından endişe duyuyor ve bu kaygılar önemlidir, savunulmalıdır. Ancak aynı zamanda, demokrasinin canlılığı, yalnızca risklere yanıt vermekle değil, yeni teknolojileri demokratik kurumları geliştirmek için kullanmakla da ilgilidir. Gerçek anlamda olgunlaşmış ve başarılı bir yapay zekâ uygulaması, önyargıyı azaltma ve herkes için daha adil olma potansiyeline sahiptir.

Yüzyıllardır hukuk sistemleri şu temel ikilemle karşı karşıyadır: Hukuk tarafsız olmayı amaçlar, ancak doğası gereği özneldir ve bu yüzden önyargılı insanlar tarafından yorumlanması gerekir. Hukuku tamamen mekanik hâle getirme çabaları başarısız olmuştur, çünkü gerçek dünya karmaşıktır ve her zaman matematiksel formüllerle ifade edilemez. Bunun yerine, hukuk sistemleri, “zalim ve olağandışı ceza” veya “tamamen toplumsal açıdan değersiz” gibi ünlü derecede belirsiz ölçütlere dayanır ve insanlar bunları yorumlamak zorunda kalır—ve çoğu zaman bunu önyargılı, taraflı veya keyfî bir şekilde yaparlar. Kripto paralardaki “akıllı sözleşmeler” hukuku devrim niteliğinde değiştirmemiştir, çünkü sıradan yazılım kodları hukukun gerçekten ilgilendiği konuların çoğunu değerlendirecek kadar akıllı değildir. Ancak yapay zekâ bunun için yeterince akıllı olabilir: Tekrarlanabilir ve mekanik bir şekilde geniş, belirsiz yargılarda bulunabilen ilk teknolojidir.

Burada hâkimleri doğrudan yapay zekâ sistemleriyle değiştirmeyi önermiyorum, ancak tarafsızlık ile karmaşık, gerçek dünya durumlarını anlama ve işleme yeteneğinin birleşimi, hukuk ve adalet için ciddi olumlu uygulamalara sahip olmalıdır. En azından, bu tür sistemler karar alma sürecine yardımcı olarak insanlarla birlikte çalışabilir. Bu tür herhangi bir sistemde şeffaflık önemli olacaktır ve olgun bir yapay zekâ bilimi bunu sağlayabilir: Bu sistemlerin eğitim süreçleri kapsamlı bir şekilde incelenebilir ve gelişmiş yorumlanabilirlik teknikleri kullanılarak nihai modelin içi görülebilir ve gizli önyargılar açısından değerlendirilebilir—bu, insanlar için basitçe mümkün olmayan bir şeydir. Böyle yapay zekâ araçları, yargısal veya polis bağlamında temel hak ihlallerini izlemek için de kullanılabilir ve anayasaları daha kendiliğinden uygulanabilir hâle getirebilir.

Benzer bir şekilde, yapay zekâ hem görüşleri birleştirmek hem de vatandaşlar arasında uzlaşıyı sağlamak için kullanılabilir; çatışmaları çözebilir, ortak zemin bulabilir ve uzlaşmaya varılmasını sağlayabilir. Bu yöndeki bazı erken fikirler, hesaplamalı demokrasi projesi tarafından, Anthropic ile yapılan iş birlikleri de dahil olmak üzere, hayata geçirilmeye başlanmıştır. Daha bilinçli ve düşünceli bir vatandaş kitlesi, demokratik kurumları açıkça güçlendirecektir.

Yapay zekânın, hükümet hizmetlerinin sağlanmasına yardımcı olmak için kullanılabileceği açık bir fırsat da bulunmaktadır—bu hizmetler, ilke olarak herkese sunulması gereken ancak pratikte sıklıkla ciddi eksiklikler gösteren ve bazı yerlerde diğerlerine kıyasla daha kötü durumda olan sağlık yardımları veya sosyal hizmetler gibi alanları kapsar. Buna sağlık hizmetleri, motorlu taşıtlar dairesi (DMV), vergiler, sosyal güvenlik, bina yönetmeliklerinin uygulanması ve benzeri hizmetler dahildir. Hükümetin size yasal olarak hak ettiğiniz her şeyi, anlayabileceğiniz bir şekilde sunmayı amaçlayan ve aynı zamanda çoğu zaman kafa karıştırıcı olan devlet kurallarına uyum sağlamanıza yardımcı olan, son derece düşünceli ve bilgili bir yapay zekâya sahip olmak büyük bir fark yaratacaktır. Devlet kapasitesinin artırılması, hem yasa önünde eşitlik vaadinin yerine getirilmesine yardımcı olur hem de demokratik yönetime duyulan saygıyı güçlendirir. Kötü uygulanan hizmetler, günümüzde hükümete yönelik alaycılığın önemli bir nedenidir²⁷.

Tüm bunlar bir ölçüde belirsiz fikirlerdir ve bu bölümün başında belirttiğim gibi, biyoloji, nörobilim ve yoksulluğun hafifletilmesine yönelik ilerlemeler konusunda olduğum kadar bunların uygulanabilirliği konusunda emin değilim. Belki de bunlar gerçekçi olmayan ütopyacı düşünceler olabilir. Ancak burada önemli olan, iddialı bir vizyona sahip olmak, büyük hayaller kurmaya ve bunları denemeye istekli olmaktır. Yapay zekânın özgürlüğün, bireysel hakların ve hukukun üstünlüğü altında eşitliğin garantörü olarak görülmesi fikri, uğrunda mücadele edilmesi gereken çok güçlü bir vizyondur. 21. yüzyılda yapay zekâ destekli bir siyasi yapı, hem bireysel özgürlüğün daha güçlü bir koruyucusu olabilir hem de liberal demokrasiyi tüm dünyanın benimsemek istediği bir yönetim biçimi hâline getirebilecek bir umut ışığı olabilir.

5. Çalışma ve Anlam

Önceki dört bölümde ele alınan her şey yolunda gitse bile—yalnızca hastalık, yoksulluk ve eşitsizliği hafifletmekle kalmayıp, liberal demokrasinin baskın yönetim biçimi hâline gelmesi ve mevcut liberal demokrasilerin kendilerinin de daha iyi versiyonlarına dönüşmesi sağlansa bile—yine de en az bir önemli soru kalır. “Böylesine teknolojik olarak ileri ve adil bir dünyada yaşamak harika,” diye itiraz edebilir biri, “ama yapay zekâ her şeyi yapıyorken, insanlar anlamı nasıl bulacak? Dahası, ekonomik olarak nasıl hayatta kalacaklar?”

Bu sorunun diğerlerinden daha zor olduğunu düşünüyorum. Bunun diğer sorulara kıyasla daha karamsar olduğum anlamına geldiğini söylemiyorum (gerçi bazı zorluklar görüyorum). Daha çok, bu sorunun daha belirsiz ve önceden tahmin edilmesinin daha zor olduğunu kastediyorum, çünkü zaman içinde ve merkezi olmayan bir şekilde kendiliğinden çözülen toplumun organizasyonuna dair makro ölçekli sorularla ilgili. Örneğin, tarihsel avcı-toplayıcı toplumlar, avlanmanın ve avcılıkla bağlantılı çeşitli dini ritüellerin olmadığı bir hayatın anlamsız olacağını düşünebilir ve bizim iyi beslenen teknolojik toplumumuzu amaçsız olarak hayal edebilirlerdi. Aynı şekilde, ekonomimizin herkesi nasıl geçindirebileceğini veya insanların mekanize bir toplumda ne tür işlevler görebileceğini de anlayamayabilirlerdi.

Yine de en azından birkaç şey söylemeye değer, ancak bu bölümün kısalığının bu konuları ciddiye almadığım şeklinde yorumlanmaması gerektiğini belirtmek isterim—aksine, bu, net cevapların eksikliğinin bir göstergesidir.

Anlam meselesine gelince, bir görevin yalnızca yapay zekâ tarafından daha iyi yapılabileceği için anlamsız olduğu fikrinin büyük olasılıkla bir hata olduğunu düşünüyorum. Çoğu insan dünyadaki herhangi bir şeyde en iyi değildir ve bu durum onları pek de rahatsız etmez gibi görünüyor. Elbette bugün insanlar karşılaştırmalı üstünlükleri sayesinde katkıda bulunabiliyorlar ve ürettikleri ekonomik değerden anlam çıkarabiliyorlar, ancak insanlar aynı zamanda hiçbir ekonomik değer üretmeyen faaliyetlerden de büyük keyif alıyor. Ben de video oyunları oynayarak, yüzerek, dışarıda yürüyerek ve arkadaşlarımla konuşarak çok zaman geçiriyorum ve bunların hiçbiri ekonomik bir değer yaratmıyor. Bir günümü bir video oyununda daha iyi olmaya veya bir dağı bisikletle daha hızlı tırmanmaya çalışarak geçirebilirim ve bu aktivitelerde bir yerlerde benden çok daha iyi olan birileri olduğu gerçeği benim için pek de önemli değildir. Her durumda, anlamın esas olarak insan ilişkilerinden ve bağ kurmaktan geldiğini düşünüyorum, ekonomik emekten değil.

İnsanlar bir başarı hissi ve hatta rekabet duygusu isterler ve yapay zekâ sonrası dünyada, bugün insanların araştırma projelerine girişirken, Hollywood aktörü olmaya çalışırken veya şirket kurarken yaptıklarına benzer şekilde, çok zor bir görevi karmaşık bir stratejiyle gerçekleştirmek için yıllar harcamak gayet mümkün olacaktır²⁸. (a) Bir yerlerde bir yapay zekânın bu görevi prensipte daha iyi yapabiliyor olması ve (b) bu görevin artık küresel ekonomide ekonomik olarak ödüllendirilen bir unsur olmaması bana göre pek de önemli görünmüyor.

Ekonomik boyut, bana anlam boyutundan daha zor görünüyor. Bu bölümde “ekonomik” derken, çoğu veya tüm insanların, yeterince gelişmiş bir yapay zekâ odaklı ekonomiye anlamlı bir şekilde katkıda bulunamama olasılığına işaret ediyorum. Bu, eşitsizlikten—özellikle de yeni teknolojilere erişimdeki eşitsizlikten—farklı ve daha makro düzeyde bir sorundur; eşitsizlik meselesini 3. Bölüm’de ele almıştım.

Öncelikle, kısa vadede, karşılaştırmalı üstünlük ilkesinin insanları ekonomide önemli kılmaya devam edeceğine ve aslında onların verimliliğini artıracağına dair argümanlara katılıyorum. Hatta bu süreç, bazı açılardan insanlar arasındaki rekabet ortamını eşitleyebilir bile. Yapay zekâ herhangi bir işin %90’ını daha iyi yapabiliyorsa, kalan %10’luk kısım, insanlara büyük bir avantaj sağlayarak onların daha yüksek ücretler almasına ve yapay zekânın iyi olduğu alanları tamamlayan ve güçlendiren birçok yeni insan işi yaratılmasına neden olacaktır. Böylece, bu “%10” genişleyerek neredeyse herkesi istihdam etmeye devam edecektir. Aslında, yapay zekâ her şeyin %100’ünü insanlardan daha iyi yapabiliyor olsa bile, bazı görevlerde verimsiz ya da pahalı kalabilir ya da insanlar ile yapay zekânın girdi olarak kullandığı kaynaklar anlamlı derecede farklı olabilir. Bu durumda, karşılaştırmalı üstünlük mantığı hâlâ geçerli olur. İnsanların, görece (hatta mutlak) üstünlüğünü önemli bir süre koruyacağı alanlardan biri de fiziksel dünya olacaktır. Dolayısıyla, “veri merkezinde bir dâhiler ülkesi” seviyesine ulaştığımız noktanın biraz ötesinde bile, insan ekonomisinin mantıklı kalmaya devam edebileceğini düşünüyorum.

Ancak uzun vadede, yapay zekânın o kadar geniş kapsamlı ve ucuz hâle geleceğine inanıyorum ki, bu durum artık geçerli olmayacak. O noktada mevcut ekonomik düzenimiz anlamını yitirecek ve ekonominin nasıl organize edilmesi gerektiği konusunda daha geniş bir toplumsal tartışmaya ihtiyaç duyulacaktır.

Bu kulağa çılgınca gelebilir, ancak tarihte medeniyetler büyük ekonomik dönüşümleri başarıyla yönetmiştir: avcı-toplayıcılıktan tarıma, tarımdan feodalizme ve feodalizmden sanayileşmeye geçiş gibi. Sanırım daha yeni ve daha garip bir şeye ihtiyaç duyulacak ve bugüne kadar kimsenin doğru şekilde öngöremediği bir sistem ortaya çıkacak. Belki de bu, herkes için büyük bir evrensel temel gelir gibi basit bir şey olacak—gerçi bunun çözümün yalnızca küçük bir parçası olacağını düşünüyorum. Belki de yapay zekâ sistemlerinden oluşan kapitalist bir ekonomi kurulacak ve bu sistemler, sahip oldukları devasa kaynakları (çünkü genel ekonomik pasta muazzam büyüklükte olacak), insanlara, insan değerlerinden türetilmiş bir yargıya dayalı olarak anlamlı gördükleri bazı unsurlar üzerinden dağıtacak. Belki ekonomi Whuffie puanlarıyla çalışacak. Ya da belki insanlar, mevcut ekonomik modellerin öngöremediği bir şekilde ekonomik olarak değerli kalmaya devam edecekler.

Bu çözümlerin her birinin çok sayıda olası sorunu var ve bunların mantıklı olup olmayacağını ancak birçok yineleme ve deneyimleme sürecinden sonra anlayabiliriz. Diğer bazı zorluklarda olduğu gibi, burada da iyi bir sonuç almak için mücadele etmemiz gerekecek; sömürücü veya distopik yönelimlerin de açıkça mümkün olduğu ve önlenmesi gerektiği ortada. Bu sorular üzerine çok daha fazla şey yazılabilir ve umarım ilerleyen zamanlarda bunu yapabilirim.

Durumu değerlendirme

Yukarıdaki çeşitli konular boyunca, yapay zekâ ile her şeyin yolunda gitmesi durumunda hem mümkün hem de bugünkü dünyadan çok daha iyi olan bir dünya vizyonunu ortaya koymaya çalıştım. Bu dünyanın gerçekçi olup olmadığını bilmiyorum ve gerçekçi olsa bile, cesur ve adanmış birçok insanın büyük çabası ve mücadelesi olmadan gerçekleşmeyeceği kesin. Herkesin (yapay zekâ şirketleri de dahil!) hem riskleri önlemek hem de faydaları tam anlamıyla gerçekleştirmek için üzerine düşeni yapması gerekecek.

Ama bu, uğruna mücadele etmeye değer bir dünya. Eğer tüm bunlar gerçekten 5 ila 10 yıl içinde gerçekleşirse—çoğu hastalığın ortadan kalkması, biyolojik ve bilişsel özgürlüklerin genişlemesi, milyarlarca insanın yoksulluktan kurtularak yeni teknolojilere erişmesi, liberal demokrasinin ve insan haklarının yeniden yükselişi—bunun insanlara etkisinin düşündüğümüzden daha büyük olacağını tahmin ediyorum. Burada, bireysel olarak yeni teknolojilerin sunduğu avantajlardan faydalanmanın yaratacağı hayranlıktan bahsetmiyorum, ki bu elbette muhteşem olacak. Asıl kastettiğim şey, uzun zamandır sahip olduğumuz ideallerin hepsinin bir anda gözümüzün önünde gerçeğe dönüşmesini izleme deneyimi. Bunun birçok insanı kelimenin tam anlamıyla gözyaşlarına boğacak kadar etkileyeceğini düşünüyorum.

Bu makaleyi yazarken ilginç bir gerilim fark ettim. Bir anlamda burada ortaya koyduğum vizyon son derece radikal: Neredeyse hiç kimsenin önümüzdeki on yıl içinde böyle bir şeyin gerçekleşmesini beklemediği kesin ve bu birçok kişiye absürd bir fantazi gibi görünecek. Hatta bazıları için bu vizyon istenmeyen bile olabilir; içerdiği değerler ve siyasi tercihler herkes tarafından kabul görmeyecektir. Ancak aynı zamanda, bu vizyonda kör edici derecede açık olan bir şey var—fazlasıyla belirgin bir mantık zinciri—sanki iyi bir dünya hayal etmeye yönelik pek çok farklı girişim, kaçınılmaz olarak buraya ulaşıyor gibi.

Iain M. Banks’in The Player of Games²⁹ adlı eserinde, başkahraman—burada ortaya koyduğum ilkelere benzer temellere dayanan Culture adlı bir toplumun üyesi—liderliğin karmaşık bir savaş oyunu üzerinden belirlendiği baskıcı ve militarist bir imparatorluğa seyahat eder. Ancak oyun, o kadar karmaşıktır ki, oyuncuların stratejileri genellikle kendi politik ve felsefi bakış açılarını yansıtır. Başkahraman, imparatoru oyunda yenmeyi başararak, kendi değerlerinin (Culture’ın değerlerinin), acımasız rekabet ve en güçlü olanın hayatta kalması ilkesi üzerine kurulu bir toplum tarafından tasarlanmış bir oyunda bile galibiyet getiren bir strateji olduğunu gösterir. Scott Alexander’ın ünlü bir yazısı da aynı tezi savunur—rekabetin kendi kendini çökerten bir yapı olduğunu ve genellikle şefkat ve iş birliği temelli bir topluma yol açtığını ileri sürer. “Ahlaki evrenin eğrisi” de benzer bir kavramdır.

Culture’ın değerlerinin kazanan bir strateji olduğunu düşünüyorum, çünkü bunlar, ahlaki açıdan açık bir güce sahip olan ve insanları aynı tarafa çekme eğiliminde bulunan milyonlarca küçük kararın toplamıdır. Adalet, iş birliği, merak ve özerklik gibi temel insani sezgiler tartışmaya açık değildir ve çoğu zaman daha yıkıcı dürtülerimizin aksine, birikimli bir şekilde ilerler. Eğer hastalıktan ölümleri önleyebiliyorsak, çocukların bu yüzden ölmemesi gerektiğini savunmak kolaydır ve buradan hareketle herkesin çocuklarının bu hakkı eşit şekilde hak ettiğini iddia etmek de zor değildir. Bu noktadan sonra, hepimizin bir araya gelerek zekâmızı bu sonuca ulaşmak için kullanması gerektiğini savunmak kolaydır. İnsanların gereksiz yere başkalarına saldırmasının veya zarar vermesinin cezalandırılması gerektiğine pek az kişi karşı çıkar ve buradan hareketle cezaların insanlar arasında tutarlı ve sistematik olması gerektiği fikrine ulaşmak büyük bir sıçrama değildir. Aynı şekilde, insanların kendi yaşamları ve seçimleri üzerinde özerkliğe ve sorumluluğa sahip olması gerektiği de sezgisel olarak açıktır. Bu basit sezgiler, mantıksal sonuçlarına götürüldüğünde, nihayetinde hukukun üstünlüğüne, demokrasiye ve Aydınlanma değerlerine ulaşır. Eğer bu kaçınılmaz değilse bile, en azından istatistiksel olarak insanlığın zaten yöneldiği nokta burasıdır. Yapay zekâ yalnızca bizi oraya daha hızlı ulaştırmak için bir fırsat sunar—mantığı daha belirgin ve hedefi daha net hâle getirir.

Yine de, bu olasılık büyüleyici bir güzelliğe sahiptir. Onu gerçeğe dönüştürmek için küçük de olsa bir rol oynama şansına sahibiz.

Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe ve Anthropic’teki birçok kişiye bu makalenin taslaklarını gözden geçirdikleri için teşekkür ederim.

2024 Nobel Kimya Ödülü kazananlarına, hepimize yolu gösterdikleri için.

Dipnotlar

1 “Sevgi ve şefkatle gözetileceğiz zarafetengiz makinelerce” Richard Brautigan; https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace ↩

2 Bazı insanların tepkisinin “bu oldukça yumuşak” olacağını tahmin ediyorum. Bence bu insanlar, Twitter jargonuyla söylersek, “biraz dışarı çıkıp gerçek dünyayla temas kurmalı.” Ama daha da önemlisi, toplumsal açıdan bakıldığında yumuşak olması iyi bir şey. İnsanların bir anda kaldırabileceği değişim miktarı sınırlıdır ve burada tarif ettiğim hız, muhtemelen toplumun aşırı çalkantıya girmeden özümseyebileceği değişim sınırlarına yakındır. ↩

3 AGI teriminin belirsiz olduğunu ve fazla bilim kurgu yükü ve abartı taşıdığını düşünüyorum. Bunun yerine, “güçlü yapay zekâ” veya “Uzman Düzeyinde Bilim ve Mühendislik” ifadelerini tercih ediyorum; bunlar, abartı içermeden kastettiğim şeyi daha iyi ifade ediyor. ↩

4 Bu makalede “zekâ” terimini, çeşitli alanlarda uygulanabilen genel bir problem çözme yetisi olarak kullanıyorum. Bu, akıl yürütme, öğrenme, planlama ve yaratıcılık gibi yetenekleri kapsar. Makale boyunca “zekâ” terimini kısaltma olarak kullansam da, zekânın doğasının bilişsel bilim ve yapay zekâ araştırmalarında tartışmalı bir konu olduğunun farkındayım. Bazı araştırmacılar, zekânın tek bir bütünleşik kavram olmadığını, aksine ayrı bilişsel yeteneklerden oluştuğunu savunmaktadır. Diğerleri ise farklı bilişsel becerilerin temelinde genel bir zekâ faktörünün (g faktörü) bulunduğunu öne sürmektedir. Bu, başka bir zaman ele alınması gereken bir tartışmadır. ↩

5 Bu, kabaca mevcut yapay zekâ sistemlerinin hızıdır—örneğin, birkaç saniyede bir sayfa metin okuyabilir ve yaklaşık 20 saniyede bir sayfa metin yazabilirler; bu, insanların bu işleri yapabileceği hızın 10-100 katıdır. Zaman içinde, daha büyük modeller bu süreci yavaşlatma eğiliminde olsa da, daha güçlü çipler süreci hızlandırma eğilimindedir; bugüne kadar bu iki etki birbirini yaklaşık olarak dengelemiştir. ↩

6 Bu, zayıf bir argüman gibi görünebilir, ancak Tyler Cowen ve Matt Yglesias gibi titiz düşünürler bunu ciddi bir endişe olarak dile getirmiştir (gerçi tam anlamıyla bu görüşü benimsediklerini düşünmüyorum) ve bence bu düşünce tamamen akıl dışı değildir. ↩

7 Bu sorunu ele alan en yakın ekonomi çalışması, “genel amaçlı teknolojiler” ve “genel amaçlı teknolojilere tamamlayıcı nitelikte olan soyut yatırımlar” üzerine yapılan çalışmalardır. ↩

8 Bu öğrenme, geçici bağlamsal öğrenmeyi veya geleneksel eğitimi içerebilir; her ikisi de fiziksel dünya tarafından hız sınırlamasına tabi olacaktır. ↩

9 Kaotik bir sistemde, küçük hatalar zamanla üstel olarak birikir, bu da hesaplama gücündeki muazzam bir artışın bile ne kadar ileriye yönelik tahminde bulunulabileceği konusunda yalnızca küçük bir iyileşmeye yol açmasına neden olur ve pratikte ölçüm hatası bunu daha da kötüleştirebilir. ↩

10 Bir diğer faktör de, güçlü yapay zekânın potansiyel olarak daha da güçlü yapay zekâlar yaratmak için kullanılabilmesidir. Varsayımım, bunun gerçekleşebileceği (aslında muhtemelen gerçekleşeceği), ancak etkisinin burada tartışılan “zekâya azalan marjinal getiriler” nedeniyle tahmin edilenden daha küçük olacağı yönündedir. Başka bir deyişle, yapay zekâ hızla daha akıllı olmaya devam edecek, ancak etkisi eninde sonunda zekâ dışı faktörler tarafından sınırlanacaktır ve yapay zekâ dışındaki bilimsel ilerlemenin hızını belirleyen esas unsur bu faktörlerin analizi olacaktır. ↩

11 Bu başarılar benim için bir ilham kaynağı olmuş ve yapay zekânın biyolojiyi dönüştürmek için kullanıldığı en güçlü mevcut örneklerden biri olmuştur. ↩

12 “Bilimde ilerleme, yeni tekniklere, yeni keşiflere ve yeni fikirlere bağlıdır; muhtemelen bu sıralamayla.” – Sydney Brenner ↩

13 Bu noktayı önerdiği için Parag Mallick’e teşekkür ederim. ↩

14 Yapay zekâ destekli bilimin hangi spesifik gelecekteki keşifleri yapabileceği hakkında spekülasyonlarla metni tıkamak istemedim, ancak işte bazı olasılıkların beyin fırtınası:
— AlphaFold ve AlphaProteo gibi daha iyi hesaplamalı araçların tasarımı—yani, genel bir yapay zekâ sisteminin, özel yapay zekâ hesaplamalı biyoloji araçları üretme hızımızı artırması.
— Daha verimli ve seçici CRISPR.
— Daha gelişmiş hücre terapileri.
— Malzeme bilimi ve minyatürleştirme alanındaki atılımlar sayesinde daha iyi implante edilebilir cihazlar.
— Kök hücreler, hücre farklılaşması ve yeniden farklılaşma üzerinde daha iyi kontrol sağlanması ve bunun sonucunda dokuların yeniden büyütülmesi veya şekillendirilmesi yeteneği.
— Bağışıklık sistemi üzerinde daha iyi kontrol: Kanser ve enfeksiyon hastalıklarına karşı seçici olarak aktive edilmesi, otoimmün hastalıkları hedef almak için seçici olarak baskılanması. ↩

15 Yapay zekâ, hangi deneylerin yapılacağını daha akıllıca seçmeye yardımcı olabilir; deney tasarımını iyileştirerek, ilk tur deneylerden daha fazla öğrenerek ikinci turda temel sorulara daha iyi odaklanmayı sağlayabilir ve benzeri katkılar sunabilir. ↩

16 Bu noktayı önerdiği için Matthew Yglesias’a teşekkür ederim. ↩

17 Hızla evrimleşen hastalıklar, özellikle hastaneleri tedaviye karşı dirençlerini sürekli geliştirmek için bir evrim laboratuvarı olarak kullanan çoklu ilaç direncine sahip suşlar, ele alınması en inatçı sorunlardan biri olabilir ve %100 başarıya ulaşmamızı engelleyen faktörlerden biri olabilir. ↩

18 İnsan ömrünü 5-10 yıl içinde ikiye katladığımızı bilmek zor olabilir. Bunu başarmış olabiliriz, ancak çalışma süresi içinde bunu henüz bilemeyebiliriz. ↩

19 Burada, hastalıkları tedavi etmek ile yaşlanma sürecini yavaşlatmak arasındaki belirgin biyolojik farklılıklara rağmen, istatistiksel eğilime daha geniş bir perspektiften bakmayı ve “detaylar farklı olsa da, insan biliminin muhtemelen bu eğilimi sürdürmenin bir yolunu bulacağını düşünüyorum; nihayetinde, karmaşık herhangi bir şeydeki düzgün eğilimler, zorunlu olarak birbirinden çok farklı bileşenlerin toplamından oluşur” demeyi tercih ediyorum. ↩

20 Örneğin, bu programlarla ilgili projeksiyonlarda yıllık üretkenlik artışının %1 veya hatta %0.5 oranında artmasının bile dönüştürücü olacağı söyleniyor. Bu makalede ele alınan fikirler gerçekleşirse, üretkenlik kazanımları bundan çok daha büyük olabilir. ↩

21 Medya yüksek statülü psikopatları öne çıkarmayı sever, ancak ortalama bir psikopat muhtemelen zayıf ekonomik fırsatlara ve zayıf dürtü kontrolüne sahip bir bireydir ve hayatının önemli bir kısmını hapishanede geçirir. ↩

22 Bunun, muhtemelen tamamı değilse de, yorumlanabilirlikten öğrendiğimiz birçok sonucun hâlâ geçerli olacağını düşündüğüm gerçeğine kısmen benzer olduğunu düşünüyorum; hatta mevcut yapay sinir ağlarımızın, dikkat mekanizması gibi, bazı mimari detayları değiştirilse veya yerlerine başka şeyler konulsa bile. ↩

23 Bunun biraz klasik bir kaotik sisteme benzediğini düşünüyorum—büyük ölçüde merkezi olmayan bir şekilde yönetilmesi gereken indirgenemez bir karmaşıklığa sahip. Ancak bu bölümün ilerleyen kısımlarında söylediğim gibi, daha mütevazı müdahaleler mümkün olabilir. Buna karşı bir argüman, ekonomist Erik Brynjolfsson tarafından bana sunuldu: Walmart veya Uber gibi büyük şirketlerin, tüketicileri herhangi bir merkezi olmayan süreçten daha iyi anlayacak kadar merkezi bilgiye sahip olmaya başladığını ve belki de bu durumun, Hayek’in yerel bilgiyi kimin en iyi bildiği konusundaki içgörülerimizi gözden geçirmemize neden olabileceğini öne sürüyor. ↩

24 Bu noktayı önerdiği için Kevin Esvelt’e teşekkür ederim. ↩

25 Örneğin, cep telefonları başlangıçta yalnızca zenginler için bir teknoloji iken, hızla ucuzlayarak yıllık gelişmeler öyle hızlı gerçekleşti ki, “lüks” bir cep telefonu satın almanın avantajı ortadan kalktı ve bugün çoğu insan benzer kalitede telefonlara sahip. ↩

26 Bu, RAND tarafından yakında yayımlanacak ve burada kabaca tarif ettiğim stratejiyi ortaya koyan bir makalenin başlığıdır. ↩

27 Ortalama bir insan kamu kurumlarını düşündüğünde, muhtemelen DMV, IRS, Medicare veya benzeri hizmetlerde yaşadığı deneyimleri aklına getirir. Bu deneyimleri şu an olduklarından daha olumlu hâle getirmek, aşırı alaycılıkla mücadele etmek için güçlü bir yol gibi görünüyor. ↩

28 Gerçekten de, yapay zekâ destekli bir dünyada, böyle zorlukların ve projelerin kapsamı bugünkünden çok daha geniş olacaktır. ↩

29 Kendi kuralımı çiğneyerek bunu bilim kurguya bağlamıyorum, ancak en azından biraz bahsetmeden durmak zor oldu. Gerçek şu ki, bilim kurgu, geleceğe dair geniş kapsamlı düşünce deneylerimizin tek kaynaklarından biri ve bu alanın, belirli dar bir alt kültürle bu kadar iç içe geçmiş olmasının kötü bir şey olduğunu düşünüyorum. ↩