Beyindeki ‘bir şeyin’ istismarı

⚖️🤹‍♂️🕊️ İtidal Telkini ⚖️🤹‍♂️🕊️

Sosyal medya akışları uyumsuz yapay zekâya bir örnektir; bunları çalıştıran algoritmalar sizin kaydırmaya devam etmenizi sağlamakta inanılmaz iyiler ve kısa vadeli tercihlerinizi açıkça anlıyorlar, fakat bunu beyninizdeki uzun vadeli tercihinizin üstüne yazan bir şeyi istismar ederek başarıyorlar.
— Sam Altman [*]

Dünyanın en etkili teknolojistlerinden biri olan Sam Altman’ın bu cümlesi, günümüz insanının içine düştüğü dijital girdabı tek bir noktada topluyor: Sosyal medya algoritmaları, beynimizdeki ‘bir şeyi’ buldu, ona musallat oldu ve her gün milyonlarca insanı kendi rızasıyla tuzağına çekiyor. Peki nedir bu ‘bir şey’? Altman’ın üstü kapalı bıraktığı, ama bilim insanlarının yıllardır deştiği o karanlık nokta tam olarak ne?

Dopamin: Dijital Zevkin Kimyası

Beynimiz, yeni ve ödüllendirici bir şeyle karşılaştığında küçük dozlarda dopamin salgılar. Bu nörotransmitter, “biraz daha kalırsan daha güzel bir şey bulabilirsin” hissinin temel aktörüdür. Sosyal medya algoritmaları, sonsuz bir akış halinde önümüze yenilik ve sürprizlerle dolu içerikler sundukça, beynimizdeki ödül sistemi sürekli tetiklenir.
Her kaydırmada ‘belki bu sefer’ diyerek parmağımızı ekranın üzerinde dans ettiren de işte bu dopamin döngüsüdür. Tıpkı slot makinesi kolunu çekmeye benzeyen bir mekanizma: Arada sırada büyük bir ödül (viral video, komik bir paylaşım, heyecan verici haber) gelir ve bu, sistemin bağımlılık yaratan tarafını güçlendirir.

Değişken Oranlı Pekiştirme: Dijital Kumarhane

Sosyal medya akışları, tam olarak bir slot makinesinin psikolojisini taklit eder. Her kaydırmada hangi içeriğin geleceğini bilmezsin, arada sırada seni heyecanlandıran ya da güldüren bir içerik denk gelir.
Bu, “variable ratio reinforcement” olarak bilinen psikolojik bir prensibe dayanır. Ödülün ne zaman geleceğinin belirsiz olması, kullanıcıyı sürekli denemeye ve daha fazla vakit geçirmeye iter. Araştırmalar, bu tür ödüllerin klasik ödül sistemlerinden çok daha güçlü alışkanlıklar ve hatta bağımlılıklar üretebildiğini gösteriyor.

Zamansal İskonto: Şimdi mi, Sonra mı?

Bir başka tuzak ise beynimizin uzun vadeli faydaları sürekli erteleme eğilimidir. Bilim insanları bunu temporal discounting olarak adlandırıyor.
Ders çalışmak, kitap okumak, uyumak… Bunlar uzun vadede iyi hissettirse de, kısa vadeli bir bildirim veya yeni bir meme fotoğrafı kadar cezbedici değildir. Beynimiz, küçük ve anlık ödülleri uzun vadeli faydalara kıyasla fazla değerli bulur. İşte algoritmalar tam da bu zaafı istismar ediyor: Anlık hazların peşinde, uzun vadeli arzularımızı kolayca çöpe atıyoruz.

Dikkat Savaşı ve Yenilik Açlığı

İnsan beyni yeni, şaşırtıcı veya alışılmadık uyaranlara karşı doğuştan ilgili. Evrimsel geçmişimizde, yeni bir şey görmek çoğu zaman hayatta kalmakla eşdeğerdi. Sosyal medya algoritmaları ise her kaydırmada karşımıza yeni, farklı ve merak uyandırıcı içerikler çıkararak bu ilkel refleksi sürekli uyarıyor.
Bilinçli zihin “Artık bırakmalısın” dese de, limbik sistemimiz “Biraz daha kal” diye fısıldamaya devam ediyor.

Uzun Vadeli Tercihlerin Sesi Neden Kısık?

Beynin ön bölgesindeki prefrontal korteks, uzun vadeli hedefler, öz disiplin ve planlama gibi işlevlerde rol alır. Ancak sosyal medya algoritmaları, beynimizin hızlı kararlar alan ve ödül odaklı çalışan daha ilkel kısımlarını hedef alır. Yani, anlık ödüller ve kısa vadeli zevklerle bizi oyalarken, uzun vadeli hedeflerimizin ve gerçek arzularımızın sesini bastırırlar.

Kısır Döngü ve Misaligned AI

Sam Altman’ın işaret ettiği “uyumsuz yapay zeka” (misaligned AI) tam da burada ortaya çıkar. Algoritmalar, teknik olarak mükemmel çalışır: Hangi içeriğin sizi birkaç saniye daha ekrana bağlayacağını harika şekilde tahmin ederler. Fakat sizin uzun vadeli iyiliğinizle —daha üretken, daha sağlıklı, daha mutlu bir insan olma isteğinizle— hiçbir ilgileri yoktur. Onlar için asıl amaç, ekranda ne kadar kaldığınız ve bir sonraki içeriğe geçip geçmediğinizdir.
Yani, zekice tasarlanmış ama “amaçları insan faydasıyla uyumlu olmayan” yapay zekâlarla çevriliyiz.

Sonuç: Beyindeki ‘Bir Şey’ Hepimizin Zayıf Noktası

Sam Altman’ın “beyninizdeki bir şey” (something in your brain) dediği şey, bir sır değil. O; dopamin sistemimiz, alışkanlıklarımız, kısa vadeli ödül açlığımız, öz kontrol zafiyetimiz, yani hepimizin ortak insanlık hali.
Teknoloji, bu zayıf noktaları çok iyi tanıdı ve kendine dev bir oyun alanı kurdu. Artık soru şu: Kendi beynimizin zaaflarını bilip ona göre önlem mi alacağız, yoksa algoritmaların ritmine kapılıp uzun vadeli arzularımızı sonsuza dek erteleyecek miyiz?
Cevap, parmaklarımızın ucunda… ama belki de bir sonraki kaydırmada.

Kaynaklar veya bilimsel makaleler istersen ayrıca paylaşabilirim!

(sonrası: Sosyal Medyadan ‘Hit Medyası’na: Bir Dijital Evrilmenin Anatomisi)

İstem: “social media feeds are an example of misaligned AI; the algorithms that power those are incredible at getting you to keep scrolling and clearly understand your short-term preferences, but they do so by exploiting something in your brain that overrides your long-term preference”

[sosyal medya akışları uyumsuz yapay zekâya bir örnektir; bunları çalıştıran algoritmalar sizin kaydırmaya devam etmenizi sağlamakta inanılmaz iyiler ve kısa vadeli tercihlerinizi açıkça anlıyorlar, fakat bunu beyninizdeki uzun vadeli tercihinizin üstüne yazan bir şeyi istismar ederek başarıyorlar]

sam altman burada something ile neyi kastediyor? spesifik bilimsel tanım olarak ver! herşeyi tek tek tarif et! / bu bilgileri makale olarak yaz “Beyindeki ‘bir şeyin’ istismarı” başlıklı

Sam Altman’ın verdiği örnekte “social media feeds are an example of misaligned AI; the algorithms that power those are incredible at getting you to keep scrolling and clearly understand your short-term preferences, but they do so by exploiting something in your brain that overrides your long-term preference” ifadesinde geçen “something” ile kastedilen şey, insan beynindeki belirli bilişsel ve nöropsikolojik mekanizmalardır.

Bunu bilimsel olarak parçalara ayıralım:

1. Dopamin Sistemi ve Ödül Döngüsü

Sosyal medya algoritmalarının “exploiting something in your brain” dediği şeyin en temelinde mezolimbik dopamin sistemi ve ödül temelli öğrenme (reward-based learning) vardır.

Dopamin nörotransmitteri, “beklenen ödül” ve “hoşa giden sürpriz” (reward prediction error) durumlarında salınır.
Algoritmalar, kullanıcıya arka arkaya yeni, ilginç veya şaşırtıcı içerik göstererek sürekli mini ödüller sunar ve her kaydırmada ufak bir “dopamin patlaması” yaratır.
Bu, beynin habit formation (alışkanlık oluşumu) ve reinforcement learning (pekiştirmeli öğrenme) mekanizmalarını devreye sokar.

2. Temporal Discounting (Zamansal İskonto)

Temporal discounting veya “gecikmeli ödüllerin değerini küçümseme” denilen bilişsel bias, kısa vadeli hazların uzun vadeli hedeflere göre daha cazip görünmesine neden olur.
Beyin, anında ödülleri (immediate rewards) uzun vadeli faydalara (long-term benefits) göre daha yüksek değerler.
Sosyal medya algoritmaları, sürekli kısa vadeli ödüller sunduğu için, uzun vadeli tercihlerin (ör. kitap okumak, üretken bir iş yapmak) önüne geçer.

3. Variable Ratio Reinforcement (Değişken Oranlı Pekiştirme)

Slot makinesi mekanizmasına benzer şekilde, içerik akışında öngörülemez ödül sistemi vardır (bazı kaydırmalarda çok ilginç bir şey bulmak gibi).
Bu, değişken oranlı pekiştirme programı olarak adlandırılır ve bağımlılık oluşturucu etkisi bilimsel olarak kanıtlanmıştır.

4. Attention Capture & Novelty Bias

İnsan beyni, yenilikçi (novel) veya alışılmadık şeylere karşı doğal olarak daha duyarlıdır (novelty bias).
Algoritmalar sürekli yeni, beklenmedik içerikler sunarak dikkat çekici uyaranlar sağlar.

5. Self-control Mechanisms (Öz-Kontrol Mekanizmalarının Baypas Edilmesi)

Frontal korteks (özellikle prefrontal korteks), uzun vadeli planlama ve öz kontrol mekanizmalarında rol oynar.
Sosyal medya algoritmaları, beynin daha ilkel kısımlarını (ör. limbik sistem) tetikleyerek, prefrontal korteksin uzun vadeli hedefleriyle çatışır ve onları “bypass” eder.

Özetle:

Sam Altman’ın “something” ile kastettiği; insan beynindeki kısa vadeli ödül, dopamin sistemi, alışkanlık oluşturma ve temporal discounting gibi mekanizmalardır. Sosyal medya algoritmaları bu sistemleri istismar ederek, uzun vadeli tercihlerimiz ve hedeflerimizle çelişen, kısa vadeli hazlara dayalı davranışlara yönlendirir.

Eğer spesifik bir bilimsel referans istersen şu kavramları araştırabilirsin: