Sam Altman, botların sosyal medyayı ‘sahte’ hissettirdiğini söylüyor

X meraklısı ve Reddit hissedarı Sam Altman, pazartesi günü bir aydınlanma yaşadı: Botların, sosyal medya gönderilerinin gerçekten insanlar tarafından yazılıp yazılmadığını belirlemeyi imkânsız hâle getirdiğini yazdı.

Bu fark ediş, r/Claudecode subreddit’inde OpenAI Codex’i öven bazı gönderileri okurken (ve paylaşırken) geldi. OpenAI, Anthropic’in Claude Code’una rakip olan yazılım programlama hizmetini Mayıs ayında başlattı.

Son zamanlarda, söz konusu subreddit, kendilerini Code kullanıcısı olarak tanıtan ve Codex’e geçtiklerini duyuran gönderilerle öyle doldu ki, bir Reddit kullanıcısı hatta şöyle şaka yaptı: ‘Reddit’te bir konu açmadan codex’e geçmek mümkün mü?’

Bu durum, Altman’ı bu gönderilerin kaç tanesinin gerçek insanlardan geldiğini sorgulamaya itti. X’te şu itirafta bulundu: ‘Bunu okurken en tuhaf deneyimi yaşadım: Hepsinin sahte/bot olduğunu varsayıyorum; oysa bu durumda codex’in büyümesinin gerçekten çok güçlü olduğunu ve buradaki trendin gerçek olduğunu biliyorum.’

Ardından akıl yürütmesini canlı canlı analiz etti: ‘Bence bir sürü şey aynı anda oluyor: gerçek insanlar LLM-speak’in tuhaflıklarını benimsedi, Extremely Online kitle çok yüksek korelasyonlarla birlikte sürükleniyor, hype döngüsü çok ‘it’s so over/we’re so back’ türünden bir uçluluktan geçiyor, sosyal platformların etkileşimi şişirmeye dönük optimizasyon baskısı ve buna bağlı olarak yaratıcıların para kazanma biçimi etkili oluyor, diğer şirketler bizi astroturf etti, bu yüzden buna ekstra hassasım ve daha bir sürü şey (muhtemelen biraz bot dâhil).’

Bunu biraz çözümlersek: İnsanların, LLM’ler gibi konuşmaya başladığını söylüyor; oysa LLM’ler — OpenAI’nin öncülüğünde — insan iletişimini, em dash’e varıncaya kadar taklit etmek üzere kelimenin tam anlamıyla icat edildi. Üstelik OpenAI’nin modelleri kesinlikle Reddit üzerinde eğitildi; Altman 2022’ye kadar Reddit’te yönetim kurulu üyesiydi ve geçen yılki halka arzında büyük hissedar olduğu açıklanmıştı.

Aşırı, sürekli çevrimiçi kullanıcıların sürüklediği fandomların tuhaf davranma eğilimine işaret etmesi yerinde. Pek çok grup, hayal kırıklıklarını kendi yandaşlarına boşaltanların istilasıyla nefret şölenlerine dönüşebiliyor.

Altman, sosyal medya siteleri ve içerik üreticilerinin para kazanmak için etkileşime bağımlı olmasının yarattığı teşviklere de dokunduruyor. Haklı sayılır.

Ama sonra Altman, bu subreddit’teki OpenAI yanlısı gönderilerin bot olabileceğini düşünme nedenlerinden birinin, OpenAI’nin de ‘astroturfed’ edilmiş olması olduğunu itiraf ediyor. Bu genellikle rakip tarafından — ya doğrudan ya da üçüncü derece bir yüklenici aracılığıyla — ücretlendirilen kişilerin veya botların, rakibe makul inkâr payı sağlayacak şekilde gönderiler yapmasını içerir.

Astroturfing’e dair elimizde kanıt yok (her ne kadar mümkün olsa da). Ancak OpenAI subreddit’lerinin, şirket GPT 5.0’ı yayımladıktan sonra ona nasıl sırt çevirdiğini gördük. Yeni model için sadıklardan dalga dalga övgüler gelmesi yerine, çok sayıda öfkeli gönderi yukarıya oylandı. İnsanlar, GPT’nin kişiliğinden tutun da görevleri bitirmeden kredileri tüketmesine kadar her şey hakkında şikâyet etmek için Reddit’e ve X’e koştu.

Sorunlu lansmandan bir gün sonra, Altman r/GPT’de bir Reddit ask-me-anything oturumu yaptı; burada dağıtım sorunlarını kabul edip değişiklikler vaat etti. GPT subreddit’i, kullanıcıların GPT 5.0’daki değişikliklerden ne kadar hoşlanmadıklarına dair gönderileri hâlâ düzenli olarak paylaşmayı sürdürmesiyle, eski sevgi seviyesine tam olarak dönmedi. Bunlar insan mı? Yoksa Altman’ın ima ettiği gibi bir tür sahte mi?

Altman şu sonuca varıyor: ‘Net etki şu ki, AI Twitter/AI Reddit bir yıl ya da iki yıl önce gerçekten olmadığı bir şekilde çok sahte hissettiriyor.’

Eğer bu doğruysa, kimin suçu? GPT, modellerin yazı yazmada o kadar iyi hâle gelmesine yol açtı ki, LLM’ler sadece sosyal medya siteleri için (ki bunların zaten hep bir bot sorunu vardı) değil, okullar, gazetecilik ve mahkemeler için de bir belâya dönüştü.

Kaç Reddit gönderisinin botlar tarafından yazıldığını ya da LLM kullanan insanlarca uydurma anlatılar olduğunu bilmiyoruz; ancak muhtemelen kayda değer bir sayıdan bahsediyoruz. Veri güvenliği şirketi Imperva, 2024’te tüm internet trafiğinin yarıdan fazlasının insan dışı olduğunu ve bunun büyük ölçüde LLM’lerden kaynaklandığını bildirdi. X’in kendi botu Grok şöyle diyor: ‘Kesin sayılar kamuya açık değil, ancak 2024 tahminleri X üzerinde yüz milyonlarca bot olduğunu gösteriyor.’

Bazı kuşkucular, Altman’ın yakınmasını, OpenAI’nin söylenti düzeyindeki sosyal medya platformunu pazarlamaya ilk girişimi olarak yorumladı. Nisan ayında, Verge, X ve Facebook’a rakip olacak böyle bir projenin en erken aşamalarında olduğunu bildirdi. Bu ürün var da olabilir, olmayabilir de. Altman, sosyal medyanın bugünlerde fazla sahte olduğunu öne sürerken art niyetli de olabilir, olmayabilir.

Ama saikleri bir kenara bırakırsak, OpenAI bir sosyal ağ planlıyorsa, bunun botlardan arınmış bir alan olma ihtimali nedir? Ve işin komik yanı, tersini yapıp insanları yasaklasaydı da sonuç muhtemelen farklı olmazdı. LLM’ler hâlâ olguları halüsinasyonla uydurmakla kalmıyor; Amsterdam Üniversitesi’nden araştırmacılar tamamen botlardan oluşan bir sosyal ağ kurduklarında, botların kısa sürede kendi içlerinde klikler ve yankı odaları oluşturduklarını da gördüler.