ChatGPT imdada mı koşuyor? — H. Holden Thorp

(kaynak, yankı koridorları!)

Yıllardır, özellikle pandemi döneminden bu yana, bu sayfa ve Science’ın yanı sıra başka birçok platform, bilimsel yanlış bilgilerin yayılması üzerine yakınmalarla ve bunu önlemenin yollarını aramakla dolup taşıyor. Yüksek hızlı bilgi paylaşımı ve sosyal medya fenomenlerinin dur durak bilmeyen aktiviteleri bu zor sorunu daha da kötüleştirdi. Örneğin, COVID-19 aşısına yönelik tehlikeli şüphecilik, diğer aşılarla ilgili daha geniş çaplı bir tereddüdü körüklemeye devam ediyor ve bu da halk sağlığı için felaket boyutunda sonuçlar doğuruyor. Bilimsel yanlış bilgiyi azaltmaya yönelik çözümler ise ne yazık ki zor bulunuyor. Ancak, bu hafta Science dergisinde yayımlanan yeni bir çalışma, yapay zekânın (YZ), yanlış bilgileri etkisiz hale getirmek ve bunu uzun vadede sürdürebilmek için bir araç olabileceğini öne sürüyor.

Bilimle ilgili yanlış bilgilere dayalı inançları düzeltmeye yönelik olası çözümlerin çoğu, yıllardır tartışılan fikirlerden oluşuyor. Her bilim insanını bir iletişimci yapmak, akademinin her yanını saran bir mantra hâline gelmiş durumda. Ancak her bilim insanı, bilim dışı bireylerle etkili bir şekilde iletişim kurmak istemiyor veya bu konuda yetenekli değil. Ortaöğretim öncesi eğitimi, bilimsel gerçekler ve formüllere daha az, bilimsel düşünme sürecine daha fazla odaklanacak şekilde geliştirmek kesinlikle değerli olacaktır. Ancak bu, yapılabilse bile uzun bir zaman alacaktır. Çeşitli topluluklara özgü yanlış anlamaların, bu toplulukların bilimsel kurumlara yönelik haklı güvensizliklerinden kaynaklandığı göz önünde bulundurulduğunda, bilimsel bilgiyi belirli topluluklara bağlayabilecek çeşitli bilim elçileri bulmak da yararlı olabilir.

Bu yaklaşımların uygulanması sürekli olarak zor olmuştur ve sosyal medya, podcast’ler, 24 saat yayın yapan haber kanalları ve çevrimiçi tartışma forumlarının yayımladığı saçmalık seliyle baş edememektedir. Ancak yeni çalışma, ChatGPT gibi büyük bir dil modeli (LLM, bir tür makine öğrenimi programı) kullanmanın, komplo teorisi inançlarını azaltmak için bir yöntem olabileceğini bildirmektedir. Bu biraz ironik görünebilir çünkü LLM’ler, gerçekleri “uydurma” (halüsinasyon) ve yanlış bilgi yayma konusundaki kötü şöhretleriyle tanınır. Ancak komplo teorilerine inanan bireylerle yapılan konuşmalarda, bir LLM’in komplo teorisi inançlarında nispeten büyük ve kalıcı bir azalma sağladığı bulunmuştur. Komplo inançları ortalama %20 oranında azalmış ve bu etkinin en az 2 ay boyunca sürdüğü gözlemlenmiştir.

Bu başarının, LLM’in geniş bilgiye erişimine atfedildiği belirtiliyor. Bu nedenle, bireyin düşünme biçimine özel karşı kanıtlar üretmesi oldukça kolaydır. Çalışmanın yazarlarından David Rand, makale kabul edildikten sonra bana şunları söyledi: “Sahip olduğumuz tüm kanıtlar, işi yapanın gerçekten karşıt argümanlar ve komplo teorisi dışı açıklamalar olduğunu gösteriyor.” Acaba bunun, LLM’in duygusal bir tepki vermemesi ya da bir insan muhatapta algılanabilecek türden önyargılar göstermemesiyle bir ilgisi olup olmadığını merak ettim. Ancak şu ana kadar araştırmacılar bununla ilgili güçlü bir kanıt görmemişler.

Bu sonuçlar, bilimsel yanlış bilgilere yönelik inançları azaltmaya yönelik çabaların, mesajı kimin verdiğine ve mesajın nasıl iletildiğine aşırı önem verdiğini, oysa daha önemli olanın büyük miktarda karşı kanıta erişim olduğunu göstermektedir. Rand bana, “Gerçekten empatik ve ilişki kurmaya yönelik olmak” gerekmediğini, ancak açıkça kaba davranmanın zarar verici olabileceğini düşündüğünü söyledi. Ayrı bir araştırmada, Rand ve diğerleri, iletişim tarzının çevrimiçi yanlış bilgilerin düzeltilmesi üzerinde “minimal bir etkisi” olduğunu bulmuşlardır.

Komplo teorilerinin neden çoğaldığı ve kamuoyunun bilim insanlarına olan güveninin neden yüksek kaldığı kafa karıştırıcıdır. Belki de bilim insanlarına olan güçlü güven ve dolayısıyla onların ürettikleri bilgilere duyulan güven, komplo teorilerine karşı kanıtların, LLM tarafından verimli ve yüksek hacimde sunulduğunda bu kadar etkili olmasını sağlamaktadır. Yanlış bilgi yayıcıları bazen “Gish gallop” adı verilen bir teknik kullanır. Bu teknik, yaratılışçılar arasında bu yöntemi ustalıkla kullanan biri olan Gish’ten adını alır ve bir konuşmanın ezici sayıda yanlış bilgiyle doldurulmasını içerir. İnsanlar, yanıt verme biçimleri ne kadar yetenekli olursa olsun, buna etkili bir şekilde karşılık veremez. Ancak LLM bunaltılamaz; karşı kanıtları süresiz olarak sıralayabilir.

Bir makinenin yanlış bilgilere karşı bir insandan daha etkili olmasının biraz moral bozucu olması muhtemeldir. Ancak nihayetinde bilimsel bilgilerin ikna gücünü taşıyor olması bir rahatlama kaynağıdır. İnsan bilim insanlarına düşen görev, yapay zekâ geleceğinin o kadar da distopik olmayabileceğini göstermektir.

Bkz Sibernetik Derleme