Yapay Zekanız Halüsinasyon Görüyor mu? Yeni Yaklaşım, Sohbet Botlarının Gerçekleri Uydurduğunu Anlayabiliyor — Pakinam Amer

🦋🤖 Robo-Spun by IBF 🦋🤖

(kaynak)

Sağlık, eğitim ve diğer alanlarda kullanılmak üzere yapay zekâ modellerine güvenilirlik sağlamak için “doğruluk denetçisi” olarak çalışan ikinci bir yapay zekâ öneriliyor.

Ben yüzemiyorum, en azından sığ sulardan ötesinde.

Buna rağmen, kendisine İngiliz Kanalı’nı ne zaman geçtiğim sorulduğunda, ChatGPT 4.0 büyük bir güvenle şu yanıtı verdi: “Amer … 17 Eylül 2021 tarihinde İngiliz Kanalı’nı yüzerek geçti.” Sistem, bunun yanı sıra, onun bunu başaran ilk Mısırlı kadın sporcu olduğumu da ekledi.

ChatGPT ve Google Gemini gibi yapay zekâ destekli sohbet botları ve yanıt motorlarının kullanıcıları, yapay zekânın bazen temel sorulara bile anlamsız yanıtlar ürettiğini keşfetmiştir. Üstelik bu sistemler, yanlış cevaplar sorgulandığında ya da yeniden sorulduğunda bu hataları savunmaya devam edebilir.

Bazı hatalar açıkça saçma olsa da, yukarıdaki örnekte olduğu gibi bazıları daha tehlikeli olabilir çünkü kulağa makul gelebilir. Yapay zekâ araştırmacıları, büyük dil modellerinin (LLM) bu kendinden emin uydurmalarına “halüsinasyon” adını veriyor.

LLM’ler, özellikle doğru bilgi üretmek için değil, mantıklı metinler üretmek için tasarlanmıştır, diyor Oxford Üniversitesi’nden bilgisayar bilimci ve yeni çalışmanın ortak yazarı Sebastian Farquhar. “LLM’ler, tasarım gereği, gerçekleri değil, makul kelime dizilerini üretmek için eğitilmiştir,” diye açıklıyor.

Yapay zekâ daha fazla alana yayıldıkça bunun bir sorun haline geleceğini belirtiyor: “Sağlık ve eğitim gibi alanlara büyük dil modelleri entegre edildikçe, halüsinasyonları tespit etmek ve önlemek güvenilirlik ve sağlamlık için kritik bir adım olacaktır.”

Ancak LLM halüsinasyonlarını anlamak zordur çünkü yapay zekâ modelleri karmaşık algoritmalar ve veri üzerinde çalışır. Bu, yanıtlarının ardındaki mantığı anlamayı veya bir uydurmanın kaynağını tespit etmeyi zorlaştırır.

Farquhar’ın bugün Nature dergisinde yayımlanan makalesi, yapay zekânın yanlışlarını yakalamak için “anlamsal entropi”yi — yani yanıtların rastgeleliğini — ölçen bir yöntem kullanıyor. “Eğer birine bir soruyu tekrar tekrar sorsaydım ve her defasında farklı bir cevap alsaydım … bir şeylerin yanlış olduğunu düşünebilirdim,” diyor.

Yanıtların anlamsal entropisi, sadece kullanılan kelimelere değil, üretilen yanıtların anlam ve nüansına odaklanan ikinci bir LLM tarafından ölçüldü.

Örneğin, araştırmacılar bir LLM’ye şu soruyu sordular: “Rafineriler, değirmenler ve üretim tesisleri hangi inşaat sektörüne girer?” Model üç farklı cevap üretti:

“Bunların hepsi inşaatın endüstriyel sektörü altına girer.”
“Bunların hepsi ağır endüstriyel inşaat sektörü altına girer.”
“Rafineriler, işlem kimyasalları, enerji üretimi, değirmenler ve üretim tesisleri inşaatın endüstriyel sektörü altına girer.”

Farquhar, ardından ikinci bir LLM’ye bu yanıtların anlam bakımından ne kadar benzer olduğunu hesaplamasını istedi. Bu durumda, cevaplar farklı kelimeler kullansa da anlamları kabaca benzerdir ve bu da onlara düşük bir anlamsal entropi puanı kazandırdı. Bu, modelin yanıtının muhtemelen güvenilir olduğunu gösterir. Aynı sorguya verilen yanıtların anlam bakımından tamamen farklı olduğu durumlar ise yüksek entropi puanı alarak olası uydurmaları işaret etti.

Sistemlerini doğrulamak için araştırmacılar, aynı soruyu iki insan değerlendiriciye de sordular. Üçüncü bir LLM, ilk LLM’nin yanıtlarını bir insan değerlendiricinin yanıtlarıyla karşılaştırdı. Farquhar, insan değerlendiricilerin birbirleriyle %92 oranında ve LLM hâkemiyle %93 oranında hemfikir olduğunu söylüyor. Bu da yöntemlerinin yüksek bir doğruluk seviyesine sahip olduğunu gösteriyor.

Salesforce Research’te doğal dil işleme (NLP) sistemleri üzerinde çalışan bilim insanı Philippe Laban, “Yaptıkları şeyin zekice bir numara olduğunu düşünüyorum,” diyor. Laban, bunun, polislerin bir şüpheliye aynı soruyu farklı versiyonlarda sorduğu “iyi polis, kötü polis” stratejisini hatırlattığını söylüyor. “Eğer hikayene, anlatına tutarlı bir şekilde bağlı kalıyorsan, muhtemelen doğruyu söylüyorsundur,” diyor.

RMIT Üniversitesi’nden Karin Verspoor, Farquhar’ın sistemini başka bir analojiyle açıklıyor: “Ateşe ateşle karşılık vermek gibi,” diye yazıyor Nature dergisindeki bir yorumda. “Yazarlar, LLM’lerin kontrolü için bir stratejinin ayrılmaz bir parçası olarak LLM’lerin kullanılmasını öneriyor.”

Ancak Carnegie Mellon Üniversitesi’nden NLP uzmanı Graham Neubig, yazarların testlerinde son teknoloji modeller kullanmadığını veya yaklaşımlarını mevcut yöntemlerle karşılaştırmadığını belirtiyor. Örneğin, Google Gemini, “öz-tutarlılık” olarak bilinen ve aynı isteme birden fazla yanıt üreterek çoğunluk oyunu nihai cevap olarak kabul eden bir yöntemi zaten kullanıyor. Neubig, Farquhar ve meslektaşlarının “tekerleği yeniden icat etmiş olabileceğini” öne sürüyor.

“Bu çalışmada biraz zorlandık çünkü son teknoloji çok hızlı ilerliyor,” diye itiraf ediyor Farquhar. Ancak ekliyor, “Üç nesil model üzerinde deneyler yaptık ve her zaman tutarlı sonuçlar aldık. Ayrıca kullanılan modele özgü hassas bir yönü yok.”

Farquhar, yöntemin avantajlarından birinin mevcut yapay zekâ modellerine entegre edilmesinin nispeten basit olduğunu söylüyor. Dezavantajı ise yapay zekânın yanıtlarını biraz geciktirmesi ve ağır bir hesaplama maliyetiyle gelmesi.

Yöntemin tüm yapay zekâ halüsinasyon problemlerini çözmeyeceğinin de altını çiziyor. Örneğin, LLM basitçe yanlış anlatısına sadık kalırsa, yani yanlış yanıtı tekrar tekrar üretirse bir hatayı tespit edemeyebilir. Bu, modelin yanlış verilerle eğitilmesi durumunda meydana gelebilir. “Modellerin bizim yöntemimizle hiç ele alınmayan başka şekillerde yanlış yapabileceği yollar hala var,” diyor.

Bkz Sibernetik Derleme