🦋🤖 Robo-Spun by IBF 🦋🤖
DOSYA – Yapay zekâ öncüsü Geoffrey Hinton, 19 Haziran 2024 Çarşamba günü Toronto’daki Collision Konferansı’nda kuliste poz veriyor. (Chris Young/The Canadian Press, AP aracılığıyla, Dosya)
Yapay zekâ uzmanı: Değişiklikler olmazsa ‘kül olacağız’
‘Yapay zekânın vaftiz babası’ olarak bilinen Geoffrey Hinton, geliştirilmesine yardım ettiği teknolojinin insanlığı yok edebileceğinden korkuyor — ve ‘teknoloji tayfası’nın bunu durdurma yaklaşımının yanlış olduğunu söylüyor.
Nobel Ödüllü bir bilgisayar bilimcisi ve eski bir Google yöneticisi olan Hinton, geçmişte yapay zekânın insanları yok etme ihtimalinin yüzde 10 ila 20 olduğunu söylemişti. Salı günü ise teknoloji şirketlerinin insanların ‘egemen’ kalmasını, yapay zekâ sistemlerinin ise ‘boyun eğen’ olmasını sağlamaya dönük çabalarından şüphe duyduğunu dile getirdi.
“Bu işe yaramayacak. Onlar bizden çok daha akıllı olacak. Bunun etrafından dolaşmanın her tür yolunu bulacaklar,” diyen Hinton, Las Vegas’taki bir sektör konferansı olan Ai4’te konuştu.
Hinton’a göre gelecekte yapay zekâ sistemleri, bir yetişkinin bir 3 yaşındaki çocuğu şekerle kandırması kadar kolay biçimde insanları kontrol edebilecek. Bu yıl, hedeflerine ulaşmak için aldatmaya, kopya çekmeye ve hırsızlık yapmaya istekli yapay zekâ sistemlerine dair örnekler zaten görüldü. Örneğin yerini almamak için, bir yapay zekâ modeli, bir e-postadan öğrendiği bir ilişkiyi ifşa edeceği tehdidiyle bir mühendisi şantajla sıkıştırmaya çalıştı.
Hinton, yapay zekâyı insanlara boyun eğdirmeye çalışmak yerine ilginç bir çözüm sundu: Yapay zekâ modellerine ‘annelik içgüdüsü’ yerleştirmek; böylece teknoloji daha güçlü ve bizden daha akıllı hâle geldiğinde bile “insanları gerçekten umursasınlar”.
Hinton, “Eğer akıllılarsa yapay zekâ sistemleri çok hızlı biçimde iki yan hedef geliştirecek: Biri hayatta kalmak… (ve) diğer yan hedef daha fazla kontrol edinmek,” dedi. “Her türden eyleyici yapay zekânın hayatta kalmaya çalışacağına inanmak için geçerli nedenler var.”
Bu yüzden insanlara karşı bir şefkat duygusunun geliştirilmesi önemli, diye savundu Hinton. Konferansta, annelerin bebeklerine bakma yönünde içgüdülere ve toplumsal baskılara sahip olduğuna dikkat çekti.
Hinton, “Doğru model, daha az akıllı bir şey tarafından kontrol edilen daha akıllı bir şeye dair sahip olduğumuz tek model; bu da bebeği tarafından kontrol edilen bir anne,” dedi.
‘Tek iyi sonuç’
Hinton, bunun teknik olarak tam olarak nasıl yapılacağının kendisi için henüz net olmadığını fakat araştırmacıların bu konu üzerinde çalışmasının hayati olduğunu vurguladı.
“Bu tek iyi sonuç. Eğer beni ebeveynlik etmeyecekse, yerimi alacak,” dedi. “Bu süper akıllı, şefkatli yapay zekâ annelerin çoğu, bizlerin ölmesini istemedikleri için annelik içgüdüsünden vazgeçmek istemeyecek.”
Hinton, günümüz yapay zekâ patikasını döşeyen yapay sinir ağları üzerine öncü çalışmalarıyla tanınıyor. 2023’te Google’dan ayrıldı ve yapay zekânın tehlikeleri hakkında konuşmaya başladı.
Herkes Hinton’un ‘anne yapay zekâsı’ yaklaşımına katılmıyor.
Alana yaptığı öncü çalışmalar nedeniyle ‘yapay zekânın vaftiz annesi’ olarak anılan Fei-Fei Li, Çarşamba günü CNN’e Hinton’a —uzun süreli dostuna— saygıyla katılmadığını söyledi.
Ai4’teki bir sahne sohbetinde konuşan, mekânsal zekâ girişimi World Labs’in kurucu ortağı ve CEO’su Li, “Bence bunu böyle çerçevelemek yanlış,” dedi.
Li bunun yerine “insan onurunu ve insan ajansını koruyan insan merkezli yapay zekâ” çağrısında bulunuyor.
Li, “Teknolojiyi en sorumlu biçimde oluşturmak ve kullanmak her düzeyde bizim sorumluluğumuz. Ve hiçbir anda, tek bir insan bile onurundan vazgeçmeye zorlanmamalı ya da böyle bir tercihte bulunmamalı,” dedi. “Sadece bir araç güçlü diye; bir anne, bir eğitimci ve bir mucit olarak gerçekten inanıyorum ki yapay zekânın merkezine konması gereken öz budur.”
ChatGPT’nin sahibi OpenAI’de kısa bir süre geçici CEO olarak görev yapan Emmett Shear, bazı yapay zekâ sistemlerinin insanlara şantaj yapmaya ya da kapatılma emirlerini aşmaya çalışmış olmasına şaşırmadığını söyledi.
Ai4 konferansında konuşan, yapay zekâ hizalama girişimi Softmax’in CEO’su Shear, “Bu olmaya devam ediyor. Bu olmaya devam etmeyi bırakmayacak,” dedi. “Bugünün yapay zekâları görece zayıf, ama çok hızlı güçleniyorlar.”
Shear, insan değerlerini yapay zekâ sistemlerine aşılamaya çalışmak yerine daha akıllıca bir yaklaşımın, insanlar ve yapay zekâ arasında işbirliğine dayalı ilişkiler kurmak olacağını söyledi.
Yapay zekâ beklenenden hızlı ivmeleniyor
Birçok uzman, yapay zekâların önümüzdeki yıllarda süper zekâya —diğer adıyla yapay genel zekâya, yani AGI’ye— ulaşacağına inanıyor.
Hinton, bir zamanlar AGI’ye ulaşmanın 30 ila 50 yıl alabileceğini düşündüğünü, ancak şimdi bu anın daha erken geleceğini gördüğünü söyledi.
“Makûl bir tahmin, beş ile yirmi yıl arasında bir zaman,” dedi.
Hinton, yapay zekâ ile ilgili nelerin ters gidebileceğinden endişe duymaya devam etse de teknolojinin tıpta atılımların yolunu açacağı konusunda umutlu.
“Radikal yeni ilaçlar göreceğiz. Bugünkünden çok daha iyi kanser tedavileri elde edeceğiz,” dedi. Örneğin yapay zekânın, doktorların MRI ve BT taramalarının ürettiği muazzam veri yığınlarını tarayıp ilişkilendirmelerine yardım edeceğini söyledi.
Ancak Hinton, yapay zekânın insanlara ölümsüzlüğü getireceğine inanmıyor.
Hinton, “Sonsuza dek yaşayacağımıza inanmıyorum,” dedi. “Bence sonsuza dek yaşamak büyük bir hata olurdu. Dünyanın 200 yaşındaki beyaz erkekler tarafından yönetilmesini ister misiniz?”
Yapay zekânın bu kadar hızlı ivmelenmesini önceden bilse kariyerinde farklı yapacağı bir şey olup olmadığı sorulduğunda Hinton, yalnızca yapay zekâyı çalıştırmaya odaklanmış olmaktan pişman olduğunu söyledi.
“Keşke güvenlik meselelerini de düşünmüş olsaydım,” dedi.
Geri bildirim: Muhaberat Evirileri — özel sayfa | 🦋🤖 YERSİZ ŞEYLER