🦋🤖 Robo-Spun by IBF 🦋🤖
5 Aralık 2024
Önde gelen bir yapay zeka girişiminin kurucu ortağı, özgür devletlerin otokrasilere karşı koymasına yardımcı olabilecek potansiyeli ve biyolojik karmaşıklığı keşfetmeyi değerlendiriyor.
Dario Amodei, dünyanın en ileri yapay zeka laboratuvarlarında çalıştı: Google, OpenAI ve şimdi de Anthropic’te. OpenAI’da Amodei, şirketin temel araştırma stratejisini yönetti ve 2021 yılına kadar beş yıl boyunca GPT model sınıfını geliştirdi — ChatGPT’nin piyasaya sürülmesinden bir yıl önce.
Teknolojinin geleceği konusunda yaşanan görüş ayrılıkları nedeniyle istifa ettikten sonra, bugün sektörde öncü chatbot Claude ile tanınan yapay zeka girişimi Anthropic’i kurdu.
Anthropic, bu yılın başlarında 18 milyar doların biraz üzerinde bir değerlemeye ulaştı ve geçen ay Amazon, girişime 4 milyar dolar daha yatırım yaparak toplam yatırımını 8 milyar dolara çıkardı — bu, Amazon’un bugüne kadar yaptığı en büyük girişim sermayesi taahhüdü. Amazon, Anthropic’in Claude modellerini yeni nesil Alexa hoparlörüne entegre etmek için çalışıyor.
Anthropic’i kız kardeşi Daniela ile birlikte kuran Amodei, biyofizik alanından yapay zekaya geçti ve AI yazılımının daha fazla veri ve hesaplama gücüyle dramatik şekilde iyileştiği bir olgu olan “ölçeklenme yasaları”nı gözlemlemesiyle tanınıyor.
FT’den Madhumita Murgia ile yaptığı bu söyleşide, yeni ürünlerden, sektördeki güç yoğunlaşmasından ve “antant” stratejisinin neden sorumlu yapay zeka inşa etmenin merkezinde olduğundan bahsediyor.
Madhumita Murgia: Söyleşiye, Zarafetengiz Makineler başlıklı makalenizle başlamak istiyorum. Bu yazınız, yapay zekanın topluma faydalı olabileceği yolları büyük bir ayrıntıyla ele alıyor. Bu artıları tam da şu anda bu kadar ayrıntılı bir şekilde anlatmayı neden seçtiniz?
Dario Amodei: Bir anlamda, bunun yeni olmaması gerekirdi çünkü yapay zekanın riskleri ile faydaları arasındaki bu ikilem son iki-üç yıldır dünyada kendini gösteriyor. Bu konudan benden daha fazla sıkılan kimse yoktur. Risk tarafında… spesifik olmaya çalıştım. Faydalar tarafında ise tamamen bir “tekno-iyimserlik” motivasyonu var, değil mi? Twitter’da “inşa et, inşa et, inşa et” diyen geliştiricilerin parıldayan şehirlerin resimlerini paylaştığını görüyorsunuz. Ama olumlu faydalar konusunda somutluk gerçekten eksik.
MM: İnsanlar faydalardan bahsederken birçok varsayım yapıyor. Sizce insanlar, bunun gerçekte nasıl görünebileceğinin hiç anlatılmamasından dolayı biraz sıkılmış olabilir mi?
DA: Evet, avantajlar ya çok belirsiz, duygusal terimlerle açıklanıyor ya da aşırı uçlara kayıyor. Tüm bu “tekillik” söylemi… “Hepimiz kendimizi buluta yükleyeceğiz ve sahip olduğunuz herhangi bir sorunu, elbette yapay zeka anında çözecek.” Bence bu çok aşırı ve derinlikten yoksun.
Gerçekten insanların yaşamak isteyeceği iyi bir dünyayı hayal edebilir miyiz? Ve tam olarak hangi şeyler daha iyi hale gelecek? Ve bunların etrafındaki zorluklar neler? Kanser ve Alzheimer gibi şeylere bakarsak, bunlarda sihirli bir şey yok. İnanılmaz derecede karmaşıklar, ancak yapay zeka tam da karmaşıklık konusunda uzman. Her şey bir anda olmayacak. Ama — adım adım — daha önce baş edemediğimiz bu karmaşıklığı çözeceğiz.
MM: Ele aldığınız alanları — biyoloji, sinirbilim, ekonomik kalkınma ve iş dünyası gibi — seçmenize sizi ne yönlendirdi?
“Kanser ve Alzheimer gibi şeylere bakarsak, bunlarda sihirli bir şey yok. İnanılmaz derecede karmaşıklar, ancak yapay zeka tam da karmaşıklık konusunda uzman.”
DA: İnsan hayatına en büyük etkiyi yaratabilecek alanlara baktım. Benim için bu, gerçekten biyoloji ve ekonomik kalkınmayı işaret ediyordu. Dünyanın büyük bir bölümünde, gelişmiş ülkelerde geliştirdiğimiz buluşlar henüz yayılmadı. Ben, insan hayatının ne kadar iyi olacağını belirleyen en büyük faktörlerden bazılarını doğrudan hedeflemek istedim.
MM: İdeal bir dünyada, 2025’te Anthropic’in zamanını neye harcamasını isterdiniz?
DA: İki şey: biri mekanistik yorumlanabilirlik — modellerin içine bakarak kara kutuyu açmak ve içinde ne olduğunu anlamak. Bence bu, şu anda yapay zeka araştırmalarındaki en heyecan verici alan ve muhtemelen toplumsal olarak en önemli olanı.
Ve ikincisi, yapay zekanın biyolojiye uygulanması olacaktır. Biyolojik bilimlerden yapay zekaya geçmemin bir nedeni, biyolojinin sorunlarına baktığımda bunların neredeyse insan ölçeğinin ötesinde, insan kavrayışının sınırlarını aşan şeyler gibi görünmesiydi — bunlar entelektüel olarak aşırı zor oldukları için değil, sadece çok fazla bilgi ve çok fazla karmaşıklık barındırdıkları için.
Benim umudum, bu alandaki bazı diğer kişiler gibi — bence Demis Hassabis de aynı şekilde motive oluyor — yapay zekayı bilimdeki ve özellikle biyolojideki sorunları çözmek için kullanarak insan yaşamını daha iyi hale getirmektir.
Anthropic, ilaç şirketleri ve biyoteknoloji girişimleriyle çalışıyor [ancak] bu işbirliği hâlâ çok fazla “Claude modellerini şu anda nasıl uygulayabiliriz?” seviyesinde. Umarım 2025’te, hem şirketlerle hem de araştırmacılar ve akademisyenlerle birlikte daha özgün, uzun vadeli, iddialı versiyon üzerinde gerçekten çalışmaya başlarız.
MM: Yapay zeka teknolojisinin sınırlarını ileriye taşımada önemli bir rol oynadınız. Son büyük modeliniz olan Sonnet 3.5’in çıkışının üzerinden beş ay geçti. İnsanlar bunu, önceki modellere kıyasla yeni şekillerde mi kullanıyor?
DA: Kodlama alanından bir örnek vereyim. Anthropic içindeki en yetenekli kişiler de dahil olmak üzere, çok güçlü kodlayıcı olan pek çok kullanıcının önceki modellerin kendilerine hiç fayda sağlamadığını söylediğini gördüm. Zor bir problem üzerinde çalışıyorlar, çok karmaşık ve teknik bir şey üzerinde, ve önceki modellerin aslında onlara zaman kazandırdığına hiç inanmadılar.
Bu, başka bir insanla çalışmaya benziyor: Eğer o kişi sizin sahip olduğunuz becerilere yeterince sahip değilse, onlarla iş birliği yapmak faydalı olmayabilir. Ama Sonnet 3.5’in, son derece yetenekli araştırmacılar, programcılar ve çalışanlar için modellerin ilk kez gerçekten yararlı hale geldiğini gördüğümde büyük bir değişim fark ettim.
Dikkat çekmek istediğim bir diğer şey de Artifacts: Claude’un tüketici tarafındaki bir aracı. [Bununla,] ileri geri geliştirme yapabilirsiniz. Modelle şu şekilde bir etkileşime girebilirsiniz: “Benim için şu şekilde görünen bir ana karakterin olduğu ve şu ortama sahip bir video oyunu yap.” Sonra model bunu yapar. [Ama] geri dönüp ona şöyle diyebilirsiniz: “Ana karakterimin doğru göründüğünü düşünmüyorum. Mario gibi görünüyor. Onun Luigi’ye daha çok benzemesini istiyorum.” Bu, sizin ve yapay zeka sisteminin ortak geliştirme sürecini gösteriyor.
MM: Bu, gelir akışlarına ya da sizi heyecanlandıran iş modellerine yol açtı mı? Bu yeni yeteneklere dayalı olarak ortaya çıkabileceğini düşündüğünüz yeni ürünler var mı?
DA: Evet. Bir tüketici ürünümüz olmasına rağmen, Anthropic’in iş modelinin büyük çoğunluğu, modelimizi diğer işletmelere bir API aracılığıyla sunarak, onların bu ürünleri geliştirmesine olanak sağlamaktan geldi. Yani, ekosistemdeki genel konumumuzun, diğer şirketlerin bu harika ürünleri inşa etmesini sağlamak olduğunu düşünüyorum ve inşa edilen pek çok şeyi gördük.
Örneğin, geçen ay geliştiriciler için “Bilgisayar Kullanımı” adlı bir yetenek yayınladık. Geliştiriciler bu yeteneğin üzerine inşa edebilir: modele “Bu restoranda benim için bir rezervasyon yap” ya da “Bu gün için bir seyahat planla” diyebilirsiniz ve model doğrudan bilgisayarınızı kullanır. Ekrana bakar. Fare ile belirli noktalara tıklar. Klavye kullanarak metin girer.
Bu fiziksel bir robot değil, ancak yazı yazabilir… bilgisayarınızı sizin için otomatikleştirebilir ve kontrol edebilir. Yayınladıktan birkaç gün sonra, insanlar bunun iPhone ekranını, Android ekranını, Linux ve Mac sistemlerini kontrol eden versiyonlarını çıkardı.
MM: Bunu bağımsız bir ürün olarak piyasaya sürmeyi düşünür müsünüz? Son zamanlarda her yerde konuşulan kelime “ajan”. Kendi versiyonunuzu geliştirebilirsiniz, değil mi?
DA: Evet, bunu doğrudan gerçekleştiren bir ürün yapabileceğimizi hayal edebiliyorum. Aslında, yapay zeka ajanlarıyla ilgili en büyük zorluğun, onların güvenli, güvenilir ve öngörülebilir olmalarını sağlamak olduğunu düşünüyorum. Bir sohbet botuyla konuştuğunuzda, mesela, yanlış bir şey söyleyebilir. Birini kırabilir. Birine yanlış bilgi verebilir. Elbette, bunları ciddiye almalıyız. Ancak, modellerin tam olarak istediğimiz şeyi yapmasını sağlamak, ajanlarla çalışmaya başladığımızda çok daha ön plana çıkan bir konu oluyor.
MM: Karşılaşılan bazı zorluklar neler?
DA: Bir düşünce deneyi olarak, elimde bu ajan olduğunu ve ona şunu söylediğimi hayal edin: “Benim için internette araştırma yap, bir hipotez oluştur ve sonra bir şeyler inşa etmek için malzemeler satın al ya da benim alım-satım stratejimi uygulayarak işlemler gerçekleştir.” Modellerin dünyada birkaç saat boyunca bir şeyler yapıyor olması, onların benim istemediğim şeyleri yapma olasılığını ortaya çıkarır.
Belki bilgisayarımın ayarlarını bir şekilde değiştiriyorlar. Belki bir başkasıyla konuşurken beni temsil ediyorlar ve asla onaylamayacağım bir şey söylüyorlar. Belki başka bir sunucu kümesinde bir eylem gerçekleştiriyorlar. Hatta belki de kötü niyetli bir şey yapıyorlar.
“Öngörülemezlik ve kontrolsüzlük dizginlenmeli. Ve bu konuda büyük ilerlemeler kaydettik.”
Bu yüzden, öngörülemezlik ve kontrolsüzlük dizginlenmeli. Ve bu konuda büyük ilerlemeler kaydettik. Bunu, sıradan sistemlerimizin güvenliğini sağlamak için kullandığımız aynı yöntemleri kullanarak yapıyoruz, ancak burada ihtiyaç duyduğumuz öngörülebilirlik seviyesi çok daha yüksek.
Bunun, bu teknolojinin önünü tıkayan şey olduğunu biliyorum. Sorun modelin yetenekleri değil. Mesele, böyle bir şeyi güvenle piyasaya sürebileceğimiz ve insanların güven duyabileceği bir sistem oluşturabileceğimiz noktaya gelmek.
Bu noktaya ulaştığımızda, bu sistemleri piyasaya süreceğiz.
MM: Evet, sözlü bilgi vermekten çıkıp doğrudan bir şeyleri sizin için yapmaya geçtiğinde, işin ciddiyeti çok daha fazla artıyor.
DA: Bilgisayarınızın iç işleyişine bir cin salıp rastgele şeyleri değiştirmesine izin vermek ister misiniz? Belki de o şeyleri neyin değiştirdiğini asla bilemezsiniz. Açık konuşmak gerekirse, tüm bu sorunların çözülebilir olduğunu düşünüyorum. Ama bunlar, bu tür sistemleri tasarlarken karşılaştığımız pratik zorluklar.
MM: Peki, bu ajanların yeterince öngörülebilir ve sıradan hale geldiği noktaya ne zaman ulaşacağımızı düşünüyorsunuz? Yani piyasaya sürülebilir hale gelmeleri için ne kadar süreye ihtiyacınız var?
DA: Bu, erken aşamada bir ürün. Güvenilirlik seviyesi o kadar da yüksek değil. Kritik görevler için ona güvenmeyin. 2025’e kadar bu konuda büyük ilerlemeler kaydedeceğimizi düşünüyorum. Dolayısıyla, 2025’te yaklaşık olarak bu işlevi yerine getiren ürünler olacağını öngörüyorum, ancak bu bir “ya var ya yok” meselesi değil. Yapay zeka sistemine tam olarak güvenemeyeceğiniz görevler her zaman olacak; çünkü ya yeterince akıllı değil, ya yeterince otonom değil ya da yeterince güvenilir değil.
Ben, yapay zekaya birkaç saat boyunca bir görev verebileceğiniz noktaya ulaşmak istiyorum — bir insan stajyere veya çalışana verebileceğiniz bir görev gibi. Ara sıra size geri dönüp açıklama ister ve sonra görevi tamamlar. Eğer sanal bir çalışanım olmasını istersem — birkaç saat boyunca araştırma yapmasını, bir rapor yazmasını söyleyebilirsem — bunu bir yönetim danışmanı ya da bir programcı gibi düşünebilirim. İnsanların, sistemin gerçekten söylediklerini yapacağına ve beklenmedik, garip bir şey yapmayacağına güvenmesi gerekir.
MM: Son zamanlarda, bu yeteneklerin bir tür durağanlığa ulaştığı ve mevcut tekniklerin sınırlarını görmeye başladığımız yönünde konuşmalar var. Bu, “ölçeklenme yasası” olarak bilinen kavramla ilgili. Bunun kanıtlarını görüyor musunuz ve modellerde zekayı ölçeklendirmenin alternatif yollarını araştırıyor musunuz?
DA: Bu alanda 10 yıldır çalışıyorum ve bu sürenin büyük bir bölümünde ölçeklenme yasalarını takip ettim. Gördüğümüz şeyin, aslında birçok yönden oldukça sıradan olduğunu ve alanın tarihinde birçok kez yaşandığını düşünüyorum. Ancak, alan artık daha büyük bir ekonomik etkiye sahip olduğu için, daha fazla insan dikkat kesilmiş durumda. Ve insanlar, oldukça belirsiz verileri fazlasıyla abartarak yorumluyor.
Geçmişe dönersek, ölçeklenme yasaları daha büyük bir model eğittiğinizde her zaman daha iyi sonuç alacağınızı söylemez. Ölçeklenme yasaları şunu söyler: Eğer modelleri, model boyutunu veri miktarıyla orantılı şekilde büyüterek ölçeklendirirseniz, mühendislik süreçlerinin tümü eğitim aşamasında iyi çalışırsa ve veri kalitesi sabit kalırsa, modeller ölçeklendikçe sürekli daha iyi hale gelmeye devam eder.
MM: Ve bu, sizin de belirttiğiniz gibi, matematiksel bir sabit değil, değil mi?
DA: Bu, gözlemlenen bir olgu ve şimdiye kadar gördüğüm hiçbir şey bu olguya karşı herhangi bir kanıt sunmuyor. Son birkaç yılda gözlemlediğimiz örüntüyü çürütecek hiçbir şey görmedik.
Gördüğüm şey şu: İlk etapta bir şey doğru şekilde ölçeklendirilmediğinde, sanki her şey durağanlaşmış gibi görünebiliyor. Bu, geçmişte dört-beş farklı kez yaşandı.
MM: Peki, şu anda mevcut modellerinizin eğitim süreçlerine baktığınızda herhangi bir sınırlama görüyor musunuz?
DA: Sentetik veri hakkında defalarca konuştum. Doğal veri azaldıkça, sentetik verinin miktarını artırmaya başlıyoruz. Örneğin, AlphaGo Zero [Google DeepMind’in Go oynayan yazılımının bir versiyonu] sentetik verilerle eğitildi. Bunun yanı sıra, modele kendini değerlendirmeyi öğrettiğiniz akıl yürütme yöntemleri de var. Yani veri duvarını aşmanın çeşitli yolları bulunuyor.
MM: Ölçeklendirme hakkında konuştuğumuzda, en büyük gereksinim maliyet oluyor. Maliyetler hızla artıyor gibi görünüyor. Maliyetler bu kadar yükselirken Anthropic gibi bir şirket nasıl ayakta kalabilir? Önümüzdeki yıl veya daha uzun vadede bu para nereden gelecek?
DA: İnsanlar, bu teknolojinin değerini ve potansiyelini anlamaya devam ediyor. Bu yüzden, bizi ve diğerlerini finanse eden büyük oyuncuların yanı sıra yatırım ekosisteminin de bunu destekleyeceğinden oldukça eminim.
Ayrıca gelir de çok hızlı büyüyor. Bence bu işin matematiği tutuyor. Model maliyetleri açısından konuşursak, 10 milyar dolar seviyesinin Anthropic tarafından karşılanabilir bir şey olduğuna oldukça güveniyorum.
Karlılık açısından, birçok kişinin yanıldığı bir nokta var. İnsanlar genellikle şuna bakıyor: belirli bir yılda ne kadar harcandı ve ne kadar gelir elde edildi. Ama aslında belirli bir modeli incelemek daha aydınlatıcı olur.
Varsayımsal bir şirket ele alalım. Diyelim ki 2023’te bir model eğittiniz. Modelin maliyeti 100 milyon dolar. Sonra 2024’te bu model 300 milyon dolar gelir sağlıyor. Ardından 2024’te, bir sonraki modeli eğitiyorsunuz ve bu modelin maliyeti 1 milyar dolar. Bu model henüz tamamlanmamış ya da 2024’ün sonuna doğru piyasaya sürülüyor. O halde, doğal olarak, bu model 2025’e kadar gelir getirmeye başlamıyor.
Eğer “şirket 2024’te kârlı mıydı?” diye sorarsanız, 300 milyon dolar kazandınız ama 1 milyar dolar harcadınız, yani kârlı görünmüyor. Ama “her model kendi başına kârlı mıydı?” diye sorarsanız, 2023 modeli 100 milyon dolara mal oldu ve birkaç yüz milyon dolar gelir getirdi. Yani 2023 modeli kârlı bir yatırım oldu.
Bu rakamlar Anthropic’e ait değil. Ancak burada anlatmak istediğim şu: modellerin maliyeti artıyor, ama her modelin sağladığı gelir de artıyor ve modellerin eğitildikten çok sonra piyasaya sürülmesi nedeniyle zamanlama açısından bir uyumsuzluk var.
MM: Sizce Anthropic gibi bir şirket, bir hiperbüyük ölçekleyici [Amazon veya Google gibi] olmadan bunu yapabilir mi? Ve onların güç yoğunlaşması konusunda endişe duyuyor musunuz? Çünkü büyük dil modelleri geliştiren girişimler, aslında onların finansmanı ve altyapısı olmadan çalışamaz.
DA: Hiperbüyük ölçekleyicilerle yapılan anlaşmaların her iki taraf için de çok mantıklı olduğunu düşünüyorum, çünkü yatırım, geleceği bugüne taşımak için bir yol. Bu parayla esas olarak satın almamız gereken şey çipler. Hem şirket hem de hiperbüyük ölçekleyici, ürünleri bulut sistemlerinde kullanacak ve bu bulutlar da yine hiperbüyük ölçekleyiciler tarafından işletiliyor. Yani bu, ekonomik açıdan mantıklı.
“Hiperbüyük ölçekleyicilerin etkisi konusunda kesinlikle endişeliyim, ancak anlaşmalarımızı yaparken çok dikkatliyiz.”
Anthropic için önemli olan şeylerden biri, sorumlu ölçeklendirme politikamız. Temel olarak, modellerin yetenekleri belirli bir seviyeye ulaştığında, bu yetenekleri ölçmeniz ve eğer kullanılacaklarsa gerekli güvenlik önlemlerini uygulamanız gerektiğini belirten bir politika bu.
Şimdiye kadar hiperbüyük ölçekleyicilerle yaptığımız her anlaşmada, onların teknolojimizi kullanırken bizim ölçeklendirme politikamızın kurallarına uymasını zorunlu hale getirdik. Modeli hangi platforma yerleştirdiğimizin hiçbir önemi yok. Sorumlu ölçeklendirme politikamızın gerektirdiği testlerden ve izleme süreçlerinden geçmeleri gerekiyor.
Bir diğer önemli konu da uzun vadeli fayda vakfımız. Bu vakıf, nihayetinde Anthropic üzerinde denetim yetkisine sahip. Anthropic’in yönetim kurulundaki birçok üyeyi atama yetkisi var. Öte yandan, hiperbüyük ölçekleyiciler Anthropic’in yönetim kurulunda temsil edilmiyor. Yani şirket üzerindeki nihai kontrol, finansal çıkarları olmayan ve nihai otoriteye sahip olan uzun vadeli fayda vakfının elinde kalıyor.
MM: Sizce günümüzde büyük dil modelleri geliştiren bir şirket, Amazon, Google veya Microsoft gibi devlerin desteği olmadan ürettiği ürünler ve bunların insanlar üzerindeki etkisi açısından gücünü elinde tutmaya devam edebilir mi?
DA: Bence bunu yapmak, şirket üzerindeki kontrolü korurken ekonomik olarak mümkün. Ve aynı zamanda değerlerinizi koruyarak. Bunu yapmak için büyük miktarda kaynağın bir yerden gelmesi gerekiyor. Bu, bir hiperbüyük ölçekleyiciden gelebilir. Teorik olarak girişim sermayesi sisteminden gelebilir. Hatta bir hükümetten bile gelebilir.
İyi ya da kötü, bazı durumlarda Elon Musk gibi bireylerin büyük özel servetlerini kullanarak bunu yaptığını gördük. Bence bu çok büyük temel modelleri inşa etmek için gerçekten büyük bir sermaye kaynağı gerekiyor, ancak birçok farklı olası sermaye kaynağı mevcut. Ve bunu, kendi değerlerinize sadık kalarak yapmanın mümkün olduğunu düşünüyorum.
MM: Yakın zamanda ABD Savunma Bakanlığı ile bir anlaşma imzaladınız. Bu, kısmen bir finansman kararı mıydı?
DA: Hayır, kesinlikle bir finansman kararı değildi. Devletlerle çalışmak ve tedarik aşamasına gelmek mi? Bir şirket kuran herkes size, eğer hızlı bir şekilde gelir elde etmek istiyorsanız, bunun en kötü yollarından biri olduğunu söyleyecektir.
Biz bunu aslında, değerlerimizle uyumlu olduğu için yapıyoruz. Bence demokrasilerin bu teknolojide liderliği koruması ve otokrasiler tarafından baskı altına alınmamalarını veya yönlendirilmemelerini sağlamak için gerekli kaynaklara sahip olmaları son derece önemli.
“ABD bu teknolojinin geliştirilmesinde diğer ülkelerin önünde olabilir, ancak Çin veya Rusya gibi rakiplerimiz ellerindeki teknolojiyi kendi hükümetlerine entegre etme konusunda daha başarılı olabilir.”
Endişelerimden biri şu: ABD ve müttefikleri bu teknolojinin temel geliştirilmesinde diğer ülkelerin önünde olabilir, ancak Çin veya Rusya gibi rakiplerimiz ellerindeki teknolojiyi kendi hükümetlerine entegre etme konusunda daha iyi olabilir. Eğer bu sadece gelir meselesi olsaydı, bunu yapmazdım. Bu, aslında inandığım bir şey… ve misyonumuzun merkezinde yer alıyor.
MM: Demokrasilerin bir araya gelerek yapay zeka geliştirdiği bir “antant stratejisi”nden bahsettiniz. Bir yapay zeka şirketi olarak bu değerleri askeri ekosistemin bir parçası olarak ileriye taşımakta rol oynamak sizin sorumluluğunuz mu?
DA: Evet, bence öyle. Ama bunu dikkatli bir şekilde yapmak önemli. Yapay zekaların askeri ve istihbarat ortamlarında rastgele, hiçbir kısıtlama olmadan kullanıldığı bir dünya istemem. Bu teknolojinin diğer tüm alanlardaki kullanımları gibi — belki de daha fazla — nasıl konuşlandırılacağı konusunda katı kurallar olmalı.
Bizim her zaman benimsediğimiz bakış açısı, dogmatik bir şekilde bir şeyin tamamen karşısında ya da tamamen yanında olmamak. Yapay zekanın savunma ve istihbarat alanlarında asla kullanılmaması gerektiği fikri bana mantıklı gelmiyor. Aynı şekilde, tamamen kontrolsüz bir şekilde kullanıp her şeyi — kıyamet silahları da dahil olmak üzere — üretmek de açıkça çılgınca bir fikir. Biz orta yolu bulmaya ve işleri sorumlu bir şekilde yapmaya çalışıyoruz.
MM: Yapay genel zeka veya süper zeki yapay zeka konusuna baktığımızda, bu sistemleri nasıl hayal ediyorsunuz? Yeni atılımlar yapmak için yeni fikirlere mi ihtiyacımız var, yoksa bu süreç aşamalı olarak mı ilerleyecek?
DA: Bence yenilik, bu endüstriyel ölçeklenmeyle birlikte var olmaya devam edecek. Çok güçlü yapay zekaya ulaşmada tek bir dönüm noktası olduğunu düşünmüyorum. Zamanla giderek daha yetenekli sistemler elde edeceğiz. Bence şu anda temel olarak doğru yoldayız ve büyük olasılıkla bu noktaya sadece birkaç yıl uzaklıktayız. Ve evet, süreç kesintisiz olacak, ancak hızlı ilerleyecek.
Geri bildirim: Muhaberat Evirileri — özel sayfa | 🦋🤖 YERSİZ ŞEYLER