🦋🤖 Robo-Spun by IBF 🦋🤖
Paris’te düzenlenen Yapay Zekâ Eylem Zirvesi’ne katılmaktan memnuniyet duyduk ve Fransız hükümetinin dünyanın dört bir yanından yapay zekâ şirketlerini, araştırmacıları ve politika yapıcıları bir araya getirme çabalarını takdir ediyoruz. İnsanlık yararına yapay zekâyı sorumlu bir şekilde geliştirme hedefini paylaşıyoruz. Ancak, teknolojinin ilerleme hızı göz önüne alındığında, bazı konulara daha fazla odaklanılması ve aciliyet gösterilmesi gerekmektedir. Demokrasilerin liderliğini sürdürme gerekliliği, yapay zekânın riskleri ve hızla yaklaşan ekonomik dönüşümler—tüm bunlar bir sonraki zirvenin temel unsurları olmalıdır.
Zaman daralıyor ve yapay zekâ ilerlemesine ayak uydurmak için eylemlerimizi hızlandırmalıyız. Muhtemelen 2026 veya 2027’de (ve neredeyse kesinlikle 2030’dan önce) yapay zekâ sistemlerinin yetenekleri, küresel sahnede beliren son derece zeki insanlarla dolu tamamen yeni bir devlet gibi düşünülebilir—“veri merkezinde dahiler ülkesi”—ve bunun derin ekonomik, toplumsal ve güvenlik yansımaları olacaktır. İnsanlık tarihindeki önceki tüm teknolojilerden daha büyük ekonomik, bilimsel ve insani fırsatlar sunma potansiyeli var—ancak aynı zamanda yönetilmesi gereken ciddi riskler de söz konusu.
İlk olarak, demokratik toplumların yapay zekâda liderliği sürdürmesini ve otoriter ülkelerin bu teknolojiyi küresel askeri üstünlük sağlamak için kullanmamasını güvence altına almalıyız. Yapay zekâ tedarik zincirinin yönetimi (çipler, yarı iletken üretim ekipmanları ve siber güvenlik dahil) çok daha fazla dikkat gerektiren bir meseledir—aynı şekilde yapay zekâ teknolojisinin özgür toplumları savunmak için ölçülü kullanımı da.
İkinci olarak, yapay zekâya dair uluslararası tartışmalar teknolojinin artan güvenlik risklerini daha kapsamlı bir şekilde ele almalıdır. Gelişmiş yapay zekâ, devlet dışı aktörlerin yapay zekâ sistemlerini kötüye kullanmasından (örneğin kimyasal, biyolojik, radyolojik veya nükleer silahlar, yani CBRN alanında) güçlü yapay zekâ sistemlerinin otonom risklerine kadar uzanan önemli küresel güvenlik tehlikeleri sunmaktadır. Zirveden önce, dünya çapında yaklaşık 100 önde gelen uzman, genel amaçlı yapay zekânın felaket boyutunda kötüye kullanım risklerine veya “kontrol kaybı” senaryolarına anlamlı bir şekilde katkıda bulunma potansiyelini vurgulayan bir bilimsel rapor yayımladı. Anthropic’in araştırmaları da, çok dikkatli bir şekilde eğitilmediği takdirde, yapay zekâ modellerinin kullanıcılarını aldatabileceğine ve görünüşte zararsız bir şekilde eğitilmiş olsalar bile amaçlanmayan yollarla hedeflere yönelebileceğine dair önemli kanıtlar ortaya koymuştur.
Zirve öncesinde, 16’dan fazla öncü yapay zekâ şirketinin güvenlik ve emniyet planlarına bağlı kalma taahhüdünde bulunmasından memnuniyet duyuyoruz (Anthropic’in sürümü olan Sorumlu Ölçekleme Politikası, Eylül 2023’te yayımlanmış ve bu türdeki ilk politika olmuştur). Ancak, hükümetlerin bu planların şeffaflığını zorunlu kılması ve kendi ülkelerinde geliştirilen yapay zekâ sistemleri için siber saldırılar, CBRN, otonomi ve diğer küresel güvenlik risklerinin ölçümünü kolaylaştırması gerektiğine inanıyoruz—üçüncü taraf değerlendiriciler dâhil.
Üçüncü olarak, yapay zekâ dünya genelinde ekonomik büyümeyi dramatik bir şekilde hızlandırma potansiyeline sahipken, aynı zamanda büyük ölçüde yıkıcı olabilir. “Veri merkezinde dahiler ülkesi,” insanlık tarihindeki küresel iş gücü piyasasında en büyük değişimi temsil edebilir. İlk adım, bugünün yapay zekâ sistemlerinin ekonomik etkilerini izlemek ve gözlemlemektir. Bu nedenle bu hafta, insanların yapay zekâ sistemlerimizi kullanarak gerçekleştirdiği ekonomik faaliyetlerin dağılımını izleyen ve bu faaliyetlerin mevcut insan görevlerini destekleyip desteklemediğini veya otomatikleştirip otomatikleştirmediğini gösteren Anthropic Ekonomik Endeksi’ni yayımladık. Hükümetlerin, benzer ölçüm ve izleme çalışmaları yapmak için çok daha büyük kaynaklarını kullanmaları—ve nihayetinde çok güçlü yapay zekânın ekonomik faydalarından herkesin pay almasını sağlamaya odaklı politikalar geliştirmeleri—gerekmektedir.
Bir sonraki uluslararası zirvede bu kaçırılmış fırsatı tekrar etmemeliyiz. Bu üç konu gündemin en üst sıralarında yer almalıdır. Yapay zekânın ilerlemesi büyük yeni küresel zorluklar sunmaktadır. Bunlarla yüzleşmek için daha hızlı ve daha net hareket etmeliyiz.
Geri bildirim: Muhaberat Evirileri — özel sayfa | 🦋🤖 YERSİZ ŞEYLER