Her Zaman Ne Kadar Etik Olduğundan Bahseden Yapay Zeka Girişimi Anthropic, Şimdi Palantir ile Ortak Oldu

Güvenliği öncelemek buraya kadarmış.

Güvenlik Üçüncü Sırada

OpenAI gibi diğer yapay zeka firmalarına alternatif olarak kendini güvenliği önceleyen bir şirket olarak tanıtan, hatta bu firmalardan birçok yöneticiyi kendi bünyesine katan yapay zeka şirketi Anthropic, gizemli savunma müteahhidi Palantir ile ortaklık kurdu.

Yapay zeka şirketi ayrıca ABD istihbarat ve savunma kurumlarına AI sohbet robotu Claude’u sunmak için Amazon Web Services (AWS) ile de iş birliği yapıyor; bu ortaklık, Anthropic’in “güvenliği ön planda tutma” iddiasıyla çelişiyor gibi görünüyor.

Bir basın bültenine göre, ortaklık ABD askeri-endüstriyel kompleksini “karmaşık veri yığınlarını hızla işleyerek, veri odaklı içgörüleri yükselterek, desenleri ve eğilimleri daha etkili bir şekilde tanımlayarak, belge inceleme ve hazırlık sürecini hızlandırarak ve ABD yetkililerinin zaman açısından kritik durumlarda daha bilinçli kararlar almasına yardımcı olarak” destekliyor.

Durum, yapay zeka sohbet robotlarının hassas bilgileri sızdırmaya meyilli olmaları ve “halüsinasyon” olarak bilinen yanlış bilgiler üretmeleriyle tanınması göz önüne alındığında, özellikle garip bir hal alıyor.

“Palantir, Claude modellerini gizli ortamlara getiren ilk sektör ortağı olmaktan gurur duyuyor,” diye belirtti Palantir CTO’su Shyam Sankar bir açıklamasında.

Anthropic satış başkanı Kate Earle Jensen ise “Bu, istihbarat analizini önemli ölçüde geliştirecek ve yetkililerin karar alma süreçlerinde yardımcı olacak, kaynak yoğun görevleri hızlandıracak ve departmanlar arasında operasyonel verimliliği artıracak,” dedi.

Tam Erişim

Anthropic’in AI araçlarının “gizli etki veya sabotaj kampanyalarını tanımlamak” ya da “potansiyel askeri faaliyetlerin önceden uyarısını sağlamak” için kullanılmasına teknik olarak izin verdiği, son dönemde genişletilen hizmet şartlarına göre mümkün kılınıyor.

TechCrunch’ın belirttiğine göre, haziran ayından bu yana, hizmet şartları askeri ve istihbarat kullanımı için sözleşmesel istisnalar yapacak şekilde elverişli bir şekilde düzenlenmiş.

Son ortaklık, Claude’un Savunma Bakanlığı’nda “çok gizli” seviyenin bir altı olan ve ulusal güvenlik için kritik veriler içerebilecek IL6 (Palantir Etki Seviyesi 6) kapsamındaki bilgilere erişmesini sağlıyor.

Diğer bir deyişle, Anthropic ve Palantir, AI sohbet robotuna nükleer kodları vermemiş olabilir — fakat şimdi bazı kritik istihbarat bilgilerine erişimi olacak.

Bu durum aynı zamanda Anthropic’i etik olarak tartışmalı bir şirkete yakınlaştırıyor. Örneğin, Palantir bu yılın başlarında ABD Ordusu’ndan Maven Smart System adında AI destekli bir hedef tespit sistemi geliştirmek için 480 milyon dolarlık bir sözleşme aldı. Projenin genel çerçevesi olan Project Maven, teknoloji sektöründe daha önce oldukça tartışmalı bir geçmişe sahip.

Ancak, halüsinasyonlar üretebilen bir yapay zeka sohbet robotunun tüm bu yapıya nasıl uyacağı hâlâ belirsiz. Anthropic, 40 milyar dolarlık bir değerlemeye ulaşmak için yeterli fon toplama hazırlığında olduğu için yalnızca parayı mı takip ediyor?

Bu ortaklık, AI endüstrisinin ABD askeri-endüstriyel kompleksi ile artan bağlarını ortaya koyuyor. Teknolojinin birçok doğuştan gelen kusuru göz önüne alındığında ve işin içinde insan hayatı olduğunda, bu eğilim birçok alarm çanı çalmalı.

Bkz Sibernetik Derleme