OpenAI Tüzüğü

Tüzüğümüz, OpenAI’nin misyonunu yerine getirirken kullandığımız ilkeleri tanımlar.

Bu belge, OpenAI içerisinde ve dışarısında birçok kişiden gelen geri bildirimlerle son iki yılda geliştirdiğimiz stratejiyi yansıtmaktadır. Yapay Genel Zekâ’ya (AGI) ulaşma zaman çizelgesi belirsizliğini korusa da, bu Tüzük, geliştirme sürecinde insanlığın en yüksek çıkarları doğrultusunda hareket etmemiz için bize rehberlik edecektir.

OpenAI’nin misyonu, yapay genel zekânın (AGI)—ki burada, ekonomik açıdan en değerli işlerde insanlardan üstün performans gösteren yüksek derecede özerk sistemleri kastediyoruz—tüm insanlığa fayda sağlamasını sağlamaktır. Güvenli ve faydalı AGI’ı doğrudan geliştirmeye çalışacağız, ancak çalışmalarımız başkalarının bu sonuca ulaşmasına yardımcı olursa, misyonumuzu tamamlanmış kabul edeceğiz. Bu amaç doğrultusunda şu ilkelere bağlı kalmayı taahhüt ediyoruz:

Geniş ölçekte dağıtılmış faydalar
AGI’nin uygulanmasında elde edeceğimiz herhangi bir etkiyi, onun tüm insanlığın yararına kullanılmasını sağlamak ve yapay zekânın veya AGI’ın insanlığa zarar veren ya da gücü aşırı derecede tekelleştiren kullanım biçimlerini engellemek için kullanmayı taahhüt ediyoruz.

Birincil yükümlülüğümüz insanlık içindir. Misyonumuzu yerine getirmek için önemli miktarda kaynağı seferber etmemiz gerekebileceğini öngörüyoruz, ancak çalışanlarımız ve paydaşlarımız arasında geniş faydayı tehlikeye atabilecek çıkar çatışmalarını en aza indirmek için her zaman özenle hareket edeceğiz.

Uzun vadeli güvenlik
AGI’yi güvenli kılmak için gereken araştırmaları yapmaya ve bu tür araştırmaların yapay zekâ topluluğu genelinde geniş çapta benimsenmesini sağlamaya kararlıyız.

AGI’ın gelişiminde son aşamaların, yeterli güvenlik önlemleri için zaman bırakmayan bir rekabete dönüşmesi konusunda endişeliyiz. Bu nedenle, eğer değerlerimizle uyumlu ve güvenliğe öncelik veren bir proje bizden önce AGI’ı geliştirmeye yaklaşırsa, bu projeyle rekabet etmeyi bırakıp ona destek olmayı taahhüt ediyoruz. Ayrıntılar, duruma özel anlaşmalarla belirlenecektir, ancak tipik bir tetikleyici koşul, “önümüzdeki iki yıl içinde başarı olasılığının yüzde 50’den fazla olması” gibi bir durum olabilir.

Teknik liderlik
AGI’ın toplum üzerindeki etkisini ele alma konusunda etkili olmak için OpenAI, yapay zekâ yeteneklerinin ön saflarında olmalıdır—yalnızca politika ve güvenlik savunuculuğu yetersiz kalır.

Yapay zekânın AGI’dan önce de geniş toplumsal etkisi olacağına inanıyoruz ve misyonumuz ve uzmanlık alanlarımızla doğrudan uyumlu olan bu alanlarda liderlik etmeye çalışacağız.

İş birliğine dayalı yaklaşım
Diğer araştırma ve politika kurumlarıyla aktif olarak iş birliği yapacağız; AGI’ın küresel zorluklarını ele almak için birlikte çalışan bir küresel topluluk oluşturmayı hedefliyoruz.

Toplumun AGI’a giden yolu anlamasına yardımcı olacak kamusal araçlar sağlamayı taahhüt ediyoruz. Bugün bu, yapay zekâ araştırmalarımızın çoğunu yayımlamayı içeriyor; ancak güvenlik ve güvenilirlik endişelerinin gelecekte geleneksel yayıncılık oranımızı azaltmasını, buna karşın güvenlik, politika ve standartlar araştırmalarını paylaşmanın önemini artırmasını bekliyoruz.

Bkz Sibernetik Derleme