OpenAI E-posta Arşivleri (Musk v. Altman Davasından)

Elon Musk ve Sam Altman arasında görülen dava kapsamında, Elon Musk, Sam Altman, Ilya Sutskever ve Greg Brockman arasında geçen önemli miktarda e-posta mahkeme sürecinde yayınlandı.

Bu e-postaları okumak benim için çok değerliydi ve hepsini okunabilir bir formatta bir araya getiren bir çevrimiçi kaynak bulamadım. Bu yüzden kendim oluşturdum.

Bu arşivleri oluştururken yapay zeka yardımı aldım, bu da bazı hatalara neden olmuş olabilir. Alıntı yapmadan önce orijinal kaynağı kontrol etmenizi öneririm: CourtListener.

Sam Altman’dan Elon Musk’a – 25 Mayıs 2015

İnsanlığın yapay zeka geliştirmesini durdurmasının mümkün olup olmadığı üzerine çok düşündüm. Cevabın neredeyse kesinlikle “hayır” olduğunu düşünüyorum.

Eğer bu zaten gerçekleşecekse, bunu Google dışında birinin yapmasının iyi olabileceği sonucuna vardım.

Sence YC’nin (Y Combinator) yapay zeka için bir Manhattan Projesi başlatması iyi bir fikir olur mu? İlk 50 kişiden çoğunu bu projeye çekebileceğimizi düşünüyorum ve bunu bir tür kar amacı gütmeyen organizasyon olarak yapılandırabiliriz. Bu şekilde teknoloji dünya genelinde fayda sağlar ama üzerinde çalışanlar başarılı olursa girişim benzeri bir ödeme alır. Tabii ki, tüm düzenlemelere uyar ve bunları aktif şekilde destekleriz.

Ne düşünüyorsun?

Sam

Elon Musk’tan Sam Altman’a – 25 Mayıs 2015

Bu kesinlikle konuşmaya değer bir konu.

Sam Altman’dan Elon Musk’a – 24 Haziran 2015

Görevi, bireylerin güçlenmesini sağlayacak ilk genel yapay zekayı oluşturmak olarak belirleyebiliriz—geleceğin en güvenli yolu bu gibi görünüyor.

Daha genel bir ifadeyle, güvenlik birinci sınıf bir gereklilik olmalı.

İlk olarak 7-10 kişilik bir ekiple başlamayı ve buradan genişlemeyi planlıyoruz. Mountain View’de boş bir binamız var, bu ekip orayı kullanabilir.

Yönetim yapısı için 5 kişiyle başlamayı öneriyorum ve bu kişiler şu şekilde olabilir: Sen, Bill Gates, Pierre Omidyar, Dustin Moskovitz ve ben. Teknoloji vakıf tarafından sahiplenilir ve “dünya yararına” kullanılır. Nerede uygulanması gerektiği belirsiz olduğunda, bu 5 kişi karar verir. Araştırmacılar finansal açıdan büyük kazançlar sağlayabilir ancak bu, geliştirdikleri şeyle doğrudan bağlantılı olmayacak. Bu, bazı çatışmaları ortadan kaldırır. (Onlara rekabetçi bir maaş öder ve YC hissesi veririz.)

Yapılacak işlerin hangilerinin açık kaynaklı olması gerektiği konusunu tartışacağız. Bir noktada ekibi yönetecek birini bulmamız gerekecek ama bu kişi yönetim kurulunda olmamalı.

Sen bu işte sadece yönetimle mi ilgilenirsin yoksa başka bir şekilde dahil olur musun? Eğer düzenli olarak ekiple görüşüp ilerleme hakkında konuşursan bu çok faydalı olur. Seni “yarı zamanlı ortak” olarak adlandırabiliriz, mesela Peter Thiel’e yaptığımız gibi. Kamuoyunda bu projeyi desteklesen bile, bu bile bizim için çok yararlı olur.

Elon Musk’tan Sam Altman’a – 24 Haziran 2015

Hepsine katılıyorum.

Greg Brockman’dan Elon Musk’a (cc: Sam Altman) – 22 Kasım 2015

Merhaba Elon,

Bugün telefonda konuşmak güzeldi.

Telefon görüşmesinde bahsettiğim gibi, işte blog yazısının en son taslağı: Quip Linki. (Sam, Ilya ve ben yeni isimler üzerinde düşünüyoruz; senden de fikir almak isteriz.)

Tabii ki değiştirilmesi gereken birçok başka detay var, ancak bu tür bir mesajlama hakkında ne düşündüğünü merak ediyorum. Açık konuşmak istiyorum ve eğer doğru hissedilirse daha güçlü bir mesaj vermekten de rahat hissediyorum. Bence mesajlarımızın özellikle araştırma topluluğuna (veya işe almak istediğimiz alt kümesine) hitap etmesi önemli. Alana nötr bir grup olarak girmek, geniş çaplı işbirliği arayarak ve diyaloğu insanlığın kazanması üzerine kaydırmak hedefimiz. (Bunun kendimizi lider bir araştırma kurumu haline getirmek için en iyi yol olduğunu düşünüyorum.)

Ek olarak, kullandığımız iş teklif mektubu şablonunu ve $175k maaşı ekledim. İnsanlara gönderdiğim e-posta şablonu şu şekilde:

Ek’te resmi YC Research teklif mektubunuz bulunmaktadır! Lütfen uygun olduğunuzda imzalayıp tarih atınız. İki ek belge daha gelecek:

Danışmanlık için bulunduğunuz YC dönemi başına %0.25 teklif eden ayrı bir mektup.
İstihdam, Gizli Bilgiler, Buluş Ataması ve Tahkim Anlaşması.

(Bu ilk resmi tekliflerimiz olduğu için süreçte bazı pürüzler olabilir; herhangi bir şey garip görünüyorsa lütfen bana bildirin!)

Planladığımız yan haklar şunlardır:

Sağlık, diş ve görme sigortası.
Yıllık dört hafta önerisiyle sınırsız tatil günleri.
Ücretli ebeveyn izni.
YC AI çalışmalarıyla ilgili bir konferansta sunum yapmanız veya YC AI tarafından katılmanız istenirse ücretli konferans katılımı.
Vize desteği sunmaya da hazırız. Vizeyle ilgili soruları konuşmaya hazır olduğunuzda, sizi YC’den Kirsty ile tanıştırmaktan memnuniyet duyarım.

Herhangi bir sorunuz varsa bana bildirin — her zaman konuşmaya açığım! Birlikte çalışmayı dört gözle bekliyorum :).

– gdb

Elon Musk’tan Sam Altman’a – 8 Aralık 2015

Açılış özet bölümünün doğru olması çok önemli. Herkesin okuyacağı ve basının büyük ölçüde alıntı yapacağı kısım bu olacak. Bu yayının tüm amacı en iyi yetenekleri çekmek. Greg’in bunu tamamen anladığından emin değilim.

— OpenAI, tüm insanlığa en çok fayda sağlayacak şekilde dijital zekayı ilerletmeyi hedefleyen, finansal getiriler üretme zorunluluğu olmayan bir kâr amacı gütmeyen yapay zeka araştırma şirketidir.

Şirketimizin temel felsefesi, dijital zekanın gücünün aşırı şekilde yoğunlaşmaması ve insanlığın toplam arzularına göre evrilmesini sağlamak için AI teknolojisini mümkün olduğunca geniş şekilde yaymaktır.

Bu girişimin sonucu belirsizdir ve diğerlerinin sunacaklarına kıyasla ödeme düşüktür, ancak hedefin ve yapının doğru olduğuna inanıyoruz. Bu durumun alandaki en iyiler için önemli olmasını umuyoruz.

Sam Altman’dan Elon Musk’a – 8 Aralık 2015

Bu nasıl?

Finansal bir zorunluluğumuz olmadığı için, maksimum pozitif insan etkisine odaklanabiliriz ve AI teknolojisini mümkün olduğunca geniş bir şekilde yayabiliriz. Yapay zekanın bireysel insan iradelerinin bir uzantısı olması gerektiğine ve özgürlük ruhuyla azınlığın elinde yoğunlaşmaması gerektiğine inanıyoruz.

Sam Altman’dan Elon Musk’a – 11 Aralık 2015

Biraz önce haber aldım…

DeepMind yarın herkes için açık bir şekilde büyük karşı tekliflerde bulunarak OpenAI’ı öldürmeye çalışacak.

Herkesin maaşını yılda 100-200 bin dolar artırmaya proaktif olarak itirazın var mı? Buradaki herkesin bu misyonla motive olduğunu düşünüyorum ama zamanla onlara iyi bakacağımız sinyalini vermek faydalı olur.

Görünüşe göre DeepMind bunun için savaşa hazırlanıyor, NIPS’te (Neural Information Processing Systems konferansı) insanları köşeye sıkıştırıyorlar.

Elon Musk’tan Sam Altman’a – 11 Aralık 2015

Ilya kesin bir “evet” dedi mi?

Eğer biri kararsız görünüyorsa, onları şahsen aramak için mutluluk duyarım. Emma’ya bu konunun mutlak önceliğim olduğunu söyledim, 7/24 odaklanıyorum.

Sam Altman’dan Elon Musk’a – 11 Aralık 2015

Evet, tamamen bağlı olduğunu söyledi. Az önce sözünü verdi.

Elon Musk’tan Sam Altman’a – 11 Aralık 2015

Harika.

Sam Altman’dan Elon Musk’a – 11 Aralık 2015

Herkes kendini çok iyi hissediyor, “DeepMind tekliflerini getirsinler, ne yazık ki onların ‘doğru olanı yapma’ gibi bir misyonları yok” tarzında şeyler söylüyorlar.

Haberler bugün saat 13:30 PST’de çıkacak.

Elon Musk’tan Ilya Sutskever, Pamela Vagata, Vicki Cheung, Diederik Kingma, Andrej Karpathy, John D. Schulman, Trevor Blackwell ve Greg Brockman’a (cc: Sam Altman) – 11 Aralık 2015

Harika bir başlangıç için tebrikler!

Çok tanınan kuruluşlara kıyasla sayı ve kaynak açısından inanılmaz dezavantajlı durumdayız, ancak doğru olanın yanımızda olması büyük bir avantaj. Bu olasılıkları seviyorum.

En önemli önceliğimiz, en iyi insanları işe almaktır. Herhangi bir şirketin çıktısı, içindeki insanların vektörel toplamıdır. Zamanla en yetenekli insanları çekebilir ve doğru bir yönelim sağlayabilirsek, OpenAI başarılı olacaktır.

Bu nedenle, kimlerin katılacağını iyi düşünmenizi rica ediyorum. İşe alımlarda veya başka bir konuda yardımcı olabileceğim bir şey varsa, size tamamen destek olmak için buradayım.

Henüz lisans veya yüksek lisans eğitimini tamamlamamış ancak açıkça zeki olan insanlara dikkat etmenizi öneririm. Onlar büyük bir atılım yapmadan önce ekibimize katılmaları daha iyidir.

Birlikte çalışmayı dört gözle bekliyorum,
Elon

Greg Brockman’dan Elon Musk’a (cc: Sam Altman) – 21 Şubat 2016

Herkese merhaba,

Kuruluşumuzdan bu yana ilk tam zamanlı iş tekliflerini yapıyoruz. Bu teklifler açıkça çok önemli, çünkü uzun vadeli etkileri olacak. Henüz burada tek başıma kararlar vermekte rahat hissetmiyorum ve rehberliklerinize ihtiyacım var.

Şu anda yaptığımız şey:

Kurucu ekip: $275k maaş + YC hisselerinin %0.25’i.
Kalıcı olarak $125k yıllık bonus veya eşdeğer YC ya da SpaceX hissesi seçeneği de var. Henüz bu seçeneği kullanan olmadı.
Yeni teklifler: $175k yıllık maaş + $125k yıllık bonus || eşdeğer YC veya SpaceX hissesi. Bonus, performans incelemesine bağlıdır ve %0’dan önemli ölçüde daha fazlasına kadar çıkabilir.
Özel durumlar: gdb (Greg), Ilya ve Trevor.

Plan, maaşı büyük ölçüde sabit tutmak ve bonus çarpanını güçlü performansı ödüllendirmek için bir yol olarak kullanmak.

Bazı notlar:

8 yıl boyunca hisse likit hale gelene kadar %20 yıllık indirim uyguluyoruz, bu nedenle $125k bonus yaklaşık %0.12 YC hissesine eşit. Terminal değer bu şekilde yaklaşık $750k olur.
Kurucu ekibe başlangıçta $175k maaş teklif edilmişti. Laboratuvarın kuruluşundan sonraki gün, herkesin maaşını $100k artırdık ve kendilerinden karşı teklifler görmezden gelmeleri ve zamanla onlara iyi bakacağımız konusunda kişisel söz istedik.
Şu anda Brain’den Ian Goodfellow ile görüşüyoruz, alandaki en iyi iki bilim insanından biri (diğeri DeepMind’e bağlı Alex Graves). Ian, Brain’deki en iyi kişi ve Google onu korumak için savaşacak. Kurucu ekip teklifine dahil ediyoruz.

Bazı maaş veri noktaları:

John, DeepMind’da yıllık $250k teklif aldı ve bunu $300k’ya kolayca çıkarabileceğini düşündü.
Wojciech, FAIR’de sözlü olarak yaklaşık $1.25M/yıl teklif aldı (henüz resmi bir mektup yok).
Andrew Tulloch, Facebook’ta $800k/yıl alıyor (çoğunluğu hisse şeklinde).
Ian Goodfellow, şu anda Google’da $165k nakit + $600k hisse/yıl kazanıyor.
Apple biraz çaresiz durumda ve insanlara $550k nakit teklif ediyor (artı hisse, muhtemelen). Ancak iyi kimse evet demiyor.

Aklımdaki iki aday:

Andrew teklifi kabul etmeye çok yakın ama maaş kesintisinin büyüklüğünden endişe ediyor.
Ian, parayla öncelikli olarak ilgilenmediğini belirtti, ancak Bay Area pahalı ve bir ev alabileceğinden emin olmak istiyor. Google daha büyük sayılar teklif ettiğinde ne olacağını bilmiyorum.

Anlık sorularım:

Andrew maaşı artırmaya çalışırsa, teklifimizi sabit tutup yalnızca bu kesintiyi kabul edebilecek kadar heyecanlıysa katılmasını mı söylemeliyiz?
Ian Çarşamba günü görüşecek ve muhtemelen bir teklif alacak. Onun teklifini kesin kabul etmeli miyiz yoksa Google’ın teklifine göre esnek olmalı mıyız?
Yukarıdaki yanıtlara bağlı olarak, bu düz stratejinin mantıklı olup olmadığını sorguluyorum. Eğer sürdürürsek, bonus çarpanını gerçekten insanlara satmamız gerekecek. Belki insanları ikna etmek için imza bonusunu bir kaldıraç olarak kullanabiliriz?
Daha az önemli ama stajyer ücretimiz de piyasanın altında: $9k/ay. (Facebook $9k + ücretsiz konaklama, Google $11k/ay civarı sunuyor.) Stajyerler için deneyim daha önemli olsa da, bu yüzden bir aday kaybetmiş olabiliriz. Bunun için miktarı artırmayı düşünmeli miyiz?

Her zaman konuşmaya hazırım.

– gdb

Elon Musk’tan Greg Brockman’a (cc: Sam Altman) – 22 Şubat 2016

En iyi yetenekleri almak için ne gerekiyorsa yapmalıyız. Daha yüksek maaşlar verelim. Bir noktada mevcut çalışanların maaşlarını gözden geçirmemiz gerekirse, bu da sorun değil.

Dünyadaki en iyi insanları alamazsak, DeepMind tarafından eziliriz.

Ace insanları getirmek için ne gerekiyorsa benim için uygundur.

DeepMind beni aşırı zihinsel strese sokuyor. Kazanırlarsa, bu çok kötü haber olur, çünkü “dünyayı yönetecek tek zihin” felsefelerine sahipler. Oradaki yetenek seviyesine göre büyük ilerleme kaydediyorlar ve bu beklenen bir şey.

Greg Brockman’dan Elon Musk’a (cc: Sam Altman) – 22 Şubat 2016

Mesaj alındı. Planı anladım. Spesifik detaylarda Sam ile çalışmaya devam edeceğim ama döngüde kalmak isterseniz lütfen haber verin.

– gdb

Greg Brockman’dan Elon Musk’a (cc: Sam Teller) – 21 Mart 2016

Merhaba Elon,

Wired dergisi için OpenAI üzerine bir röportaj verdim ve doğrulama ekibi bana bazı sorular gönderdi. Özellikle şu iki soruda seninle senkronize olmak istedim, bunların makul ve senin söyleyeceğin şeylerle uyumlu olup olmadığından emin olmak istiyorum:

OpenAI, yaptığı tüm araştırmaları herkese açık şekilde mi paylaşıyor?

Herhangi bir zamanda, dünya için en faydalı olan adımı atacağız. Kısa vadede, araştırmalarımızı paylaşmanın en iyi yaklaşım olduğuna inanıyoruz. Ancak, uzun vadede, potansiyel olarak tehlikeli bir teknoloji olduğunda bu hemen paylaşılmamalı. Tüm durumlarda, araştırmalarımızın tüm faydalarını paylaşacağız ve bunların dünyaya yayılmasını, tek bir kurumun tekelinde olmamasını sağlayacağız.

OpenAI, AI’nin mümkün olan en sofistike hâline ulaşmasının, özel ellerde çok zeki bir yapay zekanın dünyaya zarar verme riski yaratmasından kaçınmanın en iyi yolu olduğunu mu düşünüyor?

AI’yi bireysel insan iradelerini genişletmek için kullanmanın, AI’nin yararlı kalmasını sağlamanın en umut verici yolu olduğuna inanıyoruz. Bu yaklaşım cazip çünkü benzer yeteneklere sahip çok sayıda aktör, kötü niyetli birini kontrol altında tutabilir. Ancak, tüm cevaplara sahip olduğumuzu iddia etmiyoruz. Bunun yerine, bu cevapları arayabilecek ve yanıt ne olursa olsun en iyi eylemi gerçekleştirebilecek bir organizasyon inşa ediyoruz.

Teşekkürler!

– gdb

Elon Musk’tan Greg Brockman’a (cc: Sam Teller) – 21 Mart 2016

İyi görünüyor.

Sam Teller’dan Elon Musk’a – 27 Nisan 2016

[Alex Thompson’dan iletildi]

Merhaba Sam,

Umarım iyi bir gün geçiriyorsundur ve başka bir soruyla bölmek için özür dilerim. Maureen, Zuckerberg’in yakın tarihli yorumları üzerine Musk’ın herhangi bir tepkisi olup olmadığını sormak istedi. Özellikle, Musk’ın AI ile ilgili korkularını “histerik” olarak etiketlemesi ve AI’nin tehlikeleri hakkında “korku tellallığı” yapanları eleştirmesi dikkat çekti. Daha fazla detay aşağıda.

Zuckerberg, Almanya’da yakın zamanda yaptığı bir konuşmada Musk’ın AI konusundaki öngörülerini “histerik” olarak nitelendirdi ve cilt lezyonları için mobil telefonlarla kanser teşhisleri yapabilen bir sistem gibi AI atılımlarını övdü.

“Eğer gerçekten bir şeyleri mahvetmezsek, makineler her zaman itaatkâr olacak, insanüstü değil,” dedi.

“AI’yi bizim için çalışacak ve bize yardımcı olacak şekilde inşa edebileceğimizi düşünüyorum… Bazı insanlar AI’nin büyük bir tehlike olduğu konusunda korku tellallığı yapıyorlar, ancak bu bana abartılı geliyor ve yaygın hastalıklar, şiddet gibi felaketlerden daha az olası görünüyor,” dedi. Facebook geliştiriciler konferansında, “Korku yerine umudu seçin” felsefesini tekrarladı.

– Alex Thompson
The New York Times

Elon Musk’tan Sam Teller’a – 27 Nisan 2016

Tarih açıkça gösteriyor ki, güçlü bir teknoloji çift taraflı bir kılıçtır. AI’nin, tüm teknolojilerin en güçlüsü olduğu düşünüldüğünde, sadece tek taraflı bir etkisi olacağını varsaymak aptallık olur.

Microsoft’un AI sohbet botu örneği, bunun ne kadar hızlı bir şekilde olumsuz bir hal alabileceğini gösteriyor. Akıllıca olan yol, AI’nin gücünün geniş şekilde dağıtıldığından emin olmak ve herhangi bir şirket veya kişinin tek başına kontrol etmediğinden emin olmaktır.

Bu yüzden OpenAI’ı kurduk.

Sam Altman’dan Elon Musk’a (cc: Sam Teller) – 16 Eylül 2016

Microsoft’tan gelen şartlar şunlar: $60 milyonluk hesaplama gücü için $10 milyon ve Azure bulutunda neyi uyguladıklarına dair bizim girdimiz. Geri dönüşlerin varsa bana bildir.

Sam

Elon Musk’tan Sam Altman’a (cc: Sam Teller) – 16 Eylül 2016

Bu beni gerçekten mide bulantısına uğrattı. Bu tam da onlardan beklediğim türden bir teklif.

Microsoft OpenAI’a yedek hesaplama süresi bağışlamaya istekliyse ve bunun bilindiği halde kalıyorsa, sorun değil. Ancak bunun için bir sözleşme yapmamalı veya “tanıtım” konusunda anlaşmamalıyız. Onlar bizi istedikleri zaman kapatabilir, biz de istediğimiz zaman çıkabiliriz.

Sam Altman’dan Elon Musk’a (cc: Sam Teller) – 16 Eylül 2016

Bu bölümü okuduktan sonra aynı tepkiyi verdim ve kaldırmayı kabul ettiler.

Başlangıçta sadece bağış olarak yedek hesaplama süresi istemiştik, ancak ekip kapasitenin mevcut olacağından emin olmak istedi. Ama Microsoft ile bağlayıcı herhangi bir unsur olmamasını sağlamak için çalışacağım.

Elon Musk’tan Sam Altman’a (cc: Sam Teller) – 16 Eylül 2016

Bu işi düşük anahtarla yapmalıyız. Kesinlik yok. Sözleşme yok.

Sam Altman’dan Elon Musk’a (cc: Sam Teller) – 16 Eylül 2016

Tamam, bu yönde ne kadar para çıkarabileceğime bakacağım.

Sam Teller’dan Elon Musk’a – 20 Eylül 2016

Microsoft artık $50 milyon değerindeki bir anlaşmayı “OpenAI’ın tek taraflı takdirine göre iyi niyet çabası” ile yapmaya istekli ve her iki tarafın da istediği zaman karşılıklı fesih hakkı bulunuyor. Tanıtım yapma yok. Microsoft’un pazarlama kuklası gibi görünmek yok. İlerlemede sorun var mı?

Elon Musk’tan Sam Teller’a – 21 Eylül 2016

Eğer bunu aktif mesajlaşmalarında kullanmazlarsa sorun yok. Microsoft’un pazarlama maşası gibi görünmemek, $50 milyonun çok ötesinde bir değere sahip.

Ilya Sutskever’dan Elon Musk ve Greg Brockman’a – 20 Temmuz 2017

Robot el artık simülasyonda bir Rubik Küpünü çözebiliyor:
Bağlantı (OpenAI giriş yapması gerekiyor)
Fiziksel robot aynı şeyi Eylül ayında yapacak.
1v1 bot artık istismar edilemiyor:
Artık “alışılmadık” stratejiler kullanılarak yenilemiyor.
Tüm insanları 1 ay içinde yenme hedefinde ilerliyor.
Atletik rekabetçi robotlar:
Bağlantı (OpenAI giriş yapması gerekiyor)
Tüm açılardan bir kamerayı kandırabilen bir örnek yayınlandı:
Blog yazısı
DeepMind, algoritmalarımızdan birini parkur sonuçlarını üretmek için doğrudan kullandı:
DeepMind sonuçları: Bağlantı
Teknik makaleleri, algoritmalarımızı doğrudan kullandıklarını açıkça belirtmiş.
Blog yazımız: Bağlantı (DeepMind eski bir versiyonunu kullandı).
Yakında:
For-profit yapıyı tasarlama.
Cerebras ile birleşme şartlarını müzakere etme.
Cerebras ile daha fazla durum tespiti.

Shivon Zilis’ten Elon Musk’a (cc: Sam Teller) – 28 Ağustos 2017

Elon,

Daha önce bahsettiğim gibi, Greg birkaç şeyi konuşmak için bu hafta sonu buluşmak istedi. Ilya da katıldı ve neredeyse düşünmekte oldukları her şeyi paylaştılar. Bu konuşmanın rastgele bir akışının damıtılmış hali… aşağıdaki 7 yanıtsız soruya indirgenmiş durumda. Lütfen bunları savunduğumu düşünme, yalnızca duyduğum bilgileri yapılandırıp paylaşıyorum.

Kısa vadeli kontrol yapısı?
- Mutlak kontrol bir gereklilik mi? Herkes (sadece üçü değil, daha geniş bir kurul da dahil) bir konuda tamamen hemfikir değilse, bir tür yaratıcı veto mekanizması olabilir mi?
Kontrol süresi ve geçiş?
- Mutlak müzakere edilemez olan şey, AGI (Genel Yapay Zeka) oluşturulursa hiçbir kişinin tek başına mutlak kontrol sahibi olmamasını sağlayacak bir anlaşma.
Zaman harcama?
- Elon bu projeye ne kadar zaman harcamak istiyor ve gerçekten ne kadar harcayabilir? Haftada bir saat mi, on saat mi, arası mı?
Harcanan zamanla ne yapılacak?
- Elon’un diğer şirketlerdeki zamanını nasıl harcadığını ve OpenAI’da zamanını nasıl harcamak istediğini tam olarak bilmiyorlar. Greg ve Ilya, yazılım ve makine öğrenimi tarafını oldukça iyi oluşturabileceklerinden emin. Ancak donanımda daha zayıf hissediyorlar ve Elon’un bu alanda zaman harcamasını umuyorlar.
Zaman ve kontrol oranı?
- Daha az zaman/daha az kontrol ya da daha fazla zaman/daha fazla kontrol konusunda iyiler, ancak daha az zaman/daha fazla kontrol fikrinden korkuyorlar.
Eşitlik paylaşımı?
- Greg hala eşit paylaşım fikrine bağlı. Ancak farklı düşüncelere açık.
Sermaye artırımı stratejisi?
- Başlangıçta $200M-$1B gibi daha büyük bir meblağ toplamayı düşünüyorlar.

Bu noktalara yönelik alınması gereken herhangi bir adım konusunda bilgi verebilirsen memnuniyet duyarım.

Shivon

Elon Musk’tan Shivon Zilis’e (cc: Sam Teller) – 28 Ağustos 2017

Bu oldukça can sıkıcı. Lütfen onlara bir şirket kurmalarını öner. Yeterince bıktım.

Ilya Sutskever’dan Elon Musk ve Sam Altman’a (cc: Greg Brockman, Sam Teller, Shivon Zilis) – 20 Eylül 2017

Elon, Sam,

Bu süreç Greg ve benim katıldığımız en yüksek riskli konuşma oldu ve eğer proje başarılı olursa, dünyanın gördüğü en yüksek riskli konuşma olacak. Aynı zamanda hepimiz için derinlemesine kişisel bir konuşmaydı.

Dün, rekabet yasağı sözleşmesi nedeniyle son taahhüdümüzü verirken bir hata yaptığımızı fark ettik. Bazı önemli endişelerimizi sizlerle paylaşmadık. Bunları dile getirmedik çünkü ilişkimize zarar vermekten, sizin hakkımızda daha az düşünmenizden ya da sizi ortak olarak kaybetmekten korktuk.

Bu endişelerin çözülemez olma ihtimali var. Umarız böyle değildir, ancak bunları şimdi konuşmazsak kesinlikle başarısız olacağız. Sorunları tartışarak çözebileceğimize ve birlikte çalışmaya devam edebileceğimize dair umutluyuz.

Elon:

Seninle çalışmayı gerçekten istiyoruz. Birlikte çalışırsak, misyonda başarılı olma şansımızın en yüksek olacağına inanıyoruz. Ancak kontrolün dünya için sonuçları üzerinde düşünmemiştik. Bu bize kibirli geliyordu ve başarıya ulaşıldığında kontrolün sonuçlarını ciddi şekilde değerlendirmemiştik.

Mevcut yapı sana AGI üzerinde mutlak tek taraflı kontrol sağlıyor. Nihai AGI’yi kontrol etmek istemediğini söyledin, ancak müzakere sürecinde kontrolün senin için son derece önemli olduğunu gösterdin.

Bu nedenle, şirket AGI’ye doğru gerçek ilerleme kaydettiğinde mevcut niyetinin aksine mutlak kontrolünü sürdürmeyi tercih edeceğinden endişe ediyoruz. OpenAI’ın amacı geleceği iyi yapmak ve bir AGI diktatörlüğünden kaçınmaktır. Demis (DeepMind CEO’su) bir AGI diktatörlüğü yaratabilir diye endişeleniyorsun. Biz de öyle. Bu nedenle, böyle bir yapıyı oluşturmak kötü bir fikir olur.

Sam:

Greg ve ben, sıkışıp kaldığımızda her zaman çözüm sunuyorsun. Bununla birlikte, bu süreç boyunca yargılarına tam olarak güvenemedik çünkü maliyet fonksiyonunu tam anlamıyla anlayamıyoruz. CEO unvanının neden bu kadar önemli olduğunu anlayamıyoruz.

Greg ve Ilya:

Bu süreç boyunca, kararlarımızın 2-3 yıl içinde finansal getiriler tarafından yönlendirilmesine izin verdik. Bu yanlıştı. Bütün bu sorunları çözmek için dört kişi olarak buluşmamız gerektiğine inanıyoruz. Doğru bir şekilde konuşur ve sorunları çözebilirsek, yaratacağımız şirket çok daha güçlü olacaktır.

Greg & Ilya

Elon Musk’tan Ilya Sutskever’a (cc: Sam Altman, Greg Brockman, Sam Teller, Shivon Zilis) – 20 Eylül 2017 (14:17)

Arkadaşlar, yeterince bıktım. Bu son nokta. Ya kendi şirketinizi kurun ya da OpenAI ile kar amacı gütmeyen bir yapıda devam edin. OpenAI’ı finanse etmeye devam etmeyeceğim. Tartışmalar sona erdi.

Elon Musk’tan Ilya Sutskever ve Sam Altman’a (cc: Greg Brockman, Sam Teller, Shivon Zilis) – 20 Eylül 2017 (15:08)

Açık olmak gerekirse, daha önce tartışılan şeyleri kabul etmek bir ültimatom değil. Artık masada değiller.

Sam Altman’dan Elon Musk’a (cc: Greg Brockman, Ilya Sutskever, Sam Teller, Shivon Zilis) – 21 Eylül 2017

Kar amacı gütmeyen yapı konusunda hâlâ hevesliyim!

Shivon Zilis’ten Elon Musk’a (cc: Sam Teller) – 22 Eylül 2017

Elon,

Greg ve Ilya, kar amacı gütmeyen yapıda devam etmek istediklerini söylediler. Başka bir şey yapmayacaklarına dair garanti vermeleri gerektiğini biliyorlar.

Sam ile henüz konuşmadım, ancak bugün öğleden sonra konuşmak istedi. Geri bildirim olursa rapor ederim.

Yapabileceğim başka bir şey varsa haber ver.

Elon Musk’tan Shivon Zilis’e (cc: Sam Teller) – 22 Eylül 2017

Tamam.

Shivon Zilis’ten Elon Musk’a (cc: Sam Teller) – 22 Eylül 2017

Altman’dan gelen bilgiler:

Yapı: Kar amacı gütmeyen yapı ile devam etmeye açık.

Güven: Süreç boyunca Greg ve Ilya’ya güvenini kaybettiğini itiraf etti. Mesajlarının tutarsız ve çocukça göründüğünü söyledi.

Mola: Sam, Greg ve Ilya’ya 10 gün boyunca düşünmek için ara vereceğini söyledi. Döndükten sonra ne kadar zaman ayırabileceğine karar verecek.

Fon toplama: Greg ve Ilya, bağışlarla yüz milyonlarca dolar toplanabileceğine inanıyor. Altman, on milyonlarca dolarlık bir yol olduğunu düşünüyor ancak daha fazlası için belirsiz.

İletişim: Sam, Greg ve Ilya’nın süreçte takımı fazla bilgilendirdiğini düşündü. Ancak kar amacı gütmeyen yapının devam edeceği bilgisinin takıma verilmiş olmasından memnun.

Shivon

Sam Altman’dan Elon Musk’a (cc: Greg Brockman, Ilya Sutskever, Sam Teller, Shivon Zilis) – 21 Ocak 2018

Elon—

Güvenlik ekibinden bazılarıyla konuştum ve ICO’nun (Initial Coin Offering) ve gelecekteki olası istenmeyen etkilerin yarattığı endişeler var.

Yarın tüm ekiple konuşmayı ve onların görüşlerini davet etmeyi planlıyorum. Bunun gizli kalmasını vurgulayacağım, ancak insanlara erken aşamada fikirlerini söyleme şansı vermenin önemli olduğunu düşünüyorum.

Sam

Elon Musk’tan Sam Altman’a (cc: Greg Brockman, Ilya Sutskever, Sam Teller, Shivon Zilis) – 21 Ocak 2018

Kesinlikle.

Andrej Karpathy’den Elon Musk’a (cc: Shivon Zilis) – 31 Ocak 2018

ICLR konferansı (derin öğrenme konusuna odaklanan en önemli konferanslardan biri, NIPS daha büyük ama daha dağınık) kabul/red kararlarını yayınladı ve biri mevcut yapay zeka araştırmalarının nerelerde yoğunlaştığını gösteren güzel grafikler oluşturmuş.

Bu, mükemmel bir ölçüt değil çünkü her şirket makale yayınlamayı önceliklendirmiyor olabilir, ancak bir gösterge niteliğinde.

İşte herhangi bir kuruma ait toplam makale sayılarını (sözlü/sunum/poster/red edilmiş olarak ayrılmış) gösteren bir grafik:

[RESİM ÇIKARILDI]

Sonuç olarak, Google 83 makale gönderimiyle başı çekiyor. Akademik kurumlar (Berkeley, Stanford, CMU, MIT) 20-30 aralığında yer alıyor.

Bugün tüm hareketin nerede olduğunu gösteren ilginç bir anlık görüntü olduğunu düşündüm. Verinin tamamı burada: Bağlantı

– Andrej

Elon Musk’tan Greg Brockman, Ilya Sutskever, Sam Altman’a (cc: Sam Teller, Shivon Zilis; fw: Andrej Karpathy) – 31 Ocak 2018

OpenAI, Google’a kıyasla kesin bir başarısızlık yolunda ilerliyor. Başka herkesle birlikte Google tamamen önemsiz hale düşecek.

Bu durumu düzeltmek için hemen ve dramatik bir eylemde bulunulması gerektiği açık. Aksi takdirde herkes, özellikle de Google, bizi ciddiye almayacak.

ICO yaklaşımını düşündüm ve bunu desteklemeyeceğim. Bence bu, OpenAI ve onunla bağlantılı herkes için büyük bir itibar kaybıyla sonuçlanır. Eğer bir şey gerçek olamayacak kadar iyi görünüyorsa, genellikle öyledir. Bu, bana göre mantıksız bir dikkat dağıtmaydı.

Düşünebildiğim tek yollar şunlar:

OpenAI’ın büyük bir şekilde genişlemesi.
Tesla AI’nin büyük bir şekilde genişlemesi.
Belki her ikisinin aynı anda genişlemesi.

Birincisi, bağışlanan fonlarda büyük bir artış ve son derece güvenilir insanların kurulumuza katılmasını gerektirir. Mevcut yönetim kurulu durumu çok zayıf.

Yarın bu konuyu konuşmak için bir zaman ayarlayacağım.

Net olmak gerekirse, yetenek ve başarılarınıza büyük saygı duyuyorum, ancak işler şu anki haliyle beni mutlu etmiyor. Bu nedenle son aylarda OpenAI ile daha az ilgileniyorum. Ya işleri düzeltiriz ve katılımım çok artar ya da düzeltmeyiz ve katılımım neredeyse sıfıra düşer, ayrıca dernekle olan bağımı halka açık şekilde azaltırım. Gerçeklik ile algı arasında bir tutarsızlık olan bir durumda olmam.

Elon

Elon Musk’tan Andrej Karpathy’ye – 31 Ocak 2018

Bilgilendirme için teşekkürler.

Sence ne mantıklı? Telefonla konuşmak istersen haber ver.

Andrej Karpathy’den Elon Musk’a – 31 Ocak 2018

Yapay zekanın ön saflarında çalışmak ne yazık ki pahalı. Örneğin, DeepMind’ın 2016’daki işletme giderleri yaklaşık $250 milyon USD civarındaydı (buna hesaplama dahil değil). Bugünkü büyüyen ekipleriyle bu, yılda ~0.5B olabilir. Ancak Alphabet 2016’da ~20B net gelir bildirdi, bu yüzden DeepMind’ın sıfır gelir getirdiği durumda bile oldukça ucuz.

Tarihsel eğilimler bir göstergeyse, AI’deki ilerleme esas olarak sistemler — hesaplama, veri, altyapı — tarafından yönlendiriliyor. Bugün kullandığımız temel algoritmalar 90’lardan bu yana büyük ölçüde değişmedi.

Bence OpenAI şu anda para yakıyor ve mevcut finansman modeli, Google ölçeğiyle ciddi şekilde rekabet edebilecek kapasiteye ulaşamıyor. For-profit bir dönüşüm sürdürülebilir bir gelir akışı oluşturabilir, ancak bu odak dağılmasına yol açabilir.

En umut verici yol, OpenAI’ın Tesla’ya bağlanması gibi görünüyor. Tesla’nın mevcut altyapısıyla, OpenAI uzmanlığı, tam otonom sürüş çözümlerini hızlandırabilir.

Andrej

Elon Musk’tan Ilya Sutskever ve Greg Brockman’a – 1 Şubat 2018

[Andrej’in önceki mesajını iletir]

Andrej tamamen haklı. Durumu böyle kabul etmeli ve Tesla’ya bağlanmayı ciddi şekilde değerlendirmeliyiz.

Shivon Zilis’ten Elon Musk’a (cc: Sam Teller) – 25 Mart 2018

OpenAI

Fon toplama:

ICO veya “hesaplamayı önceden satın alma enstrümanı” tipi bir yapı artık yapılmıyor. Altman, 4-5 büyük kurumsal yatırımcının yatırım yapmaya istekli olduğu bir enstrüman üzerinde düşünüyor. Bu enstrüman, yatırımcıların getirilerinin 50x ile sınırlı olduğu bir yapı olacak.
İlk turu (muhtemelen büyük ölçüde Reid Hoffman’ın parası, belki bazı kurumsallar da dahil) 4-6 hafta içinde hareket ettirmek istiyorlar.

Resmi Yönetim Kurulu İstifası:

Teknik olarak hâlâ yönetim kurulundasın, bu yüzden Sam Altman’a “Bu e-posta ile OpenAI direktörlüğünden 20 Şubat 2018 itibarıyla istifa ediyorum” gibi kısa bir mesaj göndermen gerekiyor.

Gelecekteki Yönetim Kurulu:

Altman, benim yönetim kuruluna katılmamı, ancak bir çıkar çatışması yaşanırsa ayrılmam gerektiğini belirtti. Yine de bunun diğerleri tarafından bir “köprü yakma” olarak algılanabileceği konusunda endişeli. Şimdilik resmi olmayan bir danışman olmamın en iyisi olduğunu düşünüyorum, ama başka bir görüşün varsa lütfen belirt.
Yönetim kuruluna Adam D’Angelo’nun eklenmesi olasılığı üzerinde duruluyor, bu da bence harika bir seçenek.

Tesla AI

Andrej’in pipeline’da üç adayı var, biri veya ikisi Salı günü seni görmeye gelebilir. Bunun hakkında bir brifing notu gönderecek.
Ayrıca “tam yığın yapay zeka laboratuvarı” açısıyla ilgili potansiyel bir duyuru için dil taslağı üzerinde çalışıyor. Eğer bu doğru gelmezse, lütfen yönlendirin.

Cerebras

Çip Ağustos ayında test edilebilir olacak ve Eylül ayında diğerlerine uzaktan erişim sağlanacak. Cerebras ekibi, Nvidia’nın TOS değişikliğinden (şirketleri tüketici sınıfı GPU’lardan kurumsal Pascal/Volta’lara zorlayan) dolayı büyük ilgi gördüklerini belirtti. Scott Gray ve Ilya onlarla çok zaman harcıyorlar.

Shivon

Sam Altman’dan Elon Musk’a (cc: Shivon Zilis) – 2 Nisan 2018

Haftaya bunu yayınlamayı planlıyoruz—eklemek/düzenlemek istediğiniz bir şey var mı?

OpenAI Tüzüğü

OpenAI’ın misyonu, insanlığın tümünden daha üstün performans gösteren, yüksek derecede otonom sistemler olan yapay genel zekanın (AGI) tüm insanlık için fayda sağlayacağından emin olmaktır. Güvenli ve yararlı AGI oluşturmayı doğrudan deneyeceğiz, ancak çalışmamızın başkalarının bu sonuca ulaşmasına yardımcı olması durumunda misyonumuzu yerine getirmiş sayacağız.

Bu amaçla, aşağıdaki ilkelere bağlılık sözü veriyoruz:

Geniş Ölçüde Dağıtılmış Faydalar

AGI’nin dağıtımında elde edeceğimiz etkiyi, onun tüm insanlık için faydalı olacak şekilde kullanılmasını sağlamak ve insanlığa zarar veren veya gücü aşırı yoğunlaştıran uygulamalardan kaçınmak için kullanacağız.

Birincil görevimiz insanlığa karşıdır. Bu misyonu yerine getirmek için önemli kaynaklar toplamak zorunda kalacağımızı öngörüyoruz, ancak çalışanlarımız ve paydaşlarımız arasında geniş faydayı tehlikeye atabilecek çıkar çatışmalarını en aza indirmek için özenle hareket edeceğiz.

Uzun Vadeli Güvenlik

AGI’yi güvenli hale getirmek için gerekli araştırmayı yapmaya ve bu tür araştırmaların yapay zeka topluluğunda geniş kabul görmesini sağlamaya kararlıyız.

Teknik Liderlik

AGI’nin toplum üzerindeki etkisini ele almakta etkili olabilmek için, OpenAI yapay zeka yeteneklerinde ön safta olmalıdır.

İş Birlikçi Yönelim

Diğer araştırma ve politika kurumlarıyla aktif olarak iş birliği yapacağız; AGI’nin küresel zorluklarını ele almak için küresel bir topluluk oluşturmayı hedefliyoruz.

Sam

Elon Musk’tan Sam Altman’a (cc: Shivon Zilis) – 2 Nisan 2018

Uygun görünüyor.

Shivon Zilis’ten Elon Musk’a (cc: Sam Teller) – 23 Nisan 2018

Güncellenmiş Bilgiler (Altman ile yapılan görüşmeden):

Finansman:

ICO kesinlikle yapılmıyor, bunun yerine getirisi sabit olan bir sermaye artırımı yapılacak.
İlk yatırım turunu 4-6 hafta içinde başlatmak istiyorlar.

Teknik Durum:

Dota 5v5 beklenenden daha iyi gidiyor.
Montezuma’s Revenge’de başarılı olmak üzere olduklarını düşünüyorlar.

Zaman Dağılımı:

OpenAI’daki saatlerin çoğunu Neuralink ve Tesla’ya yeniden tahsis ettim. Gerekirse bu saatleri OpenAI’a geri yönlendirebilirim.

Shivon

Sam Altman’dan Elon Musk’a (cc: Sam Teller, Shivon Zilis) – 6 Mart 2019

Elon—

İşte Pazartesi günü yayınlamayı planladığımız bir taslak gönderi. Eklemek veya düzenlemek istediğin bir şey var mı?

TL;DR:

Sınırlı kâr amacı güden şirketi kurduk ve ilk turu Reid Hoffman ve Vinod Khosla liderliğinde topladık.
Bunu, yatırımcıların kâr beklememesi gerektiği konusunda net oldukları bir şekilde yaptık.
Greg, yeni kuruluşun başkanı, ben ise CEO’su oldum.
Bu yapıyı potansiyel bir sonraki yatırım turu yatırımcılarıyla test ettik ve beğendiler gibi görünüyor.
Son noktaya değinmek gerekirse, şu anda birkaç milyar dolarlık bir yatırım üzerine konuşuyoruz ve bunun hakkında fikrini almak isterim. Bay Area’da olduğunda seni görmekten mutluluk duyarım.

Sam

Elon Musk’tan Sam Altman’a – 11 Mart 2019

Lütfen, OpenAI’ın kâr amacı güden kolunda hiçbir finansal ilgimin olmadığını açıkça belirt.

Elon Musk Tarafından Kurulan AI Araştırma Grubu Kâr Amacı Gütmeyen Yapısını Değiştiriyor

San Francisco merkezli yapay zeka araştırma grubu OpenAI, Elon Musk ve diğer birkaç Silikon Vadisi girişimcisi tarafından kurulan organizasyon, daha fazla para toplamasına olanak sağlayacak bir kâr amacı güden birim başlatıyor. Tam hikayeyi okuyun: [Haber bağlantısı]