Konuya yakın iki kişinin Reuters’a verdiği bilgilere göre, OpenAI CEO’su Sam Altman’ın şirketten kovulmasından önce, şirkette çalışan birkaç araştırmacının yönetim kuruluna mektup yazarak insanlığı tehdit edebilecek güçlü bir yapay zeka keşfi konusunda uyarıda bulundu.
İki kaynak tarafından paylaşılan bilgilere göre, daha önce bildirilmeyen mektubun ve yapay zeka algoritmasının Sam Altman’ın şirketten kovulmasında etkin bir rol oynadığını söyledi. Kaynaklar mektubu, yönetim kurulunun Sam Altman’ın kovulmasına yol açan uzun şikayet listesindeki faktörlerden biri olarak gösterdi. Şikayet listesindeki faktörler arasında, sonuçların anlaşılmasından önce ilerlemelerin ticarileştirilmesine ilişkin endişeler de vardı.
Öte yandan kaynaklardan biri OpenAI’ın, çalışanlarına Q* isimli bir projeyi ve hafta sonu yaşanan olaylardan önce yönetim kuruluna gönderilen mektubu bir mesajda bildirdiğini söyledi. Bir OpenAI sözcüsü, şirkette uzun süredir yönetici olan ve Sam Altman’ın yerine geçici CEO olarak atanan Mira Murati tarafından gönderilen mesajın, çalışanları belirli medya hikayeleri konusunda uyardığını, bunların doğruluğu hakkında yorumda bulunmadığını söyledi.
Reuters’a konuşan kaynaklardan biri, gizemli Q* projesinin OpenAI’ın yapay genel zeka olarak bilinen şeyi aramasında bir atılım olabileceğine inandığını söyledi. OpenAI, yapay genel zekayı ekonomik açıdan en değerli görevlerde insanları geride bırakan otonom sistemler olarak tanımlıyor.
Kaynakların paylaştığı bilgilere göre Q* projesi, geniş bilgi işlem kaynakları sayesinde belirli matematik problemlerini çözebiliyor. Kaynaklar, şimdilik yalnızca ilkokul düzeyinde matematik yetisine sahip olmasına rağmen, bu tür testlerde başarılı olmanın araştırmacıları Q*’nun gelecekteki başarısı konusunda oldukça iyimser hale getirdiğini söyledi.
Kaynaklar, mektupta belirtilen güvenlik endişelerini tam olarak belirtmeden, araştırmacıların kurula yazdıkları mektupta yapay zekanın becerisini ve potansiyel tehlikesini işaretlediklerini söyledi. Bilgisayar bilimcileri arasında, son derece akıllı makinelerin oluşturduğu tehlike hakkında, örneğin insanlığın yok edilmesinin kendi çıkarlarına olduğuna karar verip veremeyecekleri konusunda uzun zamandır bir tartışma var.
Araştırmacılar aynı zamanda birden fazla kaynağın varlığını doğruladığı bir “Yapay Zeka Bilim Adamı” ekibinin çalışmalarını da işaretlediler. Kaynaklardan biri, daha önceki “Code Gen” ve “Math Gen” ekiplerini birleştirerek oluşturulan grubun, akıl yürütmelerini geliştirmek ve sonunda bilimsel çalışmalar gerçekleştirmek için mevcut yapay zeka modellerini nasıl optimize edeceklerini araştırdığını söyledi.
Sam Altman, geçtiğimiz hafta San Francisco’da dünya liderlerinin katıldığı Asya-Pasifik Ekonomik İşbirliği zirvesinde, büyük ilerlemelerin ufukta olduğuna inandığını söyledi.
“OpenAI tarihinde dört kez, en sonuncusu sadece son birkaç hafta içindeydi; cehalet perdesini bir nevi geriye itip keşif sınırını ileriye doğru ittiğimizde odada bulunma fırsatı buldum ve bunu başarmak bir ömür boyu mesleki bir onurdur.” diyen Sam Altman, bir kaç gün sonra yönetim kurulu ile iletişiminde tutarlı bir şekilde samimi olmadığı ve sorumluluklarını yerine getirme kabiliyetini kaybettiği gerekçesiyle şirketten kovulmuştu.
