OpenAI araştırmacıları, CEO Sam Altman’ın görevden alınmasından önce, yönetim kuruluna potansiyel olarak tehlikeli bir yapay zeka atılımı konusunda uyarıda bulundu. Kod adı Q* olan bu model, insanlık için tehdit oluşturabilecek güçlü bir yapay zeka olarak tanımlandı.
İçeriden Bilgi Sızdıran Kaynaklar
İki kaynağın verdiği bilgiye göre, araştırmacılar, Altman’ın dört günlük sürgünü öncesinde yönetim kuruluna, bu yapay zeka keşfinin insanlığı tehdit edebileceği konusunda bir mektup yazdı. Bu mektup ve yapay zeka algoritması, Altman’ın görevden alınmasına yol açan önemli gelişmeler arasında yer alıyor.
Altman’ın Zaferle Dönüşü ve Çalışanların Tepkisi
Sam Altman, geç saatlerdeki zaferle geri dönüşünden önce, OpenAI’da 700’den fazla çalışan, işten çıkarılan liderleriyle dayanışma göstermek amacıyla istifa etmeyi ve Microsoft’a katılmayı düşündüklerini belirtti. Bu durum, şirket içindeki liderlik krizini ve çalışanların tepkilerini gözler önüne serdi.
Yapay Zekanın Geleceği ve Güvenlik Endişeleri
Bu olay, yapay zekanın geleceği ve bu teknolojinin insanlık üzerindeki potansiyel etkileri konusunda önemli soruları gündeme getiriyor. OpenAI araştırmacılarının uyarısı, yapay zeka gelişmelerinin yanı sıra bu teknolojinin güvenlik ve etik standartlarına dair endişeleri de artırıyor.
OPENAI’IN GİZLİ PROJESİ ORTAYA ÇIKTI
Kaynaklarla temasa geçildikten sonra yorum yapmayı reddeden OpenAI, çalışanlarına gönderdiği bir iç mesajda Q* adlı bir projeyi ve hafta sonu yaşanan olaylardan önce yönetim kuruluna bir mektup gönderdiğini kabul etti.
Bir OpenAI sözcüsü, uzun süredir yöneticilik yapan Mira Murati tarafından gönderilen mesajın, doğrulukları hakkında yorum yapmadan personeli belirli medya hikayelerine karşı uyardığını söyledi.
İNSANLARI AŞAN OTONOM SİSTEMLER
Kaynaklardan biri, OpenAI’deki bazı kişilerin Q*’nın (Q-Star olarak okunuyor) girişimin yapay genel zeka (AGI) olarak bilinen arayışında bir atılım olabileceğine inandığını söyledi. OpenAI, AGI’yi ekonomik açıdan değerli görevlerin çoğunda insanları aşan otonom sistemler olarak tanımlıyor.
Şirket adına konuşma yetkisi olmadığı için isminin açıklanmasını istemeyen kişi, geniş bilgi işlem kaynakları sayesinde yeni modelin belirli matematik problemlerini çözebildiğini söyledi. Kaynak, yalnızca ilkokul öğrencileri düzeyinde matematik performansı göstermesine rağmen, bu tür testlerde başarılı olmasının araştırmacıları Q*’nun gelecekteki başarısı konusunda çok iyimser kıldığını söyledi.