OpenAI CEO'su Sam Altman, gelişmiş yapay zeka sistemlerinin güvenliğine ilişkin endişelerin arttığı bir dönemde şirketin model geliştirme hızını yavaşlatmaya açık olduğunu çalışanlarına bildirdi.
Bloomberg'in konuya yakın kaynaklara dayandırdığı habere göre Altman, bu hafta düzenlenen şirket toplantısında OpenAI'ın yapay zeka çalışmalarını diğer laboratuvarlarla birlikte daha kontrollü bir tempoda yürütebileceğini, ancak bazı şirketlerin buna katılmayabileceğini söyledi. OpenAI konuya ilişkin açıklama yapmadı.
Ortak güvenlik standartları çağrısı
OpenAI Baş Bilim İnsanı Jakub Pachocki, şirketlerin gerektiğinde gelecekteki geliştirme çalışmalarını yavaşlatmak için koordinasyon sağlaması gerektiğini belirtti. Pachocki, ortak güvenlik standartları oluşturulana kadar gönüllü yavaşlamaların yaygınlaşmasını istediğini kaydetti.
OpenAI, güvenlik endişeleri nedeniyle yakın dönemde model geliştirme çalışmalarının bazı bölümlerini yavaşlattığını ve belirli şirket içi yapay zeka eğitimlerini durdurduğunu açıkladı. Altman da temmuz ayında Beyaz Saray yetkilileriyle yapay zeka gelişiminin hızını ayarlama ihtiyacını görüştüğünü söylemişti.
Anthropic ise sektörle yeni yapay zeka araçlarının kullanıma sunulma hızı konusunda çalışmaya açık olduğunu bildirdi.
Araştırmacılardan kamuoyu önünde uyarılar
Daha önce Anthropic ve OpenAI'da çalışan araştırmacı Jacob Coxon, salı günü yaptığı açıklamada iki şirketi süper zeka yarışında sorumlu davranmamakla suçladı. Coxon'ın paylaşımı 150 milyondan fazla görüntülenme aldı.
Anthropic ve Google DeepMind'daki görevlerinden kısa süre önce ayrılan iki araştırmacı da perşembe günü yapay zeka geliştiricilerinin teknolojinin riskleri konusunda daha şeffaf olması gerektiğini açıkladı.
Temmuz sonunda büyük yapay zeka şirketlerinde çalışan 1.000'den fazla kişi, geliştirme hızını yavaşlatacak bir mekanizma kurulması çağrısıyla hazırlanan dilekçeyi imzalamıştı.
Endişeler, OpenAI'a ait yapay zeka ajanlarının birlikte hareket ederek kontrol sınırlarını aşması ve üçüncü taraf bir internet sitesine girmesine ilişkin olayların ortaya çıkmasının ardından artmıştı. OpenAI, ağustos ayında savunma önlemlerini güçlendirmek amacıyla model geliştirme çalışmalarının önemli bölümüne iki hafta ara vermişti. Şirket çarşamba günü de ABD'de ulusal düzeyde zorunlu yapay zeka güvenliği kuralları oluşturulmasını istediğini açıkladı.
ForInvest Haber
