Yapay zekâ sektöründeki hızlı rekabet, bu kez sektörün içinden gelen bir istifayla yeniden tartışma konusu oldu. Daha önce OpenAI'da, son dönemde ise Anthropic'te çalışan araştırmacı Jacob Coxon, gelişmiş yapay zekâ sistemlerinin güvenliği konusunda duyduğu endişeler nedeniyle sektörden ayrıldığını açıkladı.
Coxon, yaptığı açıklamalarda OpenAI ve Anthropic'in yapay zekânın gelecekte ulaşabileceği seviyelerin oluşturduğu riskleri yeterince dikkate almadığını savundu. Araştırmacıya göre iki şirket, kendini geliştirebilen ve insan kapasitesini aşabilecek sistemlere ilk ulaşmak için giderek hızlanan bir yarışın içinde.
COXON GÖREVİNDEN AYRILDI, YAPAY ZEKÂ YARIŞINI ELEŞTİRDİ
Yaklaşık üç yıl boyunca OpenAI ve Anthropic'te ön eğitim çalışmaları yapan Coxon, Anthropic'ten ayrıldığını duyurdu. Araştırmacı, iki şirketin de yapay zekâ geliştirme sürecinde sorumluluk sınırlarını zorladığını ileri sürdü.
Coxon'ın temel endişesi, yapay zekânın yalnızca insanlara yardımcı olan bir araç olmaktan çıkıp kendi yeteneklerini geliştirebilen sistemlere dönüşmesi. Böyle bir teknolojinin kontrolünün kaybedilmesi halinde sonuçların bugünkü risklerden çok daha büyük olabileceğini savunan araştırmacı, yapay zekâ sektöründeki yarışın yavaşlatılması gerektiği görüşünde.
Araştırmacı ayrıca gelişmiş yapay zekânın bilgisayar sistemlerine erişme, farklı alanlarda çok hızlı ilerleme ve ekonomik ya da fiziksel kaynaklar üzerinde güç kazanma kapasitesine ulaşabileceği konusunda uyarıda bulundu.
“BAŞKASI YAPACAKSA BİZ DE YAPMALIYIZ” YAKLAŞIMINA TEPKİ
Coxon'ın eleştirilerinin merkezinde yalnızca teknolojinin kendisi değil, şirketler arasındaki rekabet de bulunuyor. Araştırmacıya göre yapay zekâ şirketleri, rakiplerinin daha hızlı ilerlemesinden endişe ettikleri için riskli gördükleri çalışmaları durdurmakta zorlanıyor.
Coxon, OpenAI ile Anthropic'in risklere yaklaşımının aynı olmadığını da savundu. Ona göre OpenAI içerisinde bazı araştırmacılar yapay zekânın oluşturabileceği varoluşsal tehdidi yeterince içselleştirmemiş durumda. Anthropic'te ise risklerin daha fazla farkında olunmasına rağmen şirket, rakiplerinin önüne geçmesi endişesiyle yarıştan çekilmiyor.
Bu durum, yapay zekâ geliştirme çalışmalarının yalnızca şirketlerin kendi kararlarına bırakılmasının doğru olup olmadığı tartışmasını da yeniden gündeme taşıdı.
ANTHROPIC'TEN DE DİKKAT ÇEKEN RİSK AÇIKLAMASI
Coxon'ın açıklamalarının ardından Anthropic'in hizalama güvenliği alanında çalışan araştırmacısı Evan Hubinger da dikkat çeken bir değerlendirmede bulundu. Hubinger, kişisel görüşü olarak yapay zekânın gelecek 10 yıl içinde tüm insanları öldürme ihtimalini yüzde 10'un üzerinde gördüğünü söyledi.
Ancak Hubinger önemli bir ayrım yaptı. Mevcut yapay zekâ modellerinden kaynaklanan riskin düşük olduğunu belirten araştırmacı, asıl endişesinin yapay zekânın kendi kendini geliştirmesiyle ortaya çıkabilecek süperzekâ olduğunu ifade etti. Ayrıca Anthropic'in bu sorunu çözmek için henüz yeterli bir plana sahip olmadığını ve şirketin güvenli yapay zekâ konusunda hedefe net biçimde ilerlediğinin söylenemeyeceğini belirtti.
Yaşanan istifa ve ardından gelen açıklamalar, yapay zekâ sektöründe teknolojik yarış ile güvenlik arasındaki dengenin yeniden tartışılmasına neden oldu. Uzmanlar açısından asıl soru ise yapay zekânın ne kadar hızlı gelişeceğinden çok, bu gelişimin nasıl kontrol altında tutulacağı.
