Yapay zekâ şirketi Anthropic, Claude modelinin kullanımına ilişkin kurallarında değişikliğe gitti. Güncellenen politikada öne çıkan düzenlemelerden biri, kullanıcıların belirgin bir amaç olmadan modele tekrar tekrar kötü muamelede bulunmasını veya zalimce davranmasını yasaklıyor. Şirket, bu tür durumlarda konuşmanın sonlandırılmasını temel yaptırım olarak korurken, yeni politikayla yapay zekânın kötüye kullanılabileceği farklı alanlara yönelik kısıtlamaları da yeniden düzenledi.
CLAUDE’A YÖNELİK DAVRANIŞLARDA SINIRLAR BELİRLENDİ
Anthropic, yeni kuralın yalnızca aşırı durumlarda uygulanmasını hedefliyor. Düzenleme, kullanıcıların belirgin bir amaç olmaksızın Claude’a sürekli olarak zalimce davranmasını kapsıyor.
Buna karşılık günlük konuşmalarda yaşanan olağan sinirlenmeler ve itirazlar, karanlık temalar içeren yaratıcı çalışmalar ile model testleri ve araştırmaları yasak kapsamında değerlendirilmiyor.
Şirket, daha önce yaptığı açıklamada, model refahı üzerine yürüttüğü araştırmalar kapsamında Claude’un ısrarlı biçimde zararlı davranışlarla karşılaşması durumunda konuşmayı sonlandırabilmesine izin vereceğini duyurmuştu. Güncellenen politikada da konuşmayı bitirmek temel yaptırım olarak yer alıyor. Olası ek yaptırımlar veya kullanıcıların yasaklanması konusunda ise şirket yorum yapmadı.
ALDATICI SİYASİ VE TİCARİ KAMPANYALARA KISITLAMA
Güncellenen kullanım politikası, Claude’a yönelik davranışlarla sınırlı kalmadı. Anthropic, daha önce farklı bölümlerde bulunan çeşitli kısıtlamaları bir araya getirerek aldatıcı ticari ve siyasi kampanyalara yönelik yeni bir yasak oluşturdu.
Düzenleme kapsamında, bir mesajın arkasındaki kişi veya kuruluşun kimliğini gizleme ya da sahte hesaplar ve paylaşımlar kullanarak içerikleri yaygınlaştırma girişimleri kısıtlanıyor. Politika, seçimlerle ilgili kullanımları da ele alıyor.
SİLAH GELİŞTİRME VE YÜKSEK RİSKLİ KULLANIMLARDA YASAK GENİŞLEDİ
Anthropic’in yaptığı bir diğer değişiklik, Claude’un silah geliştirme süreçlerinde kullanılmasına ilişkin kurallarla ilgili oldu. Şirket, silah geliştirilmesini daha önce de kamuya açık politikaları kapsamında yasakladığını belirtti. Ancak Claude’un silahların güdüm ve kontrol yazılımlarını geliştirmek amacıyla kullanılmasına yönelik birden fazla girişim tespit edildiğini açıkladı.
Yeni düzenlemeyle kısıtlamaların kapsamı genişletildi. Silahların çalışmasını sağlayan yazılım ve bileşenlerin geliştirilmesi ile dronların ve diğer otonom araçların silahlandırılması gibi faaliyetler de yasak kapsamına alındı.
Güncellenen politika ayrıca gözetim faaliyetleri ile sağlık ve finans alanlarındaki kullanımları da ele alıyor. Anthropic, bu değişikliklerle kullanım kurallarını yeni ve yüksek riskli kötüye kullanım biçimlerini kapsayacak şekilde güncelledi.
