OpenAI, son yıllarda ChatGPT'nin çocuklar üzerinde yaratabileceği etkiler nedeniyle ağır eleştirilere maruz kalmıştı. Bazı intihar vakaları sohbet robotuyla ilişkilendirilmiş ve diğer yapay zeka sağlayıcıları gibi OpenAI da ChatGPT'nin genç kullanıcılarla cinsel konuları tartışmasına izin verdiği için eleştirilmişti. Geçtiğimiz Nisan ayında şirket, sohbet robotunun 18 yaşın altındaki kullanıcılar için erotik içerik üretmesine izin veren bir hatayı gidermek zorunda kalmıştı.
Şimdi ise OpenAI, reşit olmayanları tespit etmeye ve konuşmalarına uygun içerik kısıtlamaları getirmeye yardımcı olmak için tasarlanan bir "yaş tahmini" özelliğini ChatGPT'ye ekledi.
OPENAI'IN YAŞ TAHMİNİ ÖZELLİĞİ NASIL ÇALIŞIYOR?
TechCrunch'ta yer alan habere göre, yeni "yaş tahmini" özelliği, halihazırda yürürlükte olan korumalara sadece bir ekleme yapıyor. OpenAI konuyla ilgili yayınladığı bir blog yazısında, yeni özelliğin genç kullanıcıları tespit etmek amacıyla kullanıcı hesaplarını belirli "davranışsal ve hesap düzeyindeki sinyaller" açısından değerlendiren bir yapay zeka algoritmasından yararlandığını belirtti.
Şirket, bu "sinyallerin" kullanıcının beyan ettiği yaş, hesabın ne kadar süredir var olduğu ve hesabın genellikle günün hangi saatlerinde aktif olduğu gibi unsurları içerdiğini söyledi.
OpenAI'ın halihazırda 18 yaşın altındaki kullanıcılar için cinsellik, şiddet ve diğer potansiyel olarak sorunlu konuların tartışılmasını engellemek üzere tasarlanmış içerik filtreleri bulunuyor. Yaş tahmin mekanizması bir hesabın 18 yaşın altında olduğunu tespit ederse, bu filtreler otomatik olarak uygulanıyor.
Son olarak OpenAI, bir kullanıcının yanlışlıkla reşit olmayan biri olarak belirlenmesi durumunda, kimlik doğrulama ortağı Persona'ya bir selfie göndererek "yetişkin" hesabını geri kazanabileceğini de açıkladı.
