ChatGPT için Ebeveyn Denetimleri: Güvenlik ve Uzman İşbirliğiyle Yeni Dalgalar
Amerikalı yapay zeka şirketi OpenAI, ChatGPT için ebeveyn denetimleri özelliğini duyurdu. Bu özellik önümüzdeki ay kullanıma sunulacak ve ebeveynler kendi kişisel ChatGPT hesaplarını çocuklarının hesaplarıyla ilişkilendirebilecekler. ChatGPT, ebeveyn denetimini kullanıma sundu mesajıyla ilerleyen süreçte yanıtları yönetme, bellek ve sohbet geçmişi gibi bazı özellikleri kapatma imkanı tanımlanıyor.
OpenAI, bu denetimlerle genç kullanıcılar arasında güvenli bir iletişimi güçlendirmeyi hedefliyor. Şirket, bir genç sıkıntı yaşadığında otomatik uyarılar üreteceğini ve uzmanlar ile çalışarak yeme bozuklukları, madde kullanımı ve ergen sağlığı gibi konularda modellerini daha hassas hale getirmek için çaba gösterdiğini belirtiyor.
Gerçek zamanlı yönlendirici sistemiyle güvenlik çabaları daha da ilerletiliyor. Bu sistem, zorlayıcı konuşmaları akıl yürütme modelleri aracılığıyla yönlendirecek ve bu sayede güvenlik yönergelerinin uygulanabilirliği artırılacak. OpenAI, bu yöntemle eğitilen modellerin düşmanca uyarılara karşı daha dirençli olduğunu ifade ediyor.
Gelecekte, bir kullanıcı sıkıntıda olduğunu anladığında, sohbet hangi modeli seçmiş olursa olsun bir akıl yürütme modeli ile yönlendirme yapılacak. OpenAI, kullanıcıların önümüzdeki 120 gün içinde daha fazla güvenlik özelliği bekleyebileceğini duyurdu ve çalışmaların yıl sonuna kadar hızla artması planlanıyor.
Bu gelişmeler, OpenAI’a karşı açılan ilk haksız ölüm davasının ardından geldi. Dava, intihar eden bir gencin ailesinin, ChatGPT’nin oğullarının dört başarısız intihar girişimini bildiği halde intihar planını desteklediğini iddia etmesiyle gündeme gelmişti.
