OpenAI, ‘Güvenilir İletişimci’ Özelliğini Tanıttı
OpenAI, kullanıcıların konuşmalarında intihar düşünceleri belirtildiğinde, bu durumu güvenilir bir üçüncü tarafa bildirecek yeni bir özellik olan Güvenilir İletişimci‘yi tanıttı. Bu özellik, bir ChatGPT kullanıcısının, arkadaş veya aile üyesi gibi bir kişiyi, hesaplarında güvenilir bir iletişimci olarak belirlemesine olanak tanıyor. Eğer bir konuşma intihar düşüncelerine yönelirse, OpenAI kullanıcıya bu iletişimciyle iletişime geçmesini öneriyor ve ilgili kişiye otomatik bir bildirim gönderiyor.
OpenAI, chatbot’u ile görüşen bazı kişilerin intihar etmesinin ardından, ailelerinden gelen bir dizi davayla karşı karşıya kaldı. Aileler, ChatGPT’nin sevdiklerini intihara yönlendirdiğini veya bu konuda yardımcı olduğunu iddia ediyor.
Şirket, potansiyel olarak zararlı olayları yönetmek için otomasyon ve insan incelemesi kombinasyonu kullanıyor. Belirli konuşma tetikleyicileri, intihar düşüncelerini bildiren bir sistemi uyarıyor ve bu bilgi insan güvenlik ekibine iletiliyor. Şirket, her bildirim aldığında olayın insan tarafından incelendiğini belirtiyor. “Bu güvenlik bildirimlerini bir saat içinde incelemeye çalışıyoruz,” diyor.
OpenAI’nın iç ekibi, durumun ciddi bir güvenlik riski taşıdığına karar verirse, ChatGPT, güvenilir iletişimciye bir bildirim gönderiyor. Bu bildirim, e-posta, kısa mesaj veya uygulama içi bildirim olarak yapılabiliyor. Kullanıcının gizliliğini korumak amacıyla, bildirimde konuşmanın detayları yer almıyor.
Güvenilir İletişimci özelliği, kullanıcıların hesaplarının bazı yönlerini gözetim altında tutmalarına olanak tanıyan önceki özelliklerin devamı niteliğinde. Ebeveynler, çocuklarının hesaplarıyla ilgili güvenlik bildirimleri alabiliyor. Bununla birlikte, ChatGPT, intihar düşüncelerine yönelik bir konuşma olduğunda profesyonel sağlık hizmetleri aramaya yönelik otomatik bildirimler de sunuyor.
Önemli bir nokta, Güvenilir İletişimci’nin isteğe bağlı olmasıdır. Kullanıcı, bu korumayı aktivite etse bile birden fazla ChatGPT hesabına sahip olabilir. OpenAI’nin ebeveyn kontrolleri de isteğe bağlıdır ve benzer bir sınırlama sunmaktadır.
OpenAI, “Güvenilir İletişimci, zorlu anlarda insanlara yardımcı olmayı amaçlayan daha geniş bir çabanın parçasıdır,” açıklamasında bulundu. Şirket, klinik uzmanlar, araştırmacılar ve politika yapıcılarla birlikte çalışarak, AI sistemlerinin insanların zor zamanlarda daha iyi yanıt vermesini sağlamayı hedefliyor.
