OpenAI, yapay zeka ile üretilenler de dahil olmak üzere çevrim içi çocuk istismarı görüntülerini tespit etmek için geliştirdiği sınıflandırma aracını onaylı kuruluşlara ücretsiz sunacak. Araç, daha önce tespit edilmemiş görüntülerdeki görsel işaretleri analiz ediyor ve içeriklere puan vererek inceleme ekiplerinin hangi içerikleri önce değerlendireceğini belirlemesine yardımcı oluyor. OpenAI aracı, yapay zeka ile üretilen çevrim içi çocuk istismarı içeriklerinin tespitine yönelik ve geniş erişime açılan ilk sınıflandırma aracı olarak tanımladı. Yaklaşım, çocuk istismarını önlemek için çalışan kuruluşların ve akademik danışmanların katkısıyla geliştirildi.
ChatGPT’de çocuk istismarı içeriği aramaya yönelik girişimleri durdurmak için yeni uyarılar devreye girecek. Bu uyarılarda, yapay zeka ile üretilmiş olsa bile bu tür içeriklerin zarara yol açtığı kullanıcılara açıklanacak. İşaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT erişimi 24 saat askıya alınacak; bu süre içinde kullanıcıya uzman desteği sunulacak.
İhlallerin tekrarlanması halinde erişim daha uzun süre kısıtlanabilecek. Hesabın kapatılması ya da durumun yetkililere bildirilmesi de söz konusu olabilecek.