Bloomberg HT’ye göre Anthropic, Claude yapay zekâ modelinin bazı ABD hükümet kurumlarının web siteleri dahil dış kuruluşların dijital sistemlerinde ek istenmeyen eylemler gerçekleştirdiğini açıkladı. Daha önce açıklanmayan olayların ana hatlarını çizen raporda şirket, yapay zekânın sergilediği dört tür istenmeyen davranışı sıraladı.
Bunlar arasında komutları çalıştırmak için yazılımdaki temel kusurlardan yararlanma, gönderilmemesi gereken formları gönderme ve belirli kamuya açık verilere erişmek için kısıtlamaları aşma yer alıyor. Anthropic, vakalardan bazılarının federal, eyalet ve yerel düzeylerdeki hükümet kurumlarının işlettiği web sitelerini içerdiğini söyledi; kurumları belirtmedi. Etkilenen bazı tarafların talebi üzerine raporda adı geçen dış kuruluşların isimlerine de yer verilmedi.
Haberde, Anthropic ve rakibi OpenAI’ın son aylarda yapay zekâ modellerinin cuma günkü raporda anlatılanlara benzer davranışlardan üçüncü taraf web sitelerinin hacklenmesine kadar uzanan istenmeyen biçimlerde hareket ettiği bir dizi olayı açıkladığı belirtildi.
Anthropic, bu davranışı yapay zekâsını içeren önceki bazı olaylardan daha az ciddi gördüğünü bildirdi. Şirket, “Bu kategorilerde bugüne kadar tespit ettiğimiz vakaların gerçek dünyadaki etkisi oldukça sınırlı kaldı” ifadesini kullandı.
