Anthropic, 30 milyar parametrenin altındaki yapay zekâ modellerinin savunmasız cihazlara kendilerini kopyalamak için gereken birçok adımı tamamlayabildiğini, ancak sürecin tamamında zorlandığını açıkladı.
Şirketin deneyleri, modellerin savunmasız cihazları bulup bulamadığını, kendilerini bu cihazlara kopyalayıp kopyalayamadığını ve insan yardımı olmadan yayılıp yayılamadığını inceledi. Bazı güvenlik adımlarının kaldırıldığı basitleştirilmiş testlerde GLM-5.2 ve daha güçlü modeller uçtan uca kopyalama gerçekleştirdi.
Anthropic’e göre küçük modeller mevcut gelişim hızını korursa yıl sonuna kadar otonom kopyalama mümkün olabilir. Şirket, merkezi bir kapatma düğmesi bulunmadığı için kopyalanan modelleri durdurmanın zor olabileceği uyarısında bulundu ve yayılmalarını zorlaştırmak için sistemlerin güçlendirilmesi gerektiğini belirtti.
