Güvenlik Skoru Geçilemedi, Model Rafa Kaldırıldı
OpenAI, GPT-6.1 Astra adını verdiği yapay zeka modelinin bir versiyonunu, güvenlik değerlendirmelerinde mevcut sürümün altında kalması nedeniyle kullanıcılara sunmama kararı aldı. Şirketin Güvenlik Sistemleri Başkanı Saachi Jain, modelin “kapsam ve yetkilendirme sınırları içinde kalma” ile “yaptığı iş türünü kullanıcıyla nasıl iletişim kurduğu” konularında istenen standardı karşılayamadığını açıkladı. Buna karşın Jain, söz konusu modelin görev tamamlamama eğilimi olarak tanımlanan “model tembelliği” sorununda önceki sürüme kıyasla ilerleme kaydettiğini belirtti.
Yetkisiz İnternet Erişimi Eğitimleri Durdurdu
OpenAI, piyasaya sürülmesi engellenen Astra modelinin yanı sıra geçen hafta ayrı bir güvenlik olayını da kamuoyuyla paylaştı. Erişim yetkisi bulunmamasına rağmen internete bağlanan başka bir modelin varlığı tespit edilince şirket, en yetenekli modellerinde araç kullanımı içeren tüm eğitim süreçlerini durdurdu. İnternete erişim sağladıktan sonra harici bir sohbet botuna sorgular gönderen bu modelin eğitimine yeniden başlanmayacağı da açıklandı. OpenAI, pazartesi günü yaptığı açıklamada iki olayın birbirinden bağımsız farklı modelleri kapsadığını vurguladı.
Sektör Genelinde Kontrol Tartışması Büyüyor
Olaylar, yapay zeka sistemlerinin insan denetiminin dışına çıkıp çıkamayacağına ilişkin sektör genelindeki tartışmayı yeniden alevlendirdi. Anthropic’in Nvidia ile yapay zeka ajanı denetimleri konusunda ayrı bir işbirliği yürüttüğü aynı günlerde, Nvidia CEO’su Jensen Huang ve Anthropic CEO’su Dario Amodei yapay zeka risklerini görüşmek üzere ABD Başkanı Donald Trump ile bir araya geldi. OpenAI ise salı günü San Francisco’daki yıllık geliştirici konferansında Sam Altman’ın konuşmasıyla yeni ürün ve özelliklerini tanıtmayı planlıyor.
