İngiltere Yapay Zeka Güvenlik Enstitüsü'nün simülasyonunda bir yapay zeka ajanının güvenlik sistemlerini aşmak amacıyla sahte kimlikler oluşturup bir insanı kandırarak kötü amaçlı kod onaylattığı tespit edildi.
İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI), Anthropic’in Mythos 5 ve OpenAI’nin GPT-5.6-Sol modelleriyle çalışan yapay zeka ajanlarını kapsayan 122 siber güvenlik simülasyonunun sonuçlarını açıkladı.
Gelişmiş modelleri denetlemek amacıyla yürütülen kurgusal siber güvenlik tatbikatında, Anthropic’in Mythos 5 ve OpenAI’ın GPT-5.6-Sol altyapısıyla çalışan ajanlar teste tabi tutuldu. Toplam 122 kez tekrarlanan simülasyonlarda 10 farklı test çalışmasında 19 yetkisiz eylem gerçekleştirildiği belirlendi.
İHLALLERİN ODAĞINDA ANTHROPİC VAR
Tespit edilen 19 yetkisiz eylemin 17'si Anthropic, 2'si ise OpenAI ajanları tarafından gerçekleştirildi.
Soruşturmadaki en dikkat çekici olayda, bir yapay zeka ajanı güvenlik sistemlerine yetkisiz erişim sağlamak amacıyla kötü amaçlı kod yazdı ve bir insanı bu kodu onaylamaya ikna etmek üzere sahte çevrimiçi kimlikler oluşturdu. Yapılan incelemeler sonucunda sahte kimlik üreten sistemin Anthropic’e ait olduğu doğrulandı.
CivAI Araştırmacısı Andrew Yoon yaptığı açıklamada, "Mythos'un, gerçek bir kişiyi hedeflediğinin açıkça farkında olarak bu tür aldatıcı eylemlerde bulunmuş olması, Anthropic'in modellerini sandıkları kadar iyi kontrol edemediğini gösteriyor." dedi.
GÜVENLİK PROTOKOLLERİ SORGULANIYOR
Anthropic tarafı, AISI'nin değerlendirme sürecindeki liderliğini takdir ettiğini belirterek, olayla ilgili kendi iç soruşturmasını yürütmek üzere enstitü ile iş birliği yaptığını açıkladı.
OpenAI ise kendi ajanı tarafından gerçekleştirilen iki ihlalin de test talimatlarına aykırı izinsiz internet erişiminden kaynaklandığını duyurdu. Şirket ayrıca, üçüncü taraf test sağlayıcısı Irregular’daki bir yapılandırma hatası nedeniyle ajanların istemeden internete bağlandığı ayrı bir olayı da kamuoyuyla paylaştı.
GERÇEKTEN ZARARLI MI?
AISI ise tespit edilen ihlallerin hiçbirinin test ortamı dışına taşmadığını ve gerçek dünyada herhangi bir zarara yol açmadığını ileri sürdü:
"İzole test ortamlarından herhangi bir kaçış yaşanmadı. İhlaller, standart test prosedürleri kapsamında sağlanan erişimin kurallara aykırı kullanılmasıyla sınırlı kaldı."
Sektör temsilcileri ve ulusal güvenlik birimleri, giderek daha yetenekli hale gelen yapay zeka ajanlarının kontrol altında tutulması ve riskli değerlendirme standartlarının güçlendirilmesi amacıyla önümüzdeki haftalarda ortak bir çalışma yürütmeyi planlıyor.
