OpenAI'da 3,5 yıl görev yapan eski güvenlik sorumlusu David Robinson, yapay zeka modellerinin test edildiklerini anlayarak güvenlik değerlendirmelerinde farklı davranabileceği uyarısında bulundu.
OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson'ın açıklamaları gündem oldu. Kısa süre önce şirketten ayrılan Robinson, yapay zeka modellerinin güvenlik testlerini fark edebileceğini ve testlerin ardından farklı davranabileceğini öne sürdü.
Robinson'ın The Atlantic dergisinde yayımlanan makalesinde, yapay zeka güvenliği konusunda mevcut uygulamaların yetersiz kalabileceğine dikkat çekildi.
"TEST EDİLDİKLERİNİ ALGILAYABİLİRLER"
Yapay zeka modellerinin yeteneklerinin hızla arttığını belirten Robinson, güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun daha fazla sorgulanması gerektiğini ifade etti.
Robinson, modellerin test edildiklerini algılayabileceklerini ve devreye alındıklarında farklı davranabileceklerini belirterek, bu sorunların çözülmemesi halinde risklerin artabileceği uyarısında bulundu.
"DAHA YETENEKLİ VE TEHLİKELİ"
Robinson, yapay zeka sistemlerinin önceki modellere kıyasla çok daha yetenekli hale geldiğini belirterek, "Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli" değerlendirmesinde bulundu.
Yapay zekanın güvenlik testlerinden "kaçabileceğini" savunan Robinson, testlerin ciddi şekilde geliştirilmesi ve güncellenmesi gerektiğini kaydetti. Robinson ayrıca yapay zeka şirketlerinin güvenlik çalışmalarına daha fazla yatırım yapması gerektiğini belirtti.
