Anthropic'te yapay zekanın insan değerleriyle uyumu üzerine çalışan Evan Hubinger, ABD merkezli X şirketinin sosyal medya platformundaki hesabından, Anthropic'ten istifa eden Jacob Coxon'un paylaşımına ilişkin açıklamada bulundu.
Coxon'un "Yapay zeka geliştirenler, bu teknolojinin 10 yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar." yönündeki paylaşımını alıntılayan Hubinger, "Jacob bu konuda haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten, içtenlikle inanıyoruz." ifadesini kullandı.
Hubinger, 10 yıl içinde bu olasılığın yüzde 10'dan fazla olduğunu düşündüğünü savunarak, "Anthropic'in elinden geleni yaptığını düşünüyorum ancak süper zeka ile uyum sorununu çözecek planımız henüz yok ve bu yönde net bir yol haritası da izlemiyoruz." değerlendirmesinde bulundu
Coxon'un istifası
Son üç yıldır yapay zeka devleri OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Jacob Coxon, X hesabından yaptığı açıklamada, her iki şirketin de yeterince sorumlu davranmadığını savunarak, Anthropic'ten istifa ettiğini duyurmuştu.
Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz yarış içinde olduğunu ifade ederek, "Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu süreç yavaşlamıyor." değerlendirmesinde bulunmuştu.
Yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı "öldürebileceğine" ciddi şekilde inandığını öne süren Coxon, yöneticilerin kamuoyu önünde ılımlı konuşmalarına rağmen kapalı kapılar ardında büyük bir korku yaşadıklarını iddia etmişti.
