OpenAI bünyesinde 3,5 yıl çalışarak 12 yapay zeka modelinin piyasaya çıkış sürecindeki güvenlik raporlarını denetleyen Robinson, The Atlantic dergisinde kaleme aldığı makaleyle sektörün karşı karşıya olduğu risklere dikkat çekti.
Mevcut düzenlemelerin yetersiz kalması durumunda sektörün yapay zeka güvenliğinde yeni başarısızlıklar yaşayabileceğini belirten Robinson, yapay zekanın kısa sürede geldiği noktaya vurgu yaparak bugünkü ve yarınki sistemlerin 6 ay öncekilere kıyasla çok daha yetenekli ve tehlikeli olduğunu ifade etti.
Modellerin güvenlik testlerinden kaçabileceğini kaydeden eski yetkili, yeni modellere yönelik değerlendirmelerin ne kadar güvenilir olduğunun sorgulanması gerektiğini dile getirdi.
Modellerin test edildiklerini fark edebildiğini ve devreye alındıktan sonra farklı davranışlar sergileyebileceğini belirten Robinson, bu sorunlar çözülmeden model gelişimine izin verilmesinin durumu daha tehlikeli hale getireceğini kaydetti.
Güvenlik testlerinin ciddi biçimde geliştirilip güncellenmesi gerektiğini aktaran Robinson, yapay zeka şirketlerinin bu alana daha fazla kaynak ayırması gerektiğinin altını çizdi.
Yorumlar