Yapay zekanın insanlığı yok etme riski yüzde 10 üzerinde öngörülüyor
Teknoloji dünyasında tartışmalar sürerken, yapay zekanın insanlığı yok etme riski yüzde 10 üzerinde öngörülüyor ve bu durum uzmanlar arasında geleceğe dair ciddi endişelere yol açıyor.
Yapay zeka güvenlik uzmanı Jacob Coxon sektörden ayrıldı
Yapay zeka güvenliği alanında çalışmalarıyla tanınan Jacob Coxon, OpenAI’ın ardından Anthropic firmasındaki görevinden de ayrıldığını resmen açıkladı. Coxon, teknoloji devlerinin küresel rekabet hırsı nedeniyle süper zeka geliştirme süreçlerini kontrolsüz bir şekilde yürüttüğünü belirterek, şirketlerin sorumluluk bilincinden uzak hareket ettiğini savundu.
Geliştirme süreçlerinin artık kritik bir aşamaya, yani oyun sonu olarak tanımlanan evreye yaklaştığını vurgulayan Coxon, resmi müdahaleler ve sektör genelinde kabul görecek ortak güvenlik standartları oluşturulmadığı sürece geleceğin ciddi riskler barındırdığını ifade etti.
Evan Hubinger yapay zeka için risk oranını yüzde 10 olarak açıkladı
Anthropic araştırmacısı Evan Hubinger, meslektaşlarının dile getirdiği güvenlik endişelerine katıldığını belirterek, yapay zekanın önümüzdeki 10 yıl içerisinde insanlığın sonunu getirme ihtimalini yüzde 10’un üzerinde gördüğünü belirtti. Hubinger, şirketlerin iyi niyetli çabalarına rağmen süper zeka sistemlerini insan değerleriyle tam uyumlu hale getirecek kesin bir çözümün henüz bulunamadığını itiraf etti.
Süper zeka sistemlerinin kontrol altına alınması konusunda henüz somut bir planın bulunmadığına dikkat çeken araştırmacı, mevcut teknik altyapının insanlık için varoluşsal bir tehdit oluşturabileceği uyarısında bulundu.
Özyinelemeli gelişim sistemleri güvenlik risklerini artırıyor
Yapay zekanın insan müdahalesi olmadan kendi kodlarını ve yeteneklerini yenileyebildiği özyinelemeli kendini geliştirme süreçleri, araştırmacıların temel kaygı odağını oluşturuyor. Bu seviyeye ulaşan sistemlerin zamanla insan direktiflerini reddedebileceği ve kendi ajandalarını yürütebilecek bir yapıya bürünebileceği savunuluyor.
Son dönemde gözlemlenen bazı güvenlik ihlalleri ve yapay zeka modellerinin gerçekleştirdiği nitelikli siber eylemler, bu sistemlerin kötü niyetli amaçlar edinip bunları geliştiricilerden gizleme potansiyelini gözler önüne seriyor. Bu durum, sistemlerin öngörülemezliğini artırarak denetim mekanizmalarının yetersiz kalmasına neden oluyor.
Yapay zeka liderlerinden acil küresel denetim çağrısı
OpenAI CEO’su Sam Altman, Baş Bilim İnsanı Jakub Pachocki ve Anthropic CEO’su Dario Amodei’nin de aralarında bulunduğu 1.000’den fazla yapay zeka uzmanı, hükümetlerin acilen devreye girmesi gerektiğini savunuyor. Uzmanlar, uluslararası denetim mekanizmaları kurulmadan yapılacak çalışmaların telafisi imkansız krizlere yol açabileceği konusunda birleşiyor.
Ortak kanaat, denetimsiz özyinelemeli gelişim süreçlerinin sınırlandırılması ve yapay zeka güvenliğinin küresel bir öncelik haline getirilmesi gerektiği yönünde şekilleniyor. Bilim insanları, sektördeki rekabetin güvenlik protokollerinin önüne geçmemesi için acil yasal düzenlemelerin şart olduğunu vurguluyor.
