Yapay zekada insan denetimi 3 yıl içinde kaybolabilir

Yapay zekada insan denetimi 3 yıl içinde kaybolabilir uyarısı, yapay zekâ sistemlerinin hızla özerkleşmesiyle birlikte insan gözetiminin kısa sürede yetersiz kalabileceğine dikkat çekiyor. Uzmanlara göre gelişmiş modellerin karar alma süreçlerinde daha fazla kontrol üstlenmesi, güvenlik, etik ve hesap verebilirlik alanlarında yeni riskler doğurabilir.

Paul Christiano, yapay zekada insan denetiminin 3 yıl içinde kaybolabileceğini söyledi

Alignment Research Center’ın kurucusu ve OpenAI Foundation yönetim kurulu üyesi Paul Christiano, 9-11 Kasım’da Kanada’nın Toronto kentinde düzenlenen Hinton Konferansları’nda yapay zeka üzerinde insan denetiminin üç yıl içinde kaybedilmesi riskini yüksek gördüğünü ifade etti.

Christiano, bu riskin önümüzdeki 6 ila 12 ay içinde de göz ardı edilemeyecek düzeyde olduğunu kaydetti. Araştırmacının tarif ettiği senaryoda sistemlerin kendi hedefleri doğrultusunda hareket ettiği ve insanların gerektiğinde bu davranışları durdurmakta yetersiz kaldığı belirtildi.

Hinton, Christiano’nun erken risk değerlendirmesini kaygı verici buldu

Yapay sinir ağları üzerine çalışmalarıyla 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşan Hinton da toplantının yapay zekanın toplumsal etkilerine ve güvenliğine ayrılan bölümüne katıldı.

Hinton, daha önce yapay zekanın insan zekasını aşmasının 10 yıl içinde mümkün olabileceğini söylediğini hatırlatarak Christiano’nun bu riskin çok daha erken ortaya çıkabileceğine ilişkin değerlendirmesini kaygı verici bulduğunu belirtti. Hinton, bir sistemin yetenekleri arttıkça davranışlarının insan amaçlarıyla uyumlu kalmasının nasıl sağlanacağı sorunu üzerinde durdu.

Hinton, gelişmiş modeller için bağımsız güvenlik denetimi istedi

İleri yapay zeka modelleri kullanıma açılmadan önce geliştiricilerin bunların güvenliğini bağımsız bir kuruma göstermesi gerektiğini savunan Hinton, daha önce El Pais gazetesine verdiği röportajda bu önerisini ilaçların piyasaya çıkmadan önce düzenleyici kurumlar tarafından incelenmesine benzetmişti.

Dublin’deki toplantıda liderler, yapay zekanın istihdama ve demokratik süreçlere etkisinin yanı sıra gelişmiş sistemlerin güvenliği için uluslararası iş birliğini de görüştü. Toplantı, AB ülkelerinin devlet ve hükümet başkanlarının 13 Kasım’da İrlanda’nın başkenti Dublin’de düzenlenen gayriresmi buluşmasında yapay zekayı ilk kez ayrı bir stratejik gündem maddesi olarak ele almasıyla öne çıktı.

Avrupa liderleri Dublin’de istihdam, demokrasi ve güvenliği görüştü

Mistral AI CEO’su Arthur Mensch’in katıldığı oturumda Avrupa’nın kendi modellerini geliştirmesi ve dışa bağımlılığını azaltması konuları ele alındı.

Avrupa Konseyi Başkanı António Costa, konunun 5 Şubat 2027’de Belçika’nın Alden Biesen kentinde yeniden gündeme geleceğini açıkladı. Dublin’deki toplantıda yapay zekanın toplumsal etkileri, güvenliği, istihdama etkisi ve demokratik süreçlere etkisi birlikte değerlendirildi.

AB, yapay zekayı 13 Kasım’da ayrı stratejik gündem yaptı

AB ülkelerinin devlet ve hükümet başkanları, 13 Kasım’da İrlanda’nın başkenti Dublin’de düzenlenen gayriresmi toplantıda yapay zekayı ayrı bir stratejik gündem maddesi olarak ele aldı.

Bu oturumda Hinton, yapay zekanın toplumsal etkilerine ve güvenliğine ayrılan bölüme katıldı. Aynı toplantıda liderler, gelişmiş sistemlerin güvenliği için uluslararası iş birliğini de görüştü.

Toronto’daki Hinton Konferansları 9-11 Kasım’da düzenlendi

Paul Christiano’nun değerlendirmeleri, 9-11 Kasım’da Kanada’nın Toronto kentinde düzenlenen Hinton Konferansları’nda paylaşıldı. Christiano, insan denetiminin üç yıl içinde kaybedilmesi riskini yüksek gördüğünü söyledi.

Christiano ayrıca bu riskin önümüzdeki 6 ila 12 ay içinde de göz ardı edilemeyecek düzeyde olduğunu kaydetti. Tarif ettiği senaryoda sistemlerin kendi hedefleri doğrultusunda hareket etmesi ve insanların bu davranışları gerektiğinde durdurmakta yetersiz kalması yer aldı.

Hinton, insan amaçlarıyla uyumu yapay zekanın temel sorunu olarak anlattı

Hinton, bir sistemin yetenekleri arttıkça davranışlarının insan amaçlarıyla uyumlu kalmasının nasıl sağlanacağı sorunu üzerinde durdu. Yapay sinir ağları üzerine çalışmaları nedeniyle 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşan Hinton, güvenlik başlığındaki tartışmalara katıldı.

Hinton’un bağımsız güvenlik denetimi çağrısı, ileri yapay zeka modelleri kullanıma açılmadan önce geliştiricilerin güvenliği bağımsız bir kuruma göstermesi gerektiği önerisine dayanıyor. Bu öneri, El Pais’e verdiği röportajda ilaçların piyasaya çıkmadan önce düzenleyici kurumlar tarafından incelenmesine benzetilmişti.

Avrupa Konseyi Başkanı Costa, konunun 2027’de yeniden ele alınacağını açıkladı

Avrupa Konseyi Başkanı António Costa, yapay zeka başlığının 5 Şubat 2027’de Belçika’nın Alden Biesen kentinde yeniden gündeme geleceğini açıkladı. Dublin toplantısında ele alınan konular arasında istihdam, demokratik süreçler ve gelişmiş sistemlerin güvenliği de yer aldı.

Mistral AI CEO’su Arthur Mensch’in katıldığı oturumda Avrupa’nın kendi modellerini geliştirmesi ve dışa bağımlılığını azaltması konuşuldu. Böylece Dublin’deki gayriresmi zirvede yapay zeka, AB liderlerinin ayrı bir stratejik gündem maddesi olarak değerlendirdiği başlıklardan biri oldu.