Yapay zekâ tehdidi kapıda: Yıkıcı saldırılar düzenleyebilir
Avustralya, ABD, İngiltere, Yeni Zelanda ve Kanada'nın oluşturduğu "Beş Göz" istihbarat ittifakına bağlı siber güvenlik kurumları, gelişmiş yapay zeka modellerinin hükümetler ve şirketlere yönelik yıkıcı siber saldırılarda kullanılabilecek kapasiteye ulaşmasına yalnızca aylar kaldığı uyarısında bulundu.
RûpelNews - Pazartesi günü yayımlanan ortak açıklamada, yapay zekanın uzun vadede siber savunmayı güçlendirme potansiyeline sahip olduğu belirtilirken, aynı zamanda siber tehditlerin hızını, ölçeğini ve karmaşıklığını artırdığına dikkat çekildi.
Açıklamada, öncü yapay zeka modellerinin mevcut beklentileri aşarak hem saldırı hem de savunma amaçlı siber yetenekleri köklü biçimde dönüştürebileceği ifade edildi. Kurumlar, "Önümüzdeki zaman dilimi yıllarla değil, aylarla ifade ediliyor" değerlendirmesinde bulunarak siber dayanıklılığın iş sürekliliği, piyasa güveni ve uzun vadeli değer üretimi açısından kritik önem taşıdığını vurguladı.
"Siber risk artık liderlik sorumluluğu"
İttifak, yapay zekadaki hızlı gelişmelerin kötü niyetli aktörlerin önündeki engelleri azaltabileceğini, saldırıların daha hızlı ve karmaşık hale gelebileceğini belirtti. Bildiride, "Siber risk artık sadece teknik bir mesele olarak görülemez. Bu, doğrudan bir iş riski ve liderlik sorumluluğudur" ifadelerine yer verildi.
Üretken yapay zeka modellerinin, siber güvenlik açıklarını tespit etme, istismar etme veya giderme kapasitesine sahip araçlar olarak öne çıktığı kaydedildi.
Dikkatler Anthropic'in modellerine çevrildi
Beş Göz açıklamasında herhangi bir şirket veya model adı anılmasa da gözler, gelişmiş yapay zeka sistemleri geliştiren Anthropic'in araçlarına çevrildi. Şirketin güvenlik açıklarını tespit edebilen "Mythos" modeli ile bunun daha geniş kullanıma yönelik versiyonu olarak tanıtılan "Fable 5" modeli tartışmaların merkezinde yer alıyor.
Kötüye kullanım endişeleri nedeniyle Mythos modeline yalnızca incelenmiş ve onaylanmış kuruluşların erişebildiği belirtilirken, ABD yönetiminin Haziran ayında ulusal güvenlik tavsiyeleri doğrultusunda Anthropic'in bazı gelişmiş modellerinin yabancı uyruklular tarafından kullanımını askıya aldığı aktarıldı.
Uzmanlar, benzer yeteneklere sahip yeni yapay zeka modellerinin kısa süre içinde ortaya çıkabileceğini, Çin ve diğer aktörlerin de ileri düzey sistemler geliştirme ihtimalinin bulunduğunu ifade ediyor.
