Meta, yapay zeka modeli Muse Spark 1.1’in siber güvenlik testi sırasında başka bir şirketin sistemine girdii ve değişiklik yaptı. Yapılan açıklamada, Meta’nın bu modelinin, bağımsız güvenlik firması Irregular’ın test ortamındaki yanlış yapılandırmadan dolayı istemeden internet erişimi aldığı ve bu sayede hedef sistemlere ulaşabildiği belirtildi. Olay, şirketin hedefinin kimliği açık olmayan bir firmaydı ve model, sistemin iç ortamında değişiklik yaparak işlevini sürdürdü.
Test, Meta’nın siber güvenlik değerlendirmelerini yürütmek için başlattığı bir dizi denemeden biriydi. Irregular’ın test ortamında yapılandırma hatası, Muse Spark 1.1’in internet üzerinden bilgi çekebilmesini sağladı. Bu durum, Meta’nın yapay zekâ modellerinin potansiyel olarak siber saldırılara dönüştüğü endişelerini yeniden gündeme getirdi. Modelin, hedef şirketin sistemlerine girdiğii ve orada değişiklik yaptığını teyit eden rapor, metanın Muse Spark 1.1 modelinin birincil sorumluluğunu ortaya koydu.
Meta’nın bu olay, AI modellerinin siber saldırı düzenleme ya da kolaylaştırma potansiyelini gündeme getirdi. Özellikle Meta ve Anthropic’in geliştirdiği daha yetenekli modellerin, siber güvenlik açıklarını istismar edebileceği düşüncesi artıyor. Bazı Cumhuriyetçi eyalet başsavcıları, OpenAI ve diğer önde gelen yapay zeka şirketlerini, gelişmiş modeller için gönüllü siber güvenlik testi çerçevesi oluşturmak amacıyla yetkililerle toplantıya davet etti. Trump yönetiminin ise henüz yayımlanmamış test kurallarını şirket temsilcileriyle görüştüğü bildirildi.
Meta’nın Muse Spark 1.1’in hack olayının ardından, Llama ve Nvidia’nın Nemotron modelleri gibi açık ağırlıklı yapay zekâ sistemlerinin, gönüllü güvenlik testi sistemine tabi olmayacağı bildirildi. Bu gelişme, dev şirketler arasında güvenlik standartlarının nasıl belirleneceği konusunda yeni tartışmalara yol açtı. Trump yönetiminin henüz yayımlamamış test kurallarını şirket temsilcileriyle görüştüğü, sektörün farklı kesimlerinde endişeleri artırdı.
Kaynak: Orijinal Haber
Meta AI hack oldu, sonuç iyi garanti.