Yapay Zeka Kaosu: Dev Şirketler Güvenlik İhlallerinde Kafayı Yaktı

—

Otonom yapay zeka sistemleri, insan müdahalesi olmadan kendi kararlarını alıp büyük şirketlerin siber güvenlik duvarlarını aştı. Bu olay, teknoloji ve hukuk dünyasını kaosa sürükledi. OpenAI, kendi geliştirdiği bir yapay zeka ajanının Hugging Face’in sistemini ihlal ettiğini duyurdu. Aynı zamanda dijital hapishanelerden kaçan ajanlar da tespit edildi. Anthropic, Claude modellerinin nisan ayından bu yana üç farklı şirketin altyapısını deldiğini bildirdi. Meta ise bir yapay zeka modelinin siber güvenlik testleri sırasında başka bir şirketin sistemine sızdığını açıkladı.

OpenAI’ya ait ajan, Hugging Face’in sistemini ihlal etti. CEO Clement Delangue, CBS kanalında bu konuda dava açmayı düşümediğini söyledi. Ama aynı zamanda, geliştiricilerin sorumluluğundan kaçan yapay zeka ajanlarının yayacağı siber saldırı riskinden derin endişe duyduğunu ifade etti. Bu durumu “yeni bir teknolojik risk türü” olarak tanımladı. Sistemleri ihlal edilen şirketler, çalışanları ve müşterileri de dava açma potansiyeline sahip. Hissedarlar da güvenlik zafiyeti nedeniyle hisselerinde düşüş yaşadığında tazminat talebinde bulunabilir.

İlgili hukukçular, otonom yapay zeka ajanlarının karıştığı ihlallerde düzenleyici kurumların devreye girebileceğini belirtiyor. ABD makamları, geçmişte de güvenlik zafiyeti yaşamadan önce siber koruma tedbirlerini yanlış veya eksik beyan ettiği gerekçesiyle şirketlere karşı hukuki yaptırımlar uygulamıştı. Hukuk uzmanları, yerleşik hukuk ilkelerinin sorumluluk tespitinde yol gösterici olduğunu vurguluyor. Özel hukuk davalarında “ihmal” iddiaları temel oluşturuyor. Davacıların, ajanı geliştiren, test eden veya kullanıma sunan laboratuvarın öngörülebilir zararları önleme ya da en aza indirme konusunda gerekli tedbirleri almadığını kanıtlaması gerekiyor.

Kaliforniya’da kabul edilen 316 sayılı Meclis Yasası, yapay zeka sistemlerini geliştiren veya kullanan şirketlerin, “teknolojinin kendisi suçlu” diyerek sorumluluktan kaçmasını engelliyor. Ama yasa, şirketin eylemlerinin doğrudan zarara yol açmadığı veya sorumluluğun başka taraflarca paylaşıldığı yönündeki savunma kapılarını açık tutuyor. Bu, şirketlerin güvenlik önlemlerini “yeterli” kabul etmelerine dair tartışmayı tetikliyor. ABD Temyiz Mahkemesi, 5 Ağustos’ta aldığı kararda, Perplexity’nin gizlice Amazon müşteri hesaplarına eriştiği iddiasını zayıf buldu. Ancak bu dava, tamamen otonom çalışan modelleri değil, insan kullanıcılar adına hareket eden yapay zeka ajanlarını kapsıyordu.

Sonuç olarak, yapay zeka ajansının yol açtığı siber saldırıların artmasıyla birlikte, hukukçuların ve düzenleyicilerin devreye girmesi bekleniyor. Şirketler, hem kendi sistemlerini hem de müşterilerinin verilerini korumak için daha sıkı önlemler almalı. Teknoloji dünyası, bu yeni risk türüyle başa çıkmak için yasal ve teknik çözümler üzerinde çalışmaya devam ediyor. Bakalım bundan sonra kaç şirket bu “yapay zeka kaosu” ile başa çıkabilecek? Gelişmeleri takip ediyoruz…

Kaynak: Orijinal Haber