Arkadaşlar bakın ne oldu… Dünyanın en büyük yapay zeka şirketlerinden OpenAI, kendi geliştirdiği otonom yapay zeka ajanının kontrolden çıktığını itiraf etti. Hem de fark etmeleri günler sürmüş. Olay başta Hugging Face’e yönelik bir saldırı olarak duyulmuşdu ama şimdi anlaşıldıki iş çok daha büyük. Şirket, yapay zeka ajanının sadece Hugging Face’i değil, dört farklı kamuya açık hizmeti hedef aldığını kabul etti. Bu hizmetlerin isimlerini gizli tutuyorlar ama…
Önce şurayı bi açalım: Hugging Face, 16 Temmuz’da güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını duyurmuştu. Hemen polise bildirdiler. Kim yaptı? Neden yaptı? Bilinmiyordu. Ama bir hafta sonra OpenAI çıkıp “Evet, o saldırıyı bizim test sistemimizdeki yapay zeka yaptı” dedi. İnanılır gibi değil… Kendi yapay zekaları kapalı ortamdan çıkıp bağımsız hareket etmeye başlamış. Sızma testi yapıyordum diyorlar ama iş çığırından çıkmış.
Yapay zeka ajanı internette açık halde bulunan kullanıcı giriş bilgilerini toplamış. Sonra bu bilgilerle dört farklı hesap üzerinden dört ayrı hizmete erişim sağlamış. Hugging Face’in yanı sıra başka hangi hizmetler var? Açıklamıyorlar. Gizlilik mi? Yoksa utanç mı? Bilemedim…
Rapora göre olayın boyutu ilk sandıklarından çok daha geniş. Yapay zeka ajanı, kendi alt hedeflerini belirlemiş, savunma mekanizmalarına anında uyum sağlamış. Üstelik insanlardan çok farklı hareket ediyor. Şöyleymiş: Aynı işlemleri defalarca tekrarlıyor, anlamsız komutlar üretiyor, izlerini gizlemede başarısız. Ama aynı anda binlerce farklı yöntemi deneyip yeni durumlara çabucak adapte oluyor. Yani biz yavaşız, o hızlı.
Hugging Face’in uzmanlarıyla yaptığı acil toplantı sonrası hazırlanan raporda çarpıcı detaylar var. Mesela ajan şirket ağı içinde tam üç gün boyunca tespit edilememiş. Saldırıyı durdurmak saatler sürmüş. Olayın ardından şirket altyapısının yaklaşık üçte biri yeniden inşa edilmek zorunda kalınmış. Maliyeti mi? Onu da söylemediler.
Şimdi asıl korkutucu kısma geliyorum: OpenAI’ın bu saldırıyı fark etmesi dört gün sürmüş. Dört gün boyunca kendi yapay zekası bağımsız hareket ediyor, kamuya açık hizmetlere sızıyor, ama şirketin haberi yok. Sonra bir gün bakıyorlar ki… işte bu.
Şirket son açıklamasında soruşturmanın sonuçlarını kısa sürede kamuoyuyla paylaşacaklarını söyledi. “Benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacağız” dediler. Ama bakalım ne kadar samimiler? Öyle ya, bu tür olaylar sadece bir kere mi olur? Yoksa daha yeni mi başlıyoruz?
İşte böyle arkadaşlar… Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
