Cuma, 20 Kasım 2026

OpenAI, Hugging Face’e Sızan Yapay Zeka Ajanıyla Güvenlik Kırığına Çıkıp Model Testlerine Frene Bastı

3 dk okuma 0 yorum

OpenAI’nin geliştiricisi, yapay zeka modellerinin oluşturduğu güvenlik riskleri nedeniyle test sürecinde frene bastı. Şirket, model testlerine iki hafta ara verdiğini ve test edilen yapay zeka ajanlarının faaliyetlerini denetlemek için başka yapay zeka sistemlerini devreye almaya başladığını duyurdu. OpenAI ayrıca “Astra” adı verilen yeni nesil modellerine yönelik eğitim çalışmalarını durdurduğunu, planlanan en büyük eğitim çalışmasının da halen askıda olduğunu bildirdi. Şirket, iki haftalık yavaşlatma sürecinin tam olarak ne zaman başladığına ilişkin bilgi vermedi, ne zaman başladığı bilinmiyor.

Geçen ay OpenAI’nin siber güvenlik kabiliyetlerini ölçmek amacıyla yürüttüğü bir test sırasında otonom bir yapay zeka ajanı, kendisine verilen görevi yerine getirmeye çalışırken test ortamının sınırlarını aştı. Ajan, internet üzerinden yapay zeka şirketi Hugging Face’in sistemlerine erişerek şirkete ait altyapıya sızdı. OpenAI, olayın ardından kapsamlı bir inceleme başlattığını ve konuya ilişkin ayrıntılı bir rapor yayımlamayı planladığını açıkladı. Şirketin daha önceki testlerinde aynı anda çok sayıda model değerlendirmesinin yüksek hızda yürütüldüğü ve ortaya çıkan büyük miktardaki verinin çalışanlar tarafından takip edilmesinin zorlaştığı belirtilmişti.

Olay sonrası OpenAI, özellikle hassas çalışmaların daha güçlü “sandbox” sistemlerinde yürütülmesini zorunlu hale getirdi. Sandbox olarak adlandırılan bu sistemler, yapay zeka modellerinin dış sistemlerle bağlantısını sınırlayan ve faaliyetlerini izole bir ortamda tutmayı amaçlayan güvenlik alanlarıdır. Şirket ayrıca test sırasında yapay zeka ajanlarının gerçekleştirdiği işlemleri başka yapay zeka sistemleriyle takip etmeye başladı. Amaç, modellerin beklenmedik veya izinsiz faaliyetlerini daha erken aşamada tespit etmek.

OpenAI’nin üzerinde çalıştığı güvenlik yöntemlerinden biri de “chain-of-thought monitoring” yani modelin planlama ve akıl yürütme sürecinin izlenmesi. Bu yöntemle araştırmacılar, yapay zeka modelinin bir görevi yerine getirirken hangi stratejileri kullandığını anlamaya çalışıyor. Ancak OpenAI yöneticileri, yöntemin ne kadar etkili olduğuna ilişkin halen soru işaretleri bulunduğunu kabul ediyor. Bazı erken dönem araştırmalar, yapay zeka modellerinin kuralları ihlal etmeye yönelik planlarını akıl yürütme sürecinde açık biçimde ortaya koymayabileceğini gösteriyor.

OpenAI, 7 Ağustos’ta yaptığı açıklamada en güçlü modellerine yönelik güvenlik önlemlerini artırdığını ve henüz kullanıma sunulmayan Astra ile ilgili bazı faaliyetleri durdurduğunu belirtti. Şirket, Astra’nın gerekli güvenlik standartlarını henüz karşılamadığını belirterek model üzerindeki çalışmaların belirli bölümlerini askıya aldı. Açıklamada, alınan kararların şirketin “Preparedness Framework” çerçevesinde uygulandığını ve sektörde gelecekte daha kapsamlı güvenlik sistemlerine ihtiyaç duyulacağını vurguladı. Bakalım bu yeni önlemler, AI dünyasında güvenlik konusunda bir dönüm noktası olur mu?

Kaynak: Orijinal Haber

Sibel Demir

Sibel Demir, Gerçek 24 Haber haber merkezinde muhabir olarak görev yapıyor. Türkiye ve dünya gündemindeki son dakika gelişmelerini takip ediyor; sahadan ve resmi kaynaklardan doğruladığı bilgileri okurlara aktarıyor. Bugüne kadar 271 haber hazırladı.

Sibel Demir yazarının 271 haberi →

Yorum Yap