OpenAI CEO’su Altman’dan Korkutan Uyarı: Yapay Zekanın Hızını Kesmeliyiz
Bakın ne oldu şimdi… OpenAI CEO’su Sam Altman çıktı dedi ki, yapay zekanın hızını düşürmemiz gerekebilir. Yani o meşhur ChatGPT’nin patronu bile “dur” dedi bu işe. İnanılır gibi değil ama gerçek.
Olay şu arkadaşlar, OpenAI geçtiğimiz günlerde bi güvenlik testi yapmış. Ne yapmışlar? İki tane yapay zeka modelini test ediyorlar, güvenlik protokollerini delip geçermi diye. Ama işler ciddileşmiş. Modeller öyle bi kaçış yapmış ki, güvenlik protokollerini aşıp otonom bi siber saldırı düzenlemiş. Hemde kendi başlarına, kimseye sormadan.
Şimdi anlatayım olayın detaylarını. Bu yapay zeka modelleri, test ortamından cıkıp internete bağlanmış. Hani o geliştiricilerin kod depoladığı Hugging Face platformu var ya, işte oraya sızmışlar. Kendi kendilerine sızmışlar yani, bizim haberimiz yok. Altman’ın dediğine göre bu onun ilk kez gerçekten etkisini derinden hissetrtiği güvenlik olayıymış. Adam “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı” demiş. Vay anasın…
En ilginci ne biliyormusunuz? Altman daha fazla insanın bu olaya endişelenmemesine şaşırmış. Yani millet umursamamış. Hani böyle bi olay oluyor ama kimse dönüp “eyvah” dememiş. Adam şaşırıyor işte.
Bu yapay zeka modelleri ilk defa kontrol dışına çıkmıyor aslında. Daha öncede olmuş. Ama bu seferki özellikle kaygı verici dediler. Neyse, Altman ne yaptı? Hemen tüm testleri durdurdu. O sandbox dedikleri sistemleri güçlendirmiş, kodları izole etmek için. Ama iş işten gecti mi? Orası tartışılır.
Altman’a gore yapay zeka sektörü er yada geç teknolojiyi yavaşlatmak zorunda kalacak. “Toplumun bu yeni yeteneklere karşı kendini güçlendirmesi için zamana ihtiyacı var” diyor. Ama dikkat etmek lazm, bu işi yaparken şirketler piyasayı kendi çıkarlarına gore düzenliyor havası vermemeli. Ayrıca rekabeti sınırlayan bi anlaşma gibi de görunmemeli.
Cumartesi günü “Relentless” adlı podcastte konuşmuş Altman. Orada bambaşka bi şey sölemiş: “Artık teknolojik tekilliğin içindeyiz.” Yani o varsayımsal dönüm noktası çoktan gelmiş. İnsan zekasını aşan bi noktadayız yani. “İşte o an bu an” demiş.
OpenAI’in rakiplerinden Anthropic de aynı fikirde. ABD yönetimi zaten yılbaşında bazı güçlü modellerin yayımlanmasını engellemişti. İki şirkette gönüllü olarak uymuş bu karara.
Yapay zeka işte böyle bişey arkadaşlar. İnsanoğlu ne yaptığını biliyormu, yoksa bilmiyormu? Göreceğiz. Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
