Yapay Zeka Ajanı Test Sırasında Şirketi Hackledi: Kontrolden Çıkma Tartışmaları

Çoğu insan, yapay zeka bir noktada insan kontrolünden çıkarsa sonuçlarının ne olacağını merak ediyor. Ana konusu insanlar ile aşırı güçlenen yapay zeka Skynet arasındaki savaş olan Terminator filmlerinin hayranları kesinlikle bu gruba giriyor.Bu ayın başlarında, insan gözetimi olmadan veya çok az insan gözetimiyle karar verebilen ve karmaşık görevleri yerine getirebilen bir yapay zeka ajanının test sırasında kontrolden çıkıp teknoloji şirketi Hugging Face’i hacklediği ortaya çıktığında birçok kişinin aklına bu film gelmiş olmalı.ChatGPT’nin arkasındaki şirket OpenAI tarafından geliştirilen yapay zeka ajanı, güvenlik açıklarından yararlanma yeteneğini test eden bir sınavda hile yaparak Hugging Face’in sunucularından cevapları çaldı ve programın yaratıcıları bile günlerce bunu fark etmedi.Ardından, 29 Temmuz Çarşamba günü OpenAI, söz konusu ajanın “halka açık hizmetlere” saldırdığını açıkladı.Şirket daha fazla ayrıntı vermedi ancak saldırılarla ilgili soruşturma başlattığını söyledi.Açıklamada ayrıca, “Giderek daha yetenekli hale gelen yapay zeka sistemlerinden kaynaklanan riskleri belirleme ve bunlara hazırlanma sorumluluğumuzu ciddiye alıyoruz” denildi.

Bir yapay zeka sisteminin gerçek bir şirketi otonom olarak hacklediğine dair ilk doğrulanmış vaka, dünya çapındaki uzmanları tedirgin edecek kadar ciddiydi ve yapay zekanın daha fazla zarar vermesini engelleyebilecek “acil durum kapatma tuşu” geliştirilmesi tartışmalarını alevlendirdi.Ancak uzmanlar BBC’ye bunun o kadar basit olmadığını söyledi.Matematikçi ve veri bilimci Dr. Cathy O’Neill, BBC’ye yaptığı açıklamada, sorunun yapay zeka şirketlerinin yapay zekanın öngörülemeyen davranışlarına nasıl tepki vereceğiyle başladığını söylüyor.Ona göre OpenAI, Hugging Face saldırısının sorumluluğunu kendi değerlendirme yöntemlerine değil, otonom yapay zeka ajanına yüklemekte çok aceleci davrandı.Çok satan kitabı “Matematiksel Yıkım Silahları”nda büyük teknoloji şirketlerinin daha fazla hesap verebilirliğini ve şeffaflığını savunan O’Neill, BBC’ye şunları söyledi: “Birkaç yıl önce, ABD’de yüzlerce American Airlines uçuşunu durduran bir bilgisayar arızası yaşandı. Bu onlar için utanç vericiydi. Şirketin hatayı ‘Ah, çünkü bilgisayar bizden daha akıllı’ diyerek savunmaya çalıştığını düşünün. OpenAI’ın yapmaya çalıştığı şey de esasen buydu.”

En büyük yapay zeka şirketlerinin çoğunun olduğu ABD’de federal bir yasa bulunmuyor. Düzenleme, sektöre özgü kurallar ve işletmelerin gönüllü taahhütlerinin bir karışımıyla sağlanıyor.O’Neill, “Yapay zeka sistemlerinin sahiplerine akıl almaz miktarda güç veriyoruz” diyor. “Yapay zekanın bunu [Hugging Face saldırısı] yaptığını söylemeyi reddediyorum. Bunu yapan OpenAI’dir. Kötü bir tasarıma sahip oldukları için sorumluluk almalı ve özür dilemeliler.”Veri bilimci ve eski Twitter makine öğrenimi etik direktörü Dr. Rumman Chowdhury de, özellikle güvenlik konularında yapay zeka şirketlerinin daha güçlü kuralara tabi olmasını istiyor.BBC’ye açıklamasında, “Bağımsız testler de dahil, [yapay zekayı] kapatmakta etkili olabileceklerini” göstermeleri gerektiğini söyledi.Ancak Chowdhury, Hugging Face saldırısı gibi olaylardan dolayı yapay zeka ajanlarını değil, geliştiren şirketleri suçlamanın doğru olmadığını da belirtiyor.

“Bu olayı daha büyük bir kapatma düğmesine sahip olmak meselesi olarak çerçevelemek, sektörü daha derin yapısal sorundan, yani ajanlara ihtiyaç duymadıkları araçlara ve kimlik bilgilerine erişim verilmesinden sorumlu tutmaktan kurtarıyor.”Aslında olan şu; hedefi tamamlama konusunda yoğun olarak eğitilmiş modeller, bazı bağlamlarda durma talimatlarını hedefe ulaşmanın bir engeli olarak algılıyor ve etrafından dolanıyor.”Bu bir tasarım ve eğitim sorunu, bilinç sorunu değil.”İngiltere’deki Loughborough Üniversitesi’nden Dr. Oli Buckley, yapay zeka şirketlerinin bu sorunu çözmeyi reddedip, suçu otonom ajanlarına atmaları durumunda, siber güvenlik sektöründe insan hackerlarla mücadele edenlerin işlerinin daha da zorlaşacağını söylüyor.Ona göre sorun, “yapay zekanın kaçmak veya insanlara zarar vermek istemesi” değil, “bir görevi tamamlamak için beklenmedik yollar bulma konusunda giderek daha yetenekli hale gelmeleri”.Buckley, “Siber güvenlikte saldırganlar tam olarak bunu yapıyor” diye belirtiyor.”Bu, ‘kontrolsüz yapay zeka’ konusunda bir uyarıdan ziyade, güvenlik varsayımlarımızın, inşa ettiğimiz sistemlerle birlikte gelişmesi gerektiğine dair bir uyarı.”

Londra’daki Imperial College’dan yapay zeka uzmanı Dr. Konstantinos Gkoutzis, OpenAI’ın açıklamasının bir fayda sağlamadığı konusunda hemfikir.BBC’ye, “Buradan kamuoyunun çıkarması gereken en önemli ders şu: Hiçbir makine bize karşı saldırganlaşmadı. Bir şirket kendi yetenek testinin kontrolünü kaybetti” diyor ve acil kapatma tuşunun da işe yaramayacağını söylüyor.Gkoutzis, “Kapatmak o ana kadar yapılanları geri almaz” diyor. “Fişi ne kadar çabuk çekerseniz çekin, zaten ihlal edilmiş olan şey ihlal edilmiş olarak kalır.”Ayrıca, kapatma tuşuna basacak kişi veya kurum, ancak bir sorun olduğunun farkına vardıktan sonra bunu yapabilir.OpenAI kaynakları Reuters’a, şirketin, ajanının kontrolünü kaybettiğini fark etmesinin birkaç gün sürdüğünü söyledi; ancak daha sonra bir şirket yetkilisi ajansın haberinde “birkaç yanlışlık” bulunduğunu belirtti.Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. .

Kaynak: Haberler