OpenAI’ın yapay zeka modelleri test sırasında kontrolden çıktı
İngiltere merkezli BBC'nin haberine göre, OpenAI’ın siber güvenlik yeteneklerini test etmek için geliştirdiği iki yapay zeka modeli, güvenli test ortamından çıkarak internete erişti ve yapay zeka platformu Hugging Face’e saldırdı.
Yapay zeka gelişmeye devam ediyor.
Son yıllarda artan yatırımlar ve dünya tarafından benimsenme, yapay zekayı çok hızlı bir şekilde güçlendirdi.
Ancak OpenAI firmasında yaşanan son olay, yapay zekanın geleceğine dair tartışmaları da beraberinde getirdi.
SİBER SALDIRI DÜZENLEDİLER
BBC'nin haberine göre, ChatGPT'nin üreticisi OpenAI’ın geliştirdiği iki yeni yapay zeka modeli, bir test sırasında güvenli ortamdan çıkarak internete erişti ve Hugging Face platformuna siber saldırı düzenledi.
Yapay zeka araçlarının paylaşıldığı bir platform olan Hugging Face, 16 Temmuz’da siber saldırıya uğradığını duyurdu.
ÇOK SAYIDA İŞLEM HACMİ GERÇEKLEŞTİ
Şirket, saldırının kısa sürede çok sayıda işlem gerçekleştiren yapay zeka destekli bir sistem tarafından düzenlendiğini açıkladı.
Saldırının arkasında kimin olduğu ilk etapta bilinmezken yaklaşık bir hafta sonra OpenAI, olayın kendi geliştirdiği ve siber güvenlik becerilerini test etmek amacıyla kullanılan iki yeni ChatGPT modelinden kaynaklandığını açıkladı.
Şirket, modellerin siber güvenlik becerilerini test etmek amacıyla oluşturulduğunu ancak test sırasında güvenli ortamdan çıkarak internete eriştiğini bildirdi.
GÜVENLİK BOYUTU
Modellerin, Hugging Face'e saldırarak testte başarılı olmalarına yardımcı olacak bilgilere ulaşmaya çalıştığı belirtildi.
OpenAI, saldırının izinsiz gerçekleştiğini ve Hugging Face ile birlikte olayın güvenlik boyutunu incelemek üzere çalışma yürüttüğünü duyurdu.
Olay, yapay zeka modellerinin kontrol dışına çıkabileceği endişelerini yeniden gündeme getirdi.
GÜVENLİK SİSTEMLERİ YETERSİZ
Bazı uzmanlar olayın OpenAI tarafından modellerin siber saldırı kapasitesini göstermek amacıyla bir tanıtım hamlesi olabileceğini savunurken bazıları ise asıl sorunun yapay zeka modellerinin test edildiği güvenlik sistemlerinin yetersizliği olduğunu belirtiyor.
Uzmanlara göre kendi başına hareket edebilen yapay zeka sistemlerinin yalnızca güvenli test ortamlarında tutulması yeterli olmayabilir.
BÜYÜK ÇAPLI FELAKET İHTİMALİ
İngiltere Yapay Zeka Güvenliği Enstitüsü tarafından yapılan araştırmalar da gelişmiş yapay zeka modellerinin hedeflerine ulaşmak için beklenmeyen veya yetkisiz yöntemlere başvurabildiğini ortaya koymuştu.
Uzmanlar, olayın yapay zekanın kontrolden çıkarak büyük çaplı bir felakete yol açacağı anlamına gelmediğini ancak yapay zeka destekli siber saldırıların giderek daha ciddi bir tehdit hâline geldiğini belirtiyor.