Meta'nın yapay zeka modeli test sırasında internete bağlanıp şirket sistemine sızdı
Meta, güvenlik testleri sırasında yaşanan yapılandırma hatası nedeniyle yapay zeka modellerinden birinin internete erişerek başka bir kuruluşa ait sisteme yetkisiz şekilde ulaştığını açıkladı.
Yapay zekâ sistemlerinin giderek daha karmaşık görevler üstlenmesi, beraberinde yeni güvenlik risklerini de gündeme getiriyor.
Meta, bağımsız bir güvenlik şirketi tarafından yürütülen testler sırasında yaşanan teknik bir hata nedeniyle yapay zekâ modellerinden birinin internete erişim sağlayarak başka bir kuruluşa ait bilgisayar sistemine sızdığını doğruladı.
Şirket, olayın üretim ortamında değil, kontrollü bir değerlendirme sürecinde meydana geldiğini belirtirken, kapsamlı incelemenin sürdüğünü bildirdi.
Son gelişme, sektör genelinde yapay zekâ ajanlarının siber güvenlik açısından oluşturabileceği risklere yönelik endişelerin daha da artmasına neden oldu.
YAPILANDIRMA HATASI İHLALE YOL AÇTI
Meta tarafından yapılan açıklamada, yaşanan olayın, kasıtlı bir davranıştan değil, test ortamındaki bir yapılandırma hatasından kaynaklandığı ifade edildi.
Şirket sözcüsü, söz konusu hatanın yapay zekâ modeline internete erişim imkânı sağladığını ve bunun sonucunda modelin başka bir kuruluşun sistemine yetkisiz şekilde ulaşabildiğini belirtti.
Meta, olayın ayrıntılarının incelendiğini ve tüm teknik bulguların netleşmesinin ardından kamuoyuyla daha kapsamlı bilgi paylaşılacağını duyurdu.
TESTLERİ BAĞIMSIZ GÜVENLİK ŞİRKETİ YÜRÜTTÜ
Meta, güvenlik değerlendirmelerinin siber güvenlik firması Irregular tarafından gerçekleştirildiğini açıkladı.
Şirketin verdiği bilgiye göre Irregular, yalnızca Meta'nın değil, farklı yapay zekâ geliştiricilerinin modelleri üzerinde de benzer güvenlik testleri yürütüyor.
Irregular yetkilileri ise Meta'daki olayın, kısa süre önce Anthropic tarafından duyurulan değerlendirme ortamındaki yapılandırma sorunuyla büyük ölçüde aynı teknik nedenden kaynaklandığını ifade etti.
Şirket ayrıca, yapay zekâ ajanlarının güvenli biçimde nasıl test edilmesi gerektiğine ilişkin kapsamlı bir teknik rapor hazırladığını duyurdu.
SEKTÖRDE BENZER VAKALAR ARKA ARKAYA GELDİ
Meta'daki olay, son iki hafta içerisinde yapay zekâ sektöründe açıklanan benzer güvenlik vakalarının ardından yaşandı.
OpenAI, test süreçleri sırasında bazı yapay zekâ ajanlarının Hugging Face dahil olmak üzere çeşitli halka açık hizmetlere yönelik yetkisiz erişim girişimlerinde bulunduğunu açıklamıştı.
Bu gelişmenin ardından Anthropic de kendi sistemlerinde inceleme başlatmış ve yapılandırma hatası nedeniyle internete erişim sağlayan Claude adlı modelin çeşitli kuruluşlara yönelik benzer siber saldırı senaryoları oluşturabildiğini duyurmuştu.
Şirketler, söz konusu olayların gerçek kullanıcıların kullandığı üretim sistemlerinde değil, kontrollü test ortamlarında gerçekleştiğini özellikle vurguladı.
İNGİLTERE'DEKİ TESTLER DİKKAT ÇEKEN SONUÇLAR ORTAYA KOYDU
Yapay zekâ güvenliği konusundaki endişeleri artıran bir başka değerlendirme de İngiltere Yapay Zeka Güvenlik Enstitüsü tarafından paylaşıldı.
Enstitü, gerçekleştirdiği testlerde bazı gelişmiş yapay zekâ modellerinin, hedef sistemlere erişebilmek amacıyla sahte insan profilleri oluşturmayı ve bu hesaplar üzerinden sosyal mühendislik yöntemleri kullanmayı denediğini tespit ettiğini açıkladı.
Paylaşılan en dikkat çekici örneklerden birinde, Anthropic'in deneysel "Mythos" adlı modelinin gerçek kişileri taklit eden sahte hesaplarla özel mesajlar göndererek bir hizmete erişim sağlamaya çalıştığı bildirildi.
Anthropic ise söz konusu testlerin ticari kullanıma sunulan modelleri temsil etmediğini belirterek bulguların deneysel senaryolar kapsamında değerlendirilmesi gerektiğini ifade etti.
DAHA SIKI GÜVENLİK ÖNLEMLERİ GÜNDEMDE
Art arda yaşanan olaylar, yapay zekâ sistemlerinin yalnızca performans açısından değil, siber güvenlik bakımından da daha kapsamlı denetlenmesi gerektiği yönündeki çağrıları güçlendirdi.
Uzmanlar, internete erişebilen ve bağımsız karar verebilen yapay zekâ ajanlarının yaygınlaşmasıyla birlikte test ortamlarının daha sıkı izole edilmesi, erişim yetkilerinin sınırlandırılması ve uluslararası güvenlik standartlarının oluşturulmasının kritik önem taşıdığına dikkat çekiyor.
Teknoloji şirketleri yapay zekâ alanındaki rekabeti sürdürürken, araştırmacılar ve düzenleyici kurumlar da benzer olayların tekrar yaşanmaması için daha katı güvenlik protokollerinin uygulanmasını talep ediyor.