OpenAI'dan ayrılan araştırmacılardan yapay zeka güvenliği için bağımsız denetim çağrısı
OpenAI'da yapay zeka güvenliği alanında çalışan ve görevlerine son verilen üç araştırmacı, giderek daha otonom hale gelen yapay zeka sistemlerinin şirketlerden bağımsız kuruluşlar tarafından denetlenmesi çağrısında bulundu.
ABD merkezli yapay zeka şirketi OpenAI'da daha önce görev yapan üç araştırmacı, yapay zeka sistemlerinin giderek daha bağımsız kararlar alabilmesiyle güvenlik denetiminin öneminin arttığı uyarısında bulundu.
Wall Street Journal'ın (WSJ) haberine göre araştırmacılar, OpenAI'daki görevlerinden ayrılmadan önce şirketin yönetim kurulu üyelerine yapay zeka güvenliği ve denetimine ilişkin bir mektup gönderdi.
YAPAY ZEKA SİSTEMLERİNİN DENETİMİNE DİKKAT ÇEKTİLER
Gazetenin ulaştığı mektupta araştırmacılar, yapay zeka şirketlerinin zamanla modellerin akıl yürütme süreçlerini izleme ve anlama kabiliyetlerini kaybedebileceğine ilişkin endişelerini dile getirdi.
Araştırmacılar, giderek otonom hale gelen yapay zeka sistemlerinin oluşturabileceği risklerin kontrol altında tutulabilmesi için güvenlik denetimlerinin şirketlerden bağımsız kuruluşlar tarafından gerçekleştirilmesi gerektiğini belirtti.
Yapay zeka sektöründe, denetlenmesi mümkün olmayan modellerin nasıl güvenli şekilde geliştirileceği ve kullanıma sunulacağının henüz tam olarak bilinmediğine işaret eden araştırmacılar, OpenAI başta olmak üzere öncü şirketleri, teknolojiyi denetlemeyi daha da güçleştirecek biçimde geliştirmemeleri konusunda uyardı.
OPENAI ÖNERİLERE DESTEK VERDİ
OpenAI sözcüsü ise WSJ'ye yaptığı açıklamada, mektupta yer alan önerilere tamamen katıldıklarını belirterek yapay zeka modellerinin denetlenmesinin şirket açısından büyük önem taşıdığını ifade etti.
Araştırmacıların, bir yapay zeka güvenlik şirketiyle gizli bilgileri paylaştıkları gerekçesiyle OpenAI'daki görevlerinden çıkarıldıkları iddia ediliyor.
İstersen bunu daha kısa AA ajans formatında veya daha çarpıcı bir başlık ve spotla da yeniden düzenleyebilirim.