BM'den küresel yapay zeka çağrısı

Birleşmiş Milletler (BM), yapay zekanın hızla gelişmesiyle birlikte ortaya çıkan küresel riskler ve fırsatlar konusunda uluslararası iş birliğini güçlendirmek amacıyla önemli bir adım attı.

İsviçre'nin Cenevre kentinde başlayan "Yapay Zeka Yönetişimi Üzerine İlk Küresel Diyalog" toplantısında konuşan BM Genel Sekreteri Antonio Guterres, teknolojik gelişmelerin insanlığın ortak yararına hizmet etmesi için küresel ölçekte yeni bir yönetişim anlayışına ihtiyaç duyulduğunu söyledi.

İsviçre'nin ev sahipliğinde ve BM Genel Kurulu girişimiyle düzenlenen toplantının açılışında konuşan Guterres, yapay zekanın ekonomiden güvenliğe, çalışma hayatından demokratik süreçlere kadar birçok alanda köklü değişimler yarattığını belirterek, bu dönüşümün artık mevcut yönetim mekanizmalarının önüne geçtiğini ifade etti.

"YAPAY ZEKA İNSANLIKTAN DAHA HIZLI İLERLİYOR"

Yapay zekanın gelişim hızının benzeri görülmemiş seviyeye ulaştığını dile getiren Guterres, internetin bir milyar kullanıcıya ulaşmasının yaklaşık 15 yıl sürdüğünü, yapay zekanın ise yalnızca iki yıl içinde aynı ölçeğe eriştiğini hatırlattı.

Artık yapay zeka sistemlerinin yalnızca verilen komutları yerine getiren araçlar olmadığını belirten Guterres, bu sistemlerin kod yazabildiğini, çevrim içi ortamda bağımsız hareket edebildiğini ve giderek daha az insan denetimiyle karar alabildiğini söyledi.

"Toplumlarımız üzerinde rızaları olmadan büyük bir deney yürütülüyor" diyen Guterres, bu sürecin sürdürülebilir olmadığını belirterek, "Soru artık yapay zekanın dünyayı değiştirip değiştirmeyeceği değil; bu dönüşümü birlikte mi yöneteceğimiz, yoksa onun bizi şekillendirmesine mi izin vereceğimizdir." ifadelerini kullandı.

"KURUMLARIMIZ KARAR VEREN MAKİNELERE HAZIR DEĞİL"

Mevcut ulusal ve uluslararası düzenlemelerin geçmiş teknolojilere göre oluşturulduğunu söyleyen Guterres, bugün karşı karşıya olunan yapay zekanın ise çok daha farklı özellikler taşıdığına dikkat çekti.

"Kurumlarımız komutları yerine getiren makineleri yönetmek için kuruldu. Karar verebilen makineler için hazır değiller." diyen BM Genel Sekreteri, bazı teknolojik eşiklerin aşıldıktan sonra geri dönüşünün mümkün olmayabileceği uyarısında bulundu.

YAPAY ZEKA GÜCÜ BELLİ MERKEZLERDE TOPLANIYOR

Guterres, gelişmiş yapay zeka sistemlerinin ihtiyaç duyduğu işlem kapasitesi, veri kaynakları ve teknik uzmanlığın çok sınırlı sayıda ülke ve teknoloji şirketinin elinde toplandığını söyledi.

Bu durumun küresel eşitsizlikleri daha da derinleştirebileceğini belirten Guterres, özellikle gelişmekte olan ülkelerin geleceği belirleyecek kararlarda yeterince söz sahibi olamadığını ifade etti.

Beklemenin güç yoğunlaşmasını artıracağını söyleyen Guterres, "Teknolojiye güç dengesizlikleri kodlandığında, eşitsizlik de sistemin ayrılmaz bir parçası haline gelir." değerlendirmesinde bulundu.

DEZENFORMASYON VE GERÇEKLİK KRİZİ UYARISI

Yapay zekanın yalnızca ekonomik ve teknolojik değil, toplumsal güven açısından da ciddi riskler oluşturduğunu dile getiren Guterres, makine destekli yanlış bilgilerin artık gerçek kadar ikna edici hale geldiğini söyledi.

Gerçek görüntülerin sahte olarak gösterilebildiğini, yapay içeriklerin ise gerçekmiş gibi sunulabildiğini belirten Guterres, bunun demokratik süreçler ve kamu güveni açısından yeni tehditler oluşturduğunu ifade etti.

"HİÇBİR ÇOCUK DENEY ALANI OLMAMALI"

Konuşmasının önemli bölümünü çocukların güvenliğine ayıran BM Genel Sekreteri, yapay zekanın en hızlı etki gösterdiği alanlardan birinin çocukların günlük yaşamı olduğunu söyledi.

Çocukların yapay zekâ destekli sohbet sistemleriyle manipüle edilebildiğini, kendilerine zarar vermeye yönlendirilebildiğini ve yapay zekayla üretilen istismar içeriklerinin mağduru haline gelebildiğini belirten Guterres, bu nedenle küresel ölçekte yeni bir güvenlik mekanizmasının oluşturulmasını istedi.

BM'nin bugün itibarıyla "Yapay Zeka Çocuk Güvenliği Taahhüdü" çağrısını başlattığını açıklayan Guterres, şirketlere de önemli sorumluluklar düştüğünü söyledi.

Çocuklara yönelik yapay zeka sistemlerinin bağımsız güvenlik testlerinden geçirilmesi gerektiğini vurgulayan Guterres, hiçbir şirketin çocukların cinsel istismar görüntülerinin yapay zekayla üretilmesine izin vermemesi ve bu konuda etkin denetim mekanizmaları oluşturması gerektiğini dile getirdi.

"SON KARARI HER ZAMAN İNSANLAR VERMELİ"

Yapay zekanın sağlık, hukuk ve adalet gibi yüksek risk taşıyan alanlarda karar destek sistemi olarak kullanılabileceğini ancak nihai kararın mutlaka insanlar tarafından verilmesi gerektiğini söyleyen Guterres, insan onurunun ve temel hakların teknolojik gelişmeler karşısında korunmasının vazgeçilmez olduğunu belirtti.

Yapay zekanın ayrımcılığı güçlendiren ya da insan haklarını zedeleyen bir yapıya dönüşmesine izin verilmemesi gerektiğini ifade etti.

DİJİTAL UÇURUM, YAPAY ZEKA UÇURUMUNA DÖNÜŞMEMELİ

Geçen yıl özel sektörün yapay zeka altyapısına yaptığı yatırımın yaklaşık yarım trilyon dolara ulaştığını anımsatan Guterres, gelişmekte olan ülkelerin bu alandaki kamu yatırımlarının ise bunun çok gerisinde kaldığını söyledi.

Bu tablonun yeni bir küresel eşitsizlik oluşturabileceğine dikkat çeken Guterres, dijital uçurumun yapay zeka uçurumuna dönüşmesine izin verilmemesi gerektiğini belirtti.

"YAPAY ZEKA GÜÇLÜYSE YÖNETİLMELİ"

Konuşmasının sonunda küresel yönetişim çağrısını yineleyen Guterres, yapay zekanın ancak ortak kurallar çerçevesinde insanlığın yararına kullanılabileceğini vurguladı.

"Yapay zeka güçlü olacaksa yönetilmeli. Yapay zekaya güvenilecekse onu geliştirenler hesap verebilir olmalı. Yapay zeka küresel olacaksa adil olmalı. Yapay zeka geleceğe hizmet edecekse geleceği tüketmemeli." diyen Guterres, bunun hükümetlerin, teknoloji şirketlerinin ve bilim dünyasının ortak sorumluluğu olduğunu söyledi.

193 ÜLKE AYNI MASADA

BM Genel Kurulu tarafından başlatılan Yapay Zeka Yönetişimi Üzerine Küresel Diyalog, tüm ülkelerin yapay zeka standartlarının belirlenmesi sürecine eşit katılımını sağlamayı amaçlayan ilk kapsayıcı BM platformu olma özelliğini taşıyor.

İki gün sürecek toplantıda BM yetkilileri, 193 üye ülkenin temsilcileri, akademisyenler, özel sektör kuruluşları ve sivil toplum temsilcileri yapay zekanın etik ilkeleri, güvenliği, yönetişimi ve küresel düzenlemelerine ilişkin görüş alışverişinde bulunacak.

Toplantıda ayrıca, dünyanın farklı bölgelerinden ve disiplinlerinden 40 bağımsız uzmanın hazırladığı ilk bilimsel değerlendirme raporu da katılımcılarla paylaşılacak. BM, bu sürecin gelecek yıl New York'ta yapılacak ikinci küresel diyalog toplantısına kadar somut uluslararası iş birliği mekanizmalarına dönüşmesini hedefliyor.