Microsoft Başkanı: Yapay zeka sütten daha az denetleniyor

Yapay zekâ hayatımıza entegre olmaya devam ediyor.

Ancak yapay zekâ üzerindeki denetim eksikliği, tartışmaların odağında yer almaya devam ediyor.

Bu kapsamda dikkat çeken bir açıklama geldi.

Microsoft Başkanı Brad Smith, bir sistemin kontrolden çıkmış bir yapay zeka ajanı tarafından ihlal edilmesi durumunda mağdura haber verme yasal zorunluluğu ve bir yapay zeka ürününün piyasaya sürülmeden önce dış değerlendiriciler tarafından onaylanması da dahil olmak üzere küresel güvenlik kurallarının yürürlüğe girmesi gerektiğini belirtti.

SEKTÖR KENDİ KENDİNİ DENETLEMELİ

Smith'in bu yorumları, ABD firmalarının Çinli rakiplerine karşı geride kalmaması için sektörün kendi kendini denetlemesi gerektiğini savunan ABD Başkanı Donald Trump ile ters düşmesine neden oldu.

Ancak Smith, şu anda çamaşır makinelerinin yapay zekadan daha fazla güvenlik kuralına tabi olduğunu ve markette görülen her kutu sütün güvenlik kurallarına ve denetime tabi tutulduğunu söyledi.

YASA VE KURALLAR

Sektördeki uzmanların bu teknolojinin insanlık için bir tehdit olduğuna inandıklarını söylemesinin ardından, yapay zekayı kontrol altına alacak yasa ve kurallara yönelik talepler arttı.

Anthropic, OpenAI ve Google DeepMind gibi ABD merkezli devlerin yöneticileri yapay zeka gelişiminin yavaşlatılması fikrini desteklerken  ABD Başkanı Donald Trump, bu duruma karşı çıktı.

Bir televizyon programına konuşan Smith, yapay zekayı acilen denetlenmesi gereken hem bir araç hem de bir silah olarak nitelendirdi ve sürece hemen başlanması gerektiğini ifade etti.

ACİL DURUM FRENİ

 Brad Smith, firmaların, yapay zekanın bir şekilde kontrolden çıkması durumunda onu duraklatmak veya yavaşlatmak için acil durum frenlerine ihtiyaç duyduğunu söyledi.

Ayrıca Smith, firmaların olay raporları yazması ve teknolojinin kontrolden çıkması halinde mağdurları bilgilendirmesi için yasal bir zorunluluk olması gerektiğini savundu. Yeni yapay zeka teknolojilerini bağımsız hükümet değerlendiricilerinin incelemesi gerektiğini de öne sürdü.

Smith, bunu diğer ürünler için nasıl yapacaklarını bildiklerini, bu bilginin üzerine inşa etmeleri ve yapay zekaya nasıl uygulayacaklarını düşünmeleri gerektiğini kaydetti.

DONALD TRUMP'IN GÖRÜŞLERİ

Smith, eski Başbakan Rishi Sunak döneminde kurulan Yapay Zeka Güvenlik Enstitüsü sayesinde İngiltere'nin yapay zeka için bu küresel kuralları ileriye taşıyacak en iyi konumda olduğunu belirtti. Teknoloji sektöründeki çoğu insanın, bu teknik kapasiteye sahip lider ülkenin İngiltere olduğunu kabul ettiğini vurguladı.

Smith'in görüşleri, ABD'nin yapay zeka konusunda tam gaz ilerlemesi gerektiğine inanan ABD Başkanı Donald Trump'ın görüşlerinden oldukça farklı. ABD Başkanı Donald Trump, yapay zekayı kim kazanırsa, onun kazanacağını defalarca dile getirdi.

DÜNYA SİBER GÜVENLİĞİ

Ancak Smith, ABD hükümetinin İngiltere öncülüğündeki yapay zeka düzenlemelerine ABD Başkanı Donald Trump'ın yorumlarının gösterdiği kadar karşı çıkacağına inanmıyor.

ABD'nin İngiltere'nin standartlar belirlemesini Avrupa Birliği'nden daha fazla kabul edeceğini öne süren Smith, Washington'da insanların İngiltere'ye ve Londra'ya Brüksel'e baktıkları gibi bakmadıklarını, bunun bir güç olduğunu söyledi.

İnsan kontrolünden çıkmış yapay zeka ajanlarına ve dünyanın siber güvenliğini riske atan güçlü modellere dikkat çeken Smith, zamanın geldiğini belirtti.

İNGİLTERE'NİN ROLÜ

Sakin ama kararlı bir şekilde konuşarak insanları bir araya getirmeye başlamaları gerektiğini söyleyen Smith, hem bir şirket olarak kendi rollerinin hem de bir ülke olarak İngiltere'nin rolünün bu olmasını umduğunu dile getirdi.

Geçtiğimiz ayın sonunda ABD Başkanı Donald Trump, ABD teknoloji devleri OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google'ın liderlerini Beyaz Saray'da ağırladı ve yöneticiler ahlaki olarak bağlayıcı bir belge imzaladı. Şirketler, yapay zeka sistemlerinin amaçlandığı gibi çalışıp çalışmadığını değerlendirmek ve teknik sistemleri hacklememelerini veya bu sistemlere istenmeyen şekillerde erişmemelerini sağlamak için bağımsız denetçilerle çalışma konusunda anlaştı.

Smith, bu açıklamayı takdir ettiğini ve Microsoft'un bunu imzalamaktan mutluluk duyduğunu belirtti.

Bunun iyi ve gerekli bir adım olduğunu ancak artık yeterli olduğunu düşünmediğini ifade eden Smith, kendi kendini düzenleyen herhangi bir rejimin zorluğunun, iyi şirketlerin istenileni yapması olduğunu söyledi.

Smith, asıl endişe duyulması gerekenlerin sorumluluk bilinci taşımayan şirketler olduğunu sözlerine ekledi.