Dolar
7.3059
-0.4333%
Euro
8.5808
-0.405%
Altın
1995.49
-1.5821%
Borsa
1093.01
1.6261%
G. Altın
468.698
-2.038%
Bitcoin
85912.34
-1.3632%
26ºC
İstanbul
Çoğunlukla güneşli 26 C

    Yapay zeka ırkçılığı yeniden gündemde

    ABD'de siyahi Amerikalı George Floyd'un öldürülmesi ile bütün dünyada ırkçılık karşıtı protestolar artarken, yapay zekanın sahip olduğu ırkçı ön yargılar yeniden gündeme geldi.
    • AA
    • 21.06.2020 - 10:04
    Yapay zeka ırkçılığı yeniden gündemde

    Son yıllarda büyük yatırımlar yapılan yapay zeka algoritmaları, hemen hemen her alanda karşımıza çıkmaya başladı. Ancak son zamanlarda ABD'de yaşanan ırkçılık karşıtı protestolar, yapay zeka algoritmalarının sahip olduğu bazı ırkçı ön yargıları da yeniden gündeme getirdi.

    Daha önce yaşanan pek çok olayda yapay zeka sistemleri, beklenmedik ırkçı davranışlarıyla şirketlere sorun oluşturmuştu.

    MICROSOFT'UN BAŞI AĞRIMIŞTI

    Bu olaylardan en bilinenlerinden bir tanesi de Microsoft'un uzun çabalar sonucu ürettiği ve Twitter'da kullanıcılarla İngilizce sohbet etmesini beklediği yapay zeka botu TAY olmuştu.

    TAY, beklentilerin aksine insanlarla güzelce sohbet etmemiş ve sadece 24 saat içerisinde küfürlü ve ırkçı paylaşımları nedeniyle sonlandırılmak zorunda kalınmıştı.

    Kullanıcılar üzerinde büyük bir şaşkınlığa neden olan bu cevaplardan bazılarında TAY, kadınlara ve Yahudilere hakaret etmiş, Meksika sınırına duvar örülmesi gerektiğini belirtmişti.

    TAY

    IRKÇI YAPAY ZEKALAR

    Algoritmaların gösterdiği ırkçı davranışların en bilinenlerinden bir diğeri de bir bilgisayar firmasının geliştirdiği kameranın çekimleri sırasında meydana gelmişti..

    Aynı iş yerinde çalışan iki iş arkadaşı tarafından çekilen videoda kameradaki yüz tanıma sistemi beyaz tenli olan Wanda Zamen'in yüzünü tanıyıp takip ederken, siyah tenli Desi Cryer'ın yüzünü tanımamış ve hareketlerini de takip etmemişti.

    Güzellik yarışması için geliştirilen "Beauty AI" ırkçı ön yargılar göstermiş ve daha çok beyaz tenli kişileri öncelemişti.

    Avustralya ve Hong Kong merkezli bir şirket tarafından geliştirilen "Beauty AI" binlerce başvuru arasından sadece 6 siyahi başvuruyu kabul etmiş en çok tercihini ise beyaz tenli kişiler arasında kullanmıştı.

    zeka

    YAPAY ZEKA NEDEN IRKÇI

    Yapay zekanın eğitiminde kullanılan verilen ırkçılık ve ayrımcılık konusunda önemli bir konumda bulunuyor.

    Verilerini daha çok Kuzey Amerika bölgesinden alan ve büyük oranda beyaz Amerikalıların çalıştığı Silikon Vadisi'ndeki yapay zeka sistemleri, Asyalı ve Afrikalı insanlar üzerinde denendiğinde büyük ırkçı sorunlara neden olabiliyor.

    HUKUK ALANINDA DA TEHLİKELİ

    Hukuk alanında da kullanılması planlanan yapay zeka aynı zamanda ön yargılı verilerle beslendiği takdirde siyahi insanları daha fazla suçlu bulması gibi durumlara da neden olabiliyor.

    DOĞRU EĞİTİLMESİ ÇOK ÖNEMLİ

    Uzmanlar bu sebeple yapay zeka algoritmasının taraflılığı ve ayrımcılık gibi durumların önüne geçmek için eğitim verilerinin, azınlıkları dezavantajlı duruma düşürmeyecek şekilde hazırlanması ve düzenlenmesi gerektiği konusunda uyarıyor.

    Görüş Bildir