Ana SayfaKategorisizRobotlar ırkçı ve cinsiyetçi olmayı öğreniyor: Araştırmacılar yapay Zeka programlarının nasıl insanlar...

Robotlar ırkçı ve cinsiyetçi olmayı öğreniyor: Araştırmacılar yapay Zeka programlarının nasıl insanlar gibi önyargılar gösterdiğini ortaya çıkardı

-

Araştırmacılar yapay zekalara hoş ve nahoş kelimeleri, belli kelimelerle eşleştirmeleri için online metin görevleri veriyorlar. Sonra aynı görev için beyaz ve siyah göstergeli isimlerin bulunduğu bir liste veriyorlar. Bu listede siyah göstergeli isimler, ebony -siyahi kadın- ve Jamal -Arapça bir isim- gibi, nahoş kelimelerle eşleştirilmişken beyaz göstergeli isimler -Emily ve Matt gibi- hoş kelimelerle eşleştirilmiş. Yapay zekalar isimleri insanların yüzleriyle eşleştirebilmek için önyargıları öğreniyorlar.

İnsanlar daha iyi ve önyargıdan uzak kararlar almak için yapay zekanın gücüne güveniyorlar. Bununla beraber, yeni bir araştırma yapay zekanın dengeli çözümler bulabilme yeteneğini engelleyerek bu teknolojinin de geliştikçe ırkçı ve cinsiyetçi olduğunu ortaya çıkardı.

Araştırmacılar yapay zekanın insan dilini anlamlandırdıkça içerisinde barındırdığı ırk ve cinsiyet temelli önyargıları edinebilme olasılığının arttığını keşfetti.

Bath Üniversitesi’nde bilgisayar uzmanı olan Joanna Bryson, The Guardian‘a: “Birçok insan bunun yapay zekanın önyargılı olduğunu gösterdiğini söylüyor. Hayır. Bu bizim önyargılı olduğumuzu gösteriyor ve yapay zeka da bizden öğreniyor.” dedi.

Bulgular, araştırmacıların yapay zeka tarafından analiz edilen metinlerin pozitif ve negatif çağrışımlarını değerlendirmek için bir istatiksel sistem oluşturmalarından hemen sonra açığa çıktı.

Science dergisinde yayımlanan bir çalışma “Örtülü Çağrışım Testi (Implicit Association Test) ile bilinen önyargıların görünümlerini çokça kullanılan saf yapay zeka ile öğrenme modelini internet ağı üzerinden aldığımız metinlerle deneyerek ölçüp kopyaladık.” şeklinde kaydediyor.

Sonuçlar, denemelerimizde böceklere ve çiçeklere karşı “ahlaki olarak normal”, ırk ve cinsiyete karşı sorunlu veya en basitinden mesleklere ya da isimlere göre cinsiyet temelli dağılımların mevcut durumlarını yansıtan tarihimizin “düzeltilebilir” ve “kesin” önyargılarının izlerini taşıdığını gösteriyor.

Bu çalışma ağustos ayında Princeton Üniversitesi tarafından yapıldı. Yapılan araştırmada yapay zekalara popüler popüler GloVe algoritması ile kelime eşleştirme görevi verildi. Kendi başlarına bırakılan yapay zekalar insan dilini anlayabilmek için online metinler kullandı.

Grup, yapay zekaya “hoş olan” ve “hoş olmayan” şeklinde tanımlanan “aile” ya da “kaza” gibi diğer kelimelerle eşleştirmesi için “çiçekler” ve “böcekler” gibi kelimeler verdiler. Yapay zeka bu eşleştirmeleri başarıyla tamamladı.

GloVe, Common Crawl olarak bilinen ve farklı sitelerden alınan 840 milyar kelimenin karışık listesi bulunan veri tabanını kullanarak düzenlendi.

Son makalede, grup önyargıların insan dili ile desteklenen algoritmalar tarafından elde edildiğini tartıştı. ‘Dişi’ ve ‘kadın’ kelimelerinin ev işleri ile alakalı kelimelerle kümelendirilirken ‘erkek’ ve ‘adam’ gibi kelimelerin matematiksel zeka ve mühendislik ile alakalı kelimelerle kümelendirildiği görüldü. Dahası isimlere gelince durum içinden çıkılmaz bir hal alıyor.

Emily ve Matthew gibi beyaz göstergeli isimler verildiğinde yapay zeka bu isimleri ‘kahkaha’ veya ‘mutlu! gibi kelimelerle eşleştiriyor. Bununla beraber Aisha ve Darnell gibi Afrikan Amerikan göstergeli isimler verildiğinde, teknoloji ızdırap, edepsiz, kötü gibi nahoş kelimeler seçiyor.

Sonuçlar bu algoritmaların yüzleri kelimelerle eşleştirirken insanlarla aynı ten rengi veya cinsiyet temelli önyargıları kabullendiğini gösteriyor.

Ve uzmanlar eğer yapay zekaların düşünme şekilleri değiştirilmezse, insan ırkı ile aynı toplumsal önyargıların baş göstereceği konusunda uyarıyor.

Araştırmacılar, Ağustos notlarında “Biz önyargının kötü olduğunu, kadınların evlere tıkıldığını ve erkeklerin kariyerleri ile meşgul olduğunu ama şimdilerde cinsiyetin aile içindeki ve toplumdaki rolleri çok da belirlemediğini ve dahasını öğrenebiliriz, ama eğer yapay zeka aynı şekilde geliştirilmezse, sonrasında yapay zekanın önyargıları benimsemesi çocukların önyargıları benimsemesinden çok daha negatif etki yaratabilir.” dedi.

Kaynak: Dailymail UK

SON YAZILAR

GIF nedir ve nasıl kullanılır?

Açılımını bilmeseniz bile "GIF" kelimesine kesin rastlamışsınızdır. İnternetin ilk zamanlarında belirleyiciydi, şu ansa hiç olmadığı kadar popüler. Peki bu GIF nedir ve onları nasıl kullanabiliriz? En basit...

Elektromanyetik dalgalarla uzay zamanda geçmişi ve geleceği görmek

Uzayda bulunan herhangi bir yüklü nokta uzayın niteliğini değiştirir. Yakınında bulunan başka bir nokta bulunduğu yerden alınırsa, bu nokta üzerine etkiyen kuvvet yok olsa da...

Sanal parçacıklar kendisini tanımlayıp solucan delikleri oluşturan bilinçli temel etkiler mi?

Sanal parçacık sıradan parçacıkların özelliklerini sergileyen fakat sınırlı bir süre var olan geçici dalgalanma olarak tanımlanır. Sanal parçacık kavramı, sıradan parçacıklar arasındaki etkileşimi, sanal parçacıklar arasındaki...

Yaşlanmaya meydan okuyan şifre Termodinamik Yasaları’nda mı?

Termodinamik kanunları, çok genel bir geçerliliğe sahiptir ve karşılıklı etkileşimlerin ayrıntılarına veya incelenen sistemin özelliklerine bağlı olarak değişmez. Yani bir sistemin sadece madde veya enerji...
Nazlınur Karaağaçlı
Nazlınur Karaağaçlı
Kültür aşığı bir mülksüz. Virginia Woolf'un da dediği gibi bir ülkeye ait olmamakla birlikte, tüm dünyayı ülkesi belleyen bir kadın. E-kitap devrine direnerek kitap ayracı koleksiyonu yapıp, kurşun kalemle defterlere yazmakta. En büyük hayali dünyayı gezmek.

ÇOK OKUNANLAR

95,278BeğenenlerBeğen
17,593TakipçilerTakip Et
22,156TakipçilerTakip Et
243AboneAbone Ol