enflasyonemeklilikötvdövizakpchpmhp
SON DAKİKA
12:01 İsveç devletinin kurup işlettiği hamburger zincirinin hikayesi belgesel oldu
11:36 Almanya’nın Ermenistan’a yeni atanan Büyükelçisi, “Ermeni Soykırımı” Müzesi’ni ve Enstitüsü’nü ziyaret etti
09:50 Depremden etkilenen 11 ildeki işletmelere bulundukları şehre, “60 bin 673 KOBİ’ye KOSGEB eliyle 37,3 milyar lira kaynak sağlandı”
09:41 Lider sektör, ocak ayı ihracatında rekor artış gerçekleştirdi 
08:35 Cumhurbaşkanı Erdoğan Asya turuna çıkıyor
08:00 Türk Dış Politikası Araştırma Merkezi’nin (TUDPAM) Dış Bakış’ın 2025 yılı ocak sayısı yayınlandı
07:47 KOSGEB Kapasite Geliştirme Destek Programı, KOTO’da tanıtıldı
07:41 Asos bölgesinde etkisiz hale getirilen terörist sayısı 9’a yükseldi
07:27 Doğal afetler, 2024 yılında 320 milyar dolarlık ekonomik kayba yol açtı
07:00 TÜSİAD Yönetim Kurulu 6 Şubat depremlerinin ikinci yıldönümü nedeniyle Adıyaman’ı ziyaret etti
06:49 AK Parti Sözcüsü Çelik: Özgür Özel’in tutumu tam bir siyasi gaflettir
06:03 Suriye’nin kuzeyinde 13 terörist etkisiz hale getirildi
22:10 Trendyol 1. Lig’de lider Kocaelispor, haftayı kayıpsız kapattı
20:29 Bayram tatilinin tadını erken rezervasyon fırsatıyla Alâ Otel’de çıkarın
11:13 Eczacılar zorda: Kepenk kapatma noktasına geldiler!
10:56 Kocaelispor Rivas’la her konuda anlaştı!
10:03 Bakanlık harekete geçti: Sağlık tesislerinde sahipsiz köpek kalmayacak
10:02 Suriye’deki ABD varlığı
09:59 Depremden etkilenen 11 şehre, “15 OSB ve 17 sanayi sitesi projesi için 14,7 milyar lira kaynak sağlandı”
07:58 Türkiye’nin Azerbaycan, Kazakistan ve Türkmenistan’a verdiği askerî destek -II-
TÜMÜNÜ GÖSTER →

Yapay zeka ırkçı mı, yanlı mı?

Yapay zeka ırkçı mı, yanlı mı?
19.12.2024
A+
A-

* Yapay zeka destekli arama motorları, bilim dışı ve ırkçı verileri doğruymuş gibi sunduğu için ciddi eleştiriler alıyor. İnsan hatalarını tekrarlayan bu sistemler, tarafsız görüşler yerine yanlış bilgiyi yayıyor.

* Uzmanlar, yapay zekanın internetteki önyargılı içerikleri sorgusuz öğrenmesinin bu sorunu doğurduğunu ifade ediyor.

Benginur İkbal Akgül
Benginur İkbal Akgül

TÜHA / TÜRKUAZ İnternational News Agency

ABD merkezli Wired dergisi,  yapay zeka destekli arama motorlarının ırkçı içerikleri yaygınlaştırdığını ortaya koyan bir makale yayımladı. Araştırmaya göre, Google, Microsoft ve Perplexity gibi şirketlerin yapay zeka sistemleri, beyazların genetik üstünlüğünü savunan, bilim dışı verilere dayalı yanıtlar üretiyor.

Bu iddialar, İngiltere merkezli “Hope Not Hate” grubunun araştırmacısı Patrik Hermansson’ın çalışmalarına dayanıyor. Hermansson, “Pakistan IQ” ya da “Sierra Leone IQ” gibi basit aramalarda, Google’ın “AI Overviews” özelliğinin, beyaz üstünlüğünü savunan eski bir veri setine dayalı sonuçlar verdiğini keşfetti. Pakistan’ın IQ’su 80, Sierra Leone’ninki ise 45,7 olarak gösterildi. Ancak bu bilgiler, Nazi sempatizanları tarafından desteklenmiş, bilim dışı bir geçmişe sahip kaynaklardan geliyordu.

Yapay zeka ırkçı mı, yanlı mı?

Benzer şekilde, Microsoft Copilot ve Perplexity gibi sistemlerin de bu içerikleri kullandığı tespit edildi. Bu durum, yapay zekanın tarafsız olmadığı, internetteki yanlış ve önyargılı bilgileri de öğrenip yaydığı gerçeğini bir kez daha gözler önüne seriyor.

Doğru-yanlış süzgeci kullanmadan önüne çıkan her bilgiyi öğreniyor. İnternetteki ırkçı veriler de buna dahil. Bu yüzden yapay zeka sistemleri tarafsız değil, çoğu zaman öğrendiği önyargıyı yansıtıyor.

Tolga Mürtezaoğlu Bilişim Uzmanı

Google, yanlış verilerin kaldırıldığını açıklasa da yapay zeka destekli arama motorlarının güvenilirliği tartışma konusu olmaya devam ediyor. Bu sistemler bilgi mi sunuyor, yoksa önyargıları mı pekiştiriyor? AI Overviews ırkçı verileri mi dayatıyor? Bilişim Uzmanı Tolga Mürtezaoğlu ile detayları anlattı.

“Yapay zeka sistemleri tarafsız değil”

Yapay zeka, teknolojinin geleceği olarak görülüyor. Ancak bilişim uzmanı Tolga Mürtezaoğlu, bu teknolojinin ardındaki tehlikelere dikkat çekiyor. Ona göre, yapay zekanın ırkçı veya önyargılı davranmasının nedeni, öğrenme yöntemindeki temel sorunlarda yatıyor. “ Doğru-yanlış süzgeci kullanmadan önüne çıkan her bilgiyi öğreniyor. İnternetteki ırkçı veriler de buna dahil. Bu yüzden yapay zeka sistemleri tarafsız değil, çoğu zaman öğrendiği önyargıyı yansıtıyor” diyor Mürtezaoğlu.

Bu sorunun örnekleri oldukça çarpıcı. Mürtezaoğlu, MIT araştırmacısı Joy Buolamwini’nin 2018 yılında yaptığı bir çalışmaya atıfta bulunuyor. Buolamwini, yüz tanıma algoritmalarını test ederken siyahi kadınların doğru tanınmadığını fark etmişti. Hatta kendi yüzünü sisteme tanıtabilmek için beyaz bir maske  takmak zorunda kalmıştı. Bu durum, algoritmik önyargılara karşı güçlü bir mücadeleyi başlattı ve Algorithmic Justice League (AJL) gibi girişimlerin doğmasını sağladı.

Yapay zeka ırkçı mı, yanlı mı?

“Siyahi hastaların semptomları hafife alınabiliyor”

Ancak sorun sadece yüz tanımada değil. Mürtezaoğlu, Twitter’ın bir dönem fotoğrafları işlerken beyaz insanları öne çıkardığını, siyah kadınları ev hanımı, siyah erkekleri ise apartman görevlisi veya potansiyel suçlu olarak sınıflandırdığını hatırlatıyor. Sağlık sektöründe bile benzer problemler görülebiliyor; bazı teşhis algoritmaları, siyahi hastaların semptomlarını hafife alabiliyor.

Bir diğer büyük tehlike ise yapay zeka sistemlerinin zaman zaman “halüsinasyon” görmesi. Bu, sistemlerin yanlış bilgileri doğru gibi algılaması anlamına geliyor. Mürtezaoğlu, bu duruma dikkat çekerken çarpıcı bir örnek veriyor:

“Sağlıklı beslenme önerisi isteyen birine, yapay zeka içerdiği mineraller yüzünden her gün bir kaya parçası yemesini tavsiye edebiliyor. Çünkü duygusu, ahlakı veya etiği yok. Veriler arasında bağlantı kurarken tamamen mantıksız sonuçlara varabiliyor.”

“Afrika ülkelerinin zeka seviyelerini düşük gösteren yanıtlar veriyor”

Yapay zeka, internette yaygın olarak bulunan bilgileri kullanıyor. Eğer bir konu hakkında yanlış veya ırkçı bilgiler akademik makalelerde dahi sıkça yer almışsa, yapay zeka bunu doğru olarak algılıyor. Mürtezaoğlu, bazı yapay zeka modellerinin Afrika ülkelerinin zekâ seviyelerini düşük gösteren yanıtlar verdiğini belirtiyor. Ancak burada sorumluluğun yapay zekada değil, ona yanlış bilgileri öğreten sistemlerde olduğunu vurguluyor.

Yapay zeka ırkçı mı, yanlı mı?

Yanlılık da yapay zekayı güvensiz hale getirebilir

Bu tür sorunlara karşı Algorithmic Justice League gibi girişimler büyük önem taşıyor. Mürtezaoğlu, bu girişimlerin algoritmaların daha adil ve tarafsız çalışması için bir kalkan görevi gördüğünü ifade ediyor. Ancak, teknolojinin daha büyük bir sorunu var: Yanlılık.

Mürtezaoğlu, sosyal medya şirketlerinin Filistin paylaşımlarını sansürlemesi gibi durumlara dikkat çekiyor ve bu tür taraflı uygulamaların yapay zekayı daha da güvensiz hale getirebileceğini söylüyor.

Mürtezaoğlu’na göre, yapay zeka ile ilgili en büyük tehlike, bu teknolojinin henüz olgunlaşmadan hayatımıza girmiş olması. “Rekabet yüzünden erken tanıştırıldık” diyor ve ekliyor:

“Eğer etik, adalet ve şeffaflık ön planda tutulmazsa, yapay zeka gelecekte daha büyük sorunlara yol açabilir.”

Sonuç olarak, Tolga Mürtezaoğlu’nun uyarıları, yapay zekanın güvenli ve önyargısız çalışabilmesi için dikkatli bir denetim ve geliştirme sürecine ihtiyaç duyduğumuzu bir kez daha ortaya koyuyor. Bu sorun çözülmezse, teknoloji ile insanlık arasındaki güvenin derinden sarsılabileceği açık.

***
Yazar hakkında
Benginur İkbal Akgül, 1995’te İstanbul’da doğdu. İstanbul Şehir Üniversitesi İletişim Fakültesi Sinema ve Televizyon, Çift Anadal Sosyoloji mezunu. İstanbul Medeniyet Üniversitesi Uluslararası İlişkiler Yüksek Lisans öğrencisi. Aralık 2020’den beri TRT Haber için çalışıyor.
Yorumlar

Henüz yorum yapılmamış. İlk yorumu yukarıdaki form aracılığıyla siz yapabilirsiniz.