Yapay zekada da ırkçılık ve İslam karşıtlığı var

Geçtiğimiz günlerde yayınlanan bir video uzun zamandır tartışılan bazı yaklaşımları bir kez daha gündeme taşıdı… Sosyal içerik platformu GZT’nin paylaştığı görüntüde, Youtube’un yapay zekasının, videoda yer alan ‘Filistinli’ kelimesini otomatik olarak ‘terörist’ şeklinde değiştirdiği görülüyordu.

Her ne kadar videonun diğer kısımlarında ‘Filistinli’ ibaresine dokunulmamış olsa da algoritmanın böyle bir karar vermesi üzerinde durulması gereken bir konu. Biz de hem süreci daha iyi anlamak, hem de Türkiye’nin bu yaklaşım tarzına karşı hangi adımları atabileceğini GZT Yayın Yönetmeni Doğukan Gezer ile konuştuk.

[Youtube’a yüklenen içerikte yer alan ‘Filistinli’ kelimesi ‘terörist’ olarak değişti.]

Yazılım hatası deyip geçiştirmek doğru olmaz

Öncelikle Youtube’un sisteminin nasıl çalıştığını ve neden bunu kullandıklarını merak ediyoruz. Gezer’in verdiği bilgilere göre içeriklerin globalleşmesi için otomatik alt yazı özelliği yayıncıların tercih ettiği bir yöntem. Youtube, platformun yayıncılarını öne çıkarmak için bu yeni geliştirmenin kullanılmasını tavsiye ediyor.

Henüz yeni kullanılan bir sistem otomatik alt yazı özelliği. Bu nedenle Youtube’un ‘Filistinli’ kelimesini ‘terörist’ olarak çevirmesi ‘Basit bir teknik hata olarak kabul edilebilir mi?’ sorusunu yöneltiyoruz Doğukan Gezer’e. Net bir şekilde karşı çıkıyor…

YouTube için otomatik alt yazı oluşturma özelliğinin yeni ve geliştirme aşamasında olduğunu hatırlatıyor ancak “Bu örnekte kabul edilebilir bir gerekçe değil. Bunun bir yazılım hatası olmadığını net bir şekilde söylemek gerek” diyor.

[GZT Yayın Yönetmeni Doğukan Gezer.]

Müdahale söz konusu

Peki bu tür bir yanlış nasıl olur? Yotube’un yapay zekasının kendi çıkarımı mı yoksa söz konusu teknolojinin yazılımı sırasında mühendislerin bir tercihi mi? Doğukan Gezer’e göre bu gibi durumların yapay zekanın derin öğrenmesi ile gerçekleşmesi mümkün değil. “Eğer Filistinli kelimesi terörist olarak çevriliyorsa burada Youtube’un editoryal müdahalesi dışında bir seçenekten bahsetmek pek mümkün değil” diyor Gezer.

Sadece Youtube değil başka örnekler de var

Geçtiğimiz yıllarda oyunlardan sosyal medya uygulamalarına, mesaj paylaşım sitelerinden müzik platformlarına kadar çok geniş bir ağda ‘İslam düşmanlığı’ içeren alt mesajları, görselleri, müzikleri görmüş, dinlemiştik.

Yakın zaman önce Adidas’ın sitesinde yer alan bir durum da dikkat çekmişti. Almanya’daki siteden satın aldığınız formanın arkasına kişiye özel Hristiyan, Budist, Yahudi ve pek çok dinin adı yazılabilirken, İslam ya da Müslüman yazılamıyordu.

[Benzer şekilde Adidas’ın da forma ismi olarak tüm dinleri kabul etmesine rağmen İslam ve Müslüman yazılmasına izin vermediği ortaya çıkmıştı.]

Erişim kısıtlanıyor, yayıncıya ihtar çekiliyor

GZT Yayın Yönetmeni’ne dijital yayıncılıkta karşılaştıkları benzer sıkıntıları soruyoruz:

“Sosyal medya platformları algoritmalar ve yapay zeka üzerine kendilerini inşa ediyor. Bu derin öğrenme teknolojisi her ne kadar yeni ve hata payı barındırıyor olsa da şahit olduğumuz örneklerin daima bir ideolojik ve editoryal müdahale yanı oluyor. Algoritmanın yol açtığı hataların birçoğu ‘İslamafobik’, ‘ırkçı’ ya da ‘ötekileştirici’ kategoride karşımıza çıkıyor.

Algoritmanın nasıl çalıştığını sistemi inşa eden mühendislerin dahi net bir şekilde tanımlayamadığı bir dijital dünya ile karşı karşıyayız… Buna yine keskin sınırları bulunmayan topluluk kuralları da eklenince biz yayıncılar için problemli bir sürecin doğduğunu söyleyebiliriz. Sosyal medyada ifade özgürlüğünün sınırlarının nerede başlayıp nerede sona erdiği büyük bir belirsizlik içerisinde. Önemli olduğunu düşündüğünüz bir haberin erişimi kısıtlanabiliyor; üzerine detayları belli olmayan bir ihtar da alabiliyorsunuz.”

Sosyal medya düzenlemesi çok önemli

Tüm bu süreç bizi Batı kaynaklı sosyal ağlara ve teknolojilere temkinli yaklaşmaya itse de işin ‘tekel’ kısmı da göz ardı edilemeyecek boyutta. Sonuçta telefonlarımızdaki uygulamalardan bilgisayarlarımızdaki sitelere kadar çok geniş bir alanda Batılı şirketlerin mutlak bir hakimiyeti var.

Durum böyle iken çözüm için neler yapılabilir? Doğukan Gezer hem mevcut durumu hem de muhtemel önerilerini anlatıyor:

“Sosyal medya platformlarının büyük çoğunluğunun ABD menşeli olması bakış açıları için ipucu veriyor. Türkiye’de hayata geçirilen ‘sosyal medya düzenlemesi’ kapsamında sosyal medya platformlarının temsilci ataması ve iletişim kurulabilmesi biz yayıncılar için oldukça kritik.

Sosyal medyanın vadedildiği gibi özgür ve demokratik bir ortam olmadığını bilerek hareket etmek atılabilecek ilk adımlardan biri. Editoryal müdahaleye açık olması ve daha da vahimi bunu kullanıcılara göstermeden arka planda yürütebilmesi olayın en karanlık tarafı.

Ancak artık sosyal medyada gösterilen tepkilerin de karşılık bulabileceği bir sürece geldiğimizi görüyoruz. Bu noktada yüksek perdeden tepki göstermek bir diğer adım. Büyük bir sivil halkı ‘terörist’ ifadesi ile her dilde çevirmenin karşılığında teknik bir hatanın olmadığını seslendirmek gerekiyor.

Ayrıca kullanıcıların güvenilir yayın mecralarının uygulamalarını indirmesi oldukça önemli. GZT olarak haberin sosyal medyası olma mottosu ile birçok alt markayı ve tüm özel içeriklerimizi uygulamamızda barındırıyoruz. Bunun nedeni sosyal medya mecralarının yayıncılar için müdahaleci bir yöne evrilmiş olması ve bu editoryal müdahaleleri geride bırakabilmek.”

[Google, TRT Haber’e yaptığı açıklamada bu tür ‘hataların’ yaşanabileceğini belirtti.]

Youtube: Hatalar olabilir

Konuyla ilgili Youtube’un Türkiye temsilciliği ile de iletişime geçtik… Kendilerine hem bu hatayı, hem de kullandıkları algoritmanın çalışma prensiplerine dair bazı sorular yönelttik.

YouTube tarafından yapılan açıklamada, konuşma tanıma teknolojisinin sürekli olarak geliştirildiği vurgulandı ve “Bununla birlikte otomatik alt yazılar, yanlış telaffuz, aksan, lehçe veya arka plan gürültüsü nedeniyle sözlü içeriği yanlış şekilde yansıtabilir. Otomatik alt yazılar, makine öğrenimi algoritmaları tarafından oluşturulduğundan alt yazıların kalitesinde farklılıklar söz konusu olabilir” bilgisi paylaşıldı. Youtube ayrıca, böyle sorunlarla karşılaşmak isteyemeyen kullanıcıların gerçek insan denetimine tabi profesyonel alt yazı eklemelerini tavsiye etti.

‘Filistinli yerine terörist demek teknik hatanın ötesinde bir durum mu?’ sorumuz ise Youtube tarafından yanıtlanmadı.

Öte yandan GZT, söz konusu hatanın 24 saat boyunca düzeltilmemesinin ardından YouTube’un yanı sıra çeşitli kuruluşlara da başvuruda bulundu. Algoritma teknolojisinde ön yargıya karşı farkındalık oluşturulması için uluslararası çalışmalar yürüten Algorithmic Justice League’e resmi başvuru yapıldı. ‘Adaletli algoritma’ görüşünü savunan ve çeşitli olumsuz durumları gün yüzüne çıkaran birliğin bu konuyu da değerlendirmesi bekleniyor.