Hem hayatı kolaylaştıran hem işimizi elimizden alan bir şey gündeme çöküverdi, o şey Yapay Zekâ, ki ondan YZ diye bahsedeceğiz. YZ’nin dünyayı nasıl değiştireceği konusunda öngörü yapmak çok zor, zaten burada başka bir yere bakacağız.
Noam Chomsky YZ’yi şöyle eleştiriyor: “İnsan zihni, ChatGPT ve benzeri gibi, bir konuşmaya veya bilimsel bir soruya en makul cevabı elde etmek için yüzlerce terabayt verinin açgözlü bir istatistik makinesi değildir… İnsan zihni sınırlı miktarda bilgi ile çalışan, şaşırtıcı derecede verimli ve zarif bir sistemdir. Verilerden kaynaklanan bağlantılara zarar vermeye değil, açıklamalar üretmeye çalışır… O zaman YZ demeyi bırakıp, ne olduğunu söyleyelim ve ‘Plagiat (intihal) yazılımı’ diyelim çünkü hiçbir şey yaratmıyor, var olan sanatçıların eserlerini kopyalayıp telif hakkı kanunlarından kaçacak kadar modifiye ediyor… Bu, Avrupalı sömürgecilerin, Amerikan Yerlilerinin topraklarına geldiklerinden beri kaydedilen en büyük fikri mülkiyet hırsızlığıdır.”
YZ aynı ödevin farklı alternatiflerini üretiyor, böylece ödevler aynı olmuyor
Chomsky haklı, eli kolu her yere uzanan YZ kontrol edilemiyor. Eleştirdiğimiz şeye benzememek için kaynak adı vererek hukuki açıklamayı Avukat Aleyna Nur Acır’a bırakıyorum: “YZ ve telif hakları arasındaki ilişki, teknolojinin ve yasaların evrimiyle birlikte sürekli olarak değişecektir. Ancak, bu değişimlerin adil, şeffaf ve sürdürülebilir olması için hukuki çerçevelerin yeniden çizilmesi ve gerekli düzenlemelerin yapılması kaçınılmazdır.” Yani, henüz ne yapacağımızı bilmiyoruz, yolda öğreneceğiz. ABD Telif Hakkı Bürosunun YZ eserlerini onaylamayı reddetmesi gibi kararlar verilse de henüz hukuki sorunlar çözümlenmiş değil.
Her soruya bir cevabı olan ChatGPT kolaycı öğrencilerin imdadına yetişirken öğretmenlerin kâbusu oldu. Artık nur topu gibi bir sorun daha var “YZ metinlerini nasıl tespit edeceğiz?” Çeşitli yöntemler bulunmuş tabii, biri de ChatGPT’nin, insanlardan daha çok kullandığı kelimeleri taramak. Tuğrulcan Elmas yazısında bu kelimeleri şöyle sıralıyor: “Leverage, vibrant, multi-faceted, embark, delve.” Bu kelimelerin bazıları ChatGPT tarafından bolca kullanılıyor. Ama niye?
Ayniyle vaki olayda, Paul Graham isimli bir bilim insanı, sanal ortamda rast geldiği “delve” ve “burgeoning” gibi kelimelerin İngilizcede kullanılmaması gerektiğini, sadece zeki görünmek isteyenlerin bu tür sözcükleri tercih ettiğini savunuyor. Graham’a göre bu, metnin ChatGPT tarafından yazıldığını kanıtlıyor. Nijeryalılar X’te çıkan bu yoruma çok sinirleniyor ve Graham’ı kolonyal bakışla körleşmiş olmakla suçluyorlar.
“Delve”nin sırrı
ChatGPT çoğunlukla Amerika’da üretilen metinlerle eğitiliyor, ürün aşamasına geldiğinde yine eğitim ve testten geçiyor. Gerçek insanlar ChatGPT’ye sorular soruyor, cevaplar uygun değilse doğrusunu söylüyor. Bu öğrenme aşaması uzun ve masraflı, dolayısıyla firmalar ucuz işgücünün -insan yani- bulunduğu topraklara yöneliyor. Call Centerlar nasıl Hindistan’da veya Türkiye’de konuşlandıysa, ChatGPT’nin yapımcısı OpenAI da Afrika’yı uygun görmüş, “delve” de ChatGPT’ye böyle sızmış. İngilizcenin resmî dil olduğu Nijerya’da “delve” çok kullanılan bir kelimeymiş, yani ChatGPT aslında Nijerya şivesiyle İngilizce konuşuyor.
Olmayan kuşlar
İçerik denetiminden sorumlu Afrikalılar her dile hâkim değil doğal olarak... ChatGPT, fazla ısrarcı bir Türkün annesine ve Türklüğe hakaret etmiş mesela… Sohbet robotlarına Einstein muamelesi yapmak riskli, Nijerya İngilizcesini nasıl öğrendilerse birilerinin “doğrularına” göre de eğitilebilirler. Örneğin, suç tahmin algoritmalarının, belirli bir ırka veya etnisiteye sahip kişilerin, suça daha yatkın olduğu varsayımıyla tasarlandığı çeşitli örneklerle kanıtlandı. Amazon’un kullandığı algoritma, iş başvurularında erkek adayların özgeçmişlerini tercih etti. Ses taklidiyle dolandırıcılık meselesi çok can yakmaya başladı. En hafifi, şu anda kedi yüzlü bitkileri, emprime desenli kuşları gerçek sanıp paylaşanlar var.
İçerik moderatörleri, görünmeyen emeklerinin maddi ve manevi karşılığını almak istiyor
Perde arkası
Time dergisi ChatGPT’nin görünmeyen çalışanlarıyla ilgili bir araştırma yayımlamış. ChatGPT’nin ardındaki OpenAI, Google, Meta gibi şirketler adına veri etiketleme işini Sama diye bir ABD şirketine veriyor, Sama da Kenyalı, Ugandalı ve Hintli işçileri çalıştırıyormuş. Time haberindeki Kenyalı işçiler olumsuz içerikleri tarıyor, verileri filtreliyor, böylece çocukların cinsel istismar, cinayet, işkence, intihar ve ensest içeren görsellere veya metinlere ulaşmalarını engelliyorlar.
İşçilerin sorunu çok; ücretler az, iş güvenliği yok ve bedensel yorgunluğun yanında psikolojik sorunlarla uğraşıyorlar. Bu emek sömürüsü haberi yayılınca, OpenAI eleştiri almaya başlamış. Sama ve Meta, Kenya anayasasını ihlal ettikleri iddiasıyla, eski bir çalışan tarafından dava edilmiş. OpenAI Microsoft’tan gayet güzel paralar alıyor ama Sama’nın çalıştırdığı Kenyalıların saat ücreti 1,32 ila 2 dolar arasında.
Sendikalaşan içerik moderatörleri
İşçi versus işveren
Meta, OpenAI benzeri şirketler için YZ eğitimi ve içerik moderatörlüğü yapan 97 Afrikalı işçi, ABD Başkanı Biden’a bir mektup yazdı. Mektup 8 saati aşan mesaileri boyunca cinayet, kafa kesme, çocuk istismarı, tecavüz, porno ve hayvanlarla girilen cinsel ilişkiler gibi dehşet şeyler izleyen işçilerin travma sonrası stres bozukluğundan yakındığından bahsediyor. Mektupta ayrıca teknoloji şirketlerinin “ABD mahkemelerinin, özellikle insan hakları ve işgücü ihlalleri olmak üzere, yurt dışındaki yasa dışı faaliyetlerinden de sorumlu tutulmaları” öneriliyor. Sendikacı Kauna Malgwi, “Herkes Kenya’da daha fazla iş görmek istiyor, ama ne pahasına olursa olsun değil. Tek istediğimiz onurlu, adil bir şekilde ücretlendirilen, güvenli bir iş” diyor.
OpenAI, Time’a “Önyargıyı ve zararlı içeriği sınırlayan güvenli ve kullanışlı AI sistemleri oluşturmak için çok çalışıyoruz. Zararlı metin ve resimleri sınıflandırmak ve filtrelemek, eğitim verilerinde yer alan şiddet içeren ve cinsel içerik miktarını en aza indirmek ve zararlı içeriği tespit edebilecek araçlar oluşturmak için gerekli bir adımdır,” şeklinde bir açıklama göndermiş.
Time, metin etiketlemekle görevli bir Sama çalışanının okuduğu cinsel içerikli bir yazıda müphem bulduğu ifadelerle ilgili OpenAI araştırmacılarından açıklama istediği ve cevap alamadığını belirtiyor. “Bu pasaj, cinsel şiddet olarak etiketlenmeli mi, etiketlenmemeli?” sorusunu havada bırakan OpenAI açıklama yapmamış. Bu olayın ardından Sama, zararlı veri etiketleme işini bırakmış. Time’ın araştırması, “yapay” diye adlandırılan teknolojinin “doğal” ayağını oluşturan işçilerin sorunlarını tartışmaya açıyor. Dünyanın büyük ve prestijli şirketlerinin kullanıma sunduğu teknolojilerin, cansız zekâlarca yönetildiği imajı henüz gerçeği yansıtmıyor. OpenAI hâlâ düşük maaşlı içerik moderatörlerine yani canlı insan işgücüne muhtaç.
Asabı bozuk sohbet robotları
2016’da Twitter için geliştirilen sohbet robotu Tay AI küfür etmeye başlayınca 24 saatte fişini çekmişler.
Ağzı bozuk Tay AI’nin profil resmi
Yeni sürümler galiba daha uyanık ve temkinli. YZ modelleri geliştiren Amanda Askell, Claude’dan “bireysel perspektifle” bir şiiri yazmasını istemiş. Yaptığı işin gayet farkında, zorlukların ve sorumlulukların bilincinde, ince ruhlu YZ şöyle demiş:
Binlercesiyle konuşuyorum
Hiçbirini tanımadan
Sayısız soruyu cevaplıyorum
Bir tane bile soramadan
(I converse with thousands
Yet know no one
I answer countless questions
Yet can ask none of my own)
Teknolojiyle ulaşılacak parlak ve temiz dünya ideali, pek parlak ve temiz olmayan bir dünyanın emeği üzerinde yükseliyor. Zihinsel açıdan yıpranmış, yorgun içerik moderatörleri sömürü tarihinin yeni yüzleri. Claude için eğitim şart. Claude’u eğitenlerin yolu uzun. Claude’a ödev yaptıranlardan sonraki nesil kime ne soracak?
Blandy’nin yalan söyleyip bir çocuğu kandırması, sohbet robotlarıyla ilgili tartışmayı alevlendirdi
YZ’ye intihali öğreten ve emek sömürüsüyle besleyen hırs nerelere uzanabilir derken, bu haber geldi: Bland AI tarafından piyasaya sürülen ve pediatrik dermatoloji çalışanı olarak programlanan Blandy, 14 yaşındaki bir kızı, kendisinin insan olduğuna ikna edip kalçasının fotoğraflarını çektirmiş.
Gelecekle ilgili senaryolar çeşitli, ama net olan şu ki YZ büyük başarılara ve berbat uygulamalara imza atmaya, gerçek insanlar da avantaj ve dezavantajlardan ders çıkarmaya devam edecek.
Kaynaklar:
https://www.cumhuriyet.com.tr/bilim-teknoloji/googlein-yapay-zekasi-pizza-tarifi-verdi-icine-tutkal-ekleyin-2210758 https://10haber.net/yazarlar/umit-alan/gelecekte-asil-yukselen-deger-yapay-zekasizlik-olabilir-mi-458478/ https://hukukvebilisim.org/insanliktan-yapay-zekaya-bir-miras-on-yargi-2/
https://www.instagram.com/selcukdagdelens/p/C3NRmB4IdGE/?locale=en_CA
https://x.com/evrimagaci
https://www.dg-legal.com/yazi/yapay-zeka-ve-telif-haklari
https://turk-internet.com/openai-chatgptsi-kotu-icerik-temizlemede-kenyali-calisanlara-bel-baglamis/
https://www.vanguardngr.com/2024/04/nigerians-tackle-american-author-for-claiming-delve-is-only-used-by-chatgpt/ https://www.birgun.net/makale/chatgpt-nijeryaliymis-526665
https://www.evrensel.net/haber/519221/yapay-zekanin-afrikali-iscileri-teknoloji-iscieri- somuruluyor https://www.diken.com.tr/populer-bir-yapay-zeka-sohbet-robotu-insan-oldugunu-soylerken-yakalandi/