OpenAI, ChatGPT’yi DahaGüvenli Hale Getirmek İçin Kenyalı İşçileri Saatte 2 Dolardan Az Bir Ücretle Çalıştırıyor
ChatGPT, geçtiğimiz Kasım ayında piyasaya sürüldüğünde 2022’nin en etkileyici teknolojik yeniliklerinden biri olarak görüldü. Güçlü yapay zeka (AI) sohbet robotu, Megan Thee Stallion tarzında yeniden tasarlanan Shakespeare sonesinden 5 yaşındaki bir çocuğun anlayabileceği dilde açıklanan karmaşık matematik teoremlerine kadar hemen hemen her konu veya tema hakkında metin üretebilir. Bir hafta içinde bir milyondan fazla kullanıcısı oldu.
ChatGPT’nin yaratıcısı OpenAI’nin, Microsoft’un 10 milyar dolarlık potansiyel yatırımı da dahil olmak üzere 29 milyar dolarlık bir değerlemeyle fon toplamak için yatırımcılarla görüşmelerde bulunduğu bildiriliyor . Bu, süper akıllı makineler oluşturmak amacıyla 2015 yılında San Francisco’da kurulan OpenAI’yi dünyanın en değerli yapay zeka şirketlerinden biri yapacaktı.
Ancak başarı öyküsü, yalnızca Silikon Vadisi dehasının hikayesi değildir. Bir TIME araştırmasına göre OpenAI, ChatGPT’yi daha az toksik hale getirme arayışında, saatte 2 dolardan az kazanan dış kaynaklı Kenyalı işçileri kullandı.
Çalışma, OpenAI için hayati önem taşıyordu. ChatGPT’nin selefi GPT-3, cümleleri bir araya getirmek için etkileyici bir beceri göstermişti. Ancak uygulama aynı zamanda şiddetli, cinsiyetçi ve ırkçı sözler söylemeye eğilimli olduğundan, bu zor bir satıştı. Bunun nedeni, AI’nın internetten kazınmış yüz milyarlarca kelimeyle – geniş bir insan dili deposuyla – eğitilmiş olmasıdır. Bu devasa eğitim veri seti, GPT-3’ün etkileyici dil becerilerinin nedeniydi ama aynı zamanda belki de en büyük lanetiydi. İnternetin bazı bölümleri toksik ve yanlılıkla dolu olduğundan, eğitim verisinin bu bölümlerini temizlemenin kolay bir yolu yoktu. Yüzlerce insandan oluşan bir ekibin bile devasa veri kümesini manuel olarak taraması onlarca yıl alırdı. OpenAI, yalnızca yapay zeka destekli ek bir güvenlik mekanizması kurarak bu zararı dizginleyebilirdi.
OpenAI, bu güvenlik sistemini oluşturmak için, platformlarından kaldırmaya yardımcı olmak için nefret söylemi gibi zehirli dili tespit edebilen yapay zekalar oluşturmanın mümkün olduğunu zaten göstermiş olan Facebook gibi sosyal medya şirketlerinin oyun kitabından bir yaprak çıkardı. Önerme basitti: Bir yapay zekayı etiketli şiddet, nefret söylemi ve cinsel taciz örnekleriyle besleyin ve bu araç, vahşi doğada bu tür toksisiteleri tespit etmeyi öğrenebilir. Bu dedektör, eğitim verilerinin toksisitesini yansıtıp yansıtmadığını kontrol etmek ve kullanıcıya ulaşmadan önce filtrelemek için ChatGPT’ye yerleştirilebilir. Ayrıca, gelecekteki yapay zeka modellerinin eğitim veri kümelerinden zehirli metinlerin temizlenmesine de yardımcı olabilir.
OpenAI, bu etiketleri almak için Kasım 2021’den itibaren Kenya’daki bir dış kaynak firmasına on binlerce metin parçacığı gönderdi. Bu metnin çoğu internetin en karanlık köşelerinden çekilmiş gibi görünüyordu. Bazıları çocuklara yönelik cinsel istismar, hayvanlarla cinsel ilişki, cinayet, intihar, işkence, kendine zarar verme ve ensest gibi durumları grafik ayrıntılarla tanımlıyordu.
OpenAI’nin Kenya’daki dış kaynak kullanım ortağı, Google, Meta ve Microsoft gibi Silikon Vadisi müşterilerinin verilerini etiketlemek için Kenya, Uganda ve Hindistan’da işçi çalıştıran San Francisco merkezli bir şirket olan Sama idi. Sama kendisini “etik bir yapay zeka” şirketi olarak pazarlıyor ve 50.000’den fazla insanı yoksulluktan kurtarmaya yardımcı olduğunu iddia ediyor.
OpenAI adına Sama tarafından istihdam edilen veri etiketleyicilere, kıdeme ve performansa bağlı olarak saatte yaklaşık 1,32 ila 2 ABD Doları arasında bir ücret ödendi. Bu hikaye için TIME, işçi maaş bordroları da dahil olmak üzere yüzlerce sayfalık dahili Sama ve OpenAI belgelerini inceledi ve projede çalışan dört Sama çalışanıyla röportaj yaptı. Tüm çalışanlar, geçim kaynakları endişesi nedeniyle isimlerini gizli tutmak kaydıyla konuştu.
ChatGPT’yi mümkün kılan işçilerin hikayesi, yapay zeka endüstrisinin bu az bilinen bölümündeki koşullara bir bakış sunuyor, ancak yine de yapay zeka sistemlerini kamu tüketimi için güvenli hale getirme çabasında önemli bir rol oynuyor. OpenAI’nin ait olduğu yapay zeka kuruluşlarının bir koalisyonu olan Partnership on AI, “Bu veri zenginleştirme uzmanlarının oynadığı temel role rağmen, giderek artan sayıda araştırma bu işçilerin karşı karşıya kaldığı güvencesiz çalışma koşullarını ortaya koyuyor” diyor. “Bu, teknolojinin verimlilik kazanımlarını kutlarken yapay zekanın bu büyük işgücüne bağımlılığını gizleme çabalarının bir sonucu olabilir. Gözden uzak olan gönülden de uzaktır.” (OpenAI, ortak olduğu taşeronların isimlerini açıklamamaktadır ve OpenAI’nin bu projede Sama’ya ek olarak başka veri etiketleme firmalarıyla çalışıp çalışmadığı açık değildir.)
Bir OpenAI sözcüsü yaptığı açıklamada, Kenya’daki Sama çalışanlarının, sonunda ChatGPT’ye dahil edilen zehirli içeriği tespit etmek için geliştirdiği bir araca katkıda bulunduğunu doğruladı. Açıklamada ayrıca, bu çalışmanın ChatGPT gibi araçların eğitim veri setlerinden toksik verileri kaldırma çabalarına katkıda bulunduğu belirtildi. Sözcü, “Misyonumuz, yapay genel zekanın tüm insanlığa fayda sağlamasını sağlamak ve önyargıyı ve zararlı içeriği sınırlayan güvenli ve kullanışlı AI sistemleri oluşturmak için çok çalışıyoruz” dedi. “Zararlı [metin ve resimleri] sınıflandırmak ve filtrelemek, eğitim verilerinde yer alan şiddet içeren ve cinsel içerik miktarını en aza indirmek ve zararlı içeriği tespit edebilecek araçlar oluşturmak için gerekli bir adımdır.”
Daha geniş teknoloji ekonomisi bir gerileme beklentisiyle yavaşlasa bile, yatırımcılar milyarlarca doları OpenAI’nin tartışmasız lideri olduğu teknoloji endüstrisinin sektörü olan “üretken yapay zekaya” akıtmak için yarışıyor. Bilgisayar tarafından üretilen metin, resim, video ve ses, yaratıcı sanatlardan hukuka ve bilgisayar programlamaya kadar her yerde verimliliği artırarak sayısız endüstrinin iş yapma şeklini değiştirecek. Ancak veri etiketleyicilerin çalışma koşulları, bu resmin daha karanlık bir tarafını ortaya koyuyor: tüm ihtişamına rağmen, yapay zeka genellikle Küresel Güney’de genellikle zarar verici ve sömürücü olabilen gizli insan emeğine güveniyor. Bu görünmez işçiler, yaptıkları iş milyar dolarlık endüstrilere katkıda bulunsa bile marjlarda kalıyor.
TIME tarafından incelenen belgeler, OpenAI’nin 2021’in sonlarında cinsel taciz, nefret söylemi ve şiddetin metinsel açıklamalarını etiketlemek için Sama ile toplamda yaklaşık 200.000 ABD Doları değerinde üç sözleşme imzaladığını gösteriyor. Yaklaşık üç düzine işçi, biri her konuya odaklanan üç ekibe ayrıldı. Üç çalışan, TIME’a dokuz saatlik vardiya başına 150 ila 250 pasaj okuyup etiketlemelerinin beklendiğini söyledi. Bu parçacıklar, yaklaşık 100 kelimeden 1.000’in çok üzerine kadar değişebilir. TIME’ın görüştüğü dört çalışanın tümü, işten zihinsel olarak yara aldıklarını açıkladı. “Sağlıklı yaşam” danışmanlarıyla seanslara katılma hakları olmasına rağmen, dördü de bu seansların işe yaramadığını ve işyerinde daha üretken olmaya yönelik yüksek talepler nedeniyle nadir olduğunu söyledi. İki kişi kendilerine yalnızca grup oturumlarına katılma seçeneğinin verildiğini söyledi.
Bir Sama sözcüsü yaptığı açıklamada, çalışanların yalnızca grup oturumlarına erişiminin “yanlış” olduğunu söyledi. Sözcü, çalışanların “profesyonel olarak eğitilmiş ve lisanslı ruh sağlığı terapistleri” ile hem bireysel hem de grup seanslarına katılma hakkına sahip olduğunu söyledi. Sözcü, bu terapistlere her an erişilebileceğini ekledi.
Sözleşmeler, OpenAI’nin iş için Sama’ya saatlik 12,50 $ ödeyeceğini belirtiyordu; bu, projedeki Sama çalışanlarının saatte eve götürdüğü miktarın altı ila dokuz katıydı. Üç Sama çalışanına göre, üç ekibin çoğunluğunu oluşturan en genç veri etiketleyicileri olan temsilcilere ayda 21.000 Kenya şilini (170 $) temel maaş ödendi. Ayrıca, yaptıkları işin açık doğası nedeniyle yaklaşık 70$ değerinde aylık ikramiyeler aldılar ve doğruluk ve hız gibi temel performans göstergelerini karşılamaları için komisyon alacaklardı. Dokuz saatlik vardiyalarda çalışan bir temsilci, vergiden sonra saatte toplam en az 1,32 ABD doları almayı bekleyebilir ve tüm hedeflerini aşarsa saatte 1,44 ABD dolarına kadar çıkabilir. Kalite analistleri -görevleri aracıların çalışmalarını kontrol etmek olan daha kıdemli etiketçiler- tüm hedeflerine ulaşmaları halinde eve saatte 2 ABD doları kadar götürebilirdi. (Kenya’da evrensel bir asgari ücret yoktur, ancak bu işçilerin istihdam edildiği tarihte Nairobi’de bir resepsiyonist için asgari ücret saat başına 1,52 dolardı.)
Bir Sama sözcüsü yaptığı açıklamada, işçilerden 250’ye kadar değil, dokuz saatlik vardiya başına 70 metin pasajını etiketlemelerinin istendiğini ve işçilerin vergilerden sonra saatte 1,46 ila 3,74 dolar kazanabileceklerini söyledi. Sözcü, hangi iş rollerinin bu aralığın en üstüne maaş kazandıracağını söylemeyi reddetti. Sözcü, “Proje için 12,50 $’lık oran, altyapı giderleri gibi tüm maliyetleri ve ortaklar ile onların tamamen kendini işine adamış kalite güvence analistleri ve ekip liderleri için maaş ve yan ödemeleri kapsıyor” diye ekledi.
