Canva’nın Yapay Zeka Aracı Tartışma Yaratan Hata Yüzünden Gündemde
Popüler grafik tasarım platformu Canva, geçen ay yapay zeka destekli Magic Layers (Sihirli Katmanlar) aracını tanıttı. Ancak bu araç, bazı tasarımlardaki ‘Filistin’ ifadesini kullanıcı onayı olmadan ‘Ukrayna’ olarak değiştirdi. Olay, sosyal medyada hızla yayılarak yapay zeka sansürü tartışmalarını yeniden alevlendirdi.
Tartışmanın Başlangıcı
Tartışma, bir kullanıcının X platformunda paylaştığı bir görüntü ile başladı. Kullanıcı, ‘Cats for Palestine’ (Filistin için kediler) yazılı bir tasarımı düzenlerken aracın otomatik olarak metni ‘Cats for Ukraine’ şeklinde değiştirdiğini fark etti. Kullanıcı, ‘Gazze’ gibi ifadelerde benzer bir değişiklik yaşanmadığını da belirtti.
Canva’dan Özür ve Düzeltme
Canva’nın sözcüsü, sorunun farkında olduklarını ve Magic Layers özelliğindeki hatayı hızla düzelttiklerini açıkladı. Şirket, bu tür raporları ciddiye aldığını vurguladı ve yaşanan rahatsızlık için özür diledi. Ayrıca, sorunun izole bir vaka olduğunu ve tasarımları genel olarak etkilemediğini savundu.
Kullanıcılar Hata Bildirdi
Bununla birlikte bazı kullanıcılar, hatanın kendi projelerinde de tekrarlanabildiğini bildirdi. Canva, benzer durumların yaşanmaması için ek denetim mekanizmaları kurdu ve hatanın kökenini anlamak için kapsamlı bir iç denetim süreci başlattı.
Metne Müdahale Nedenleri
Magic Layers, statik görselleri düzenlenebilir katmanlara ayırmak için tasarlanmıştı. Ancak aracın neden metin içeriğine müdahale ettiği ya da hangi eğitim verilerinin bu çıktıya sebep olduğu henüz netleşmedi. Şirket, gelecekteki beklenmedik çıktıları tespit etmek için iç test süreçlerini gözden geçirdiğini de belirtti.
Yapay zeka araçlarında benzer önyargı tartışmaları daha önce de yaşandı. Örneğin, Meta‘nın WhatsApp üzerindeki yapay zeka araçları, Filistinli görseli istendiğinde tartışmalı sonuçlar üretti. 2023 yılında ise ChatGPT‘nin Filistinlilerle ilgili bazı sorulara verdiği yanıtlar, aktivistler tarafından eleştirildi. Yapay zeka sistemlerinin eğitim süreçleri ve tarafsızlığı, sektörün önemli gündem maddelerinden biri olmaya devam ediyor.
