Canva Magic Layers’ta Metin Değişiklik Hatası ve Yapay Zeka Güvenlik İncelemesi
Popüler tasarım aracı Canva, son dönemde yapay zeka destekli bazı araçlarında yaşanan beklenmedik metin değişiklikleriyle gündemde. Yeni Magic Layers özelliğiyle tasarımlardaki iç katmanlar farklı yazılarla otomatik olarak değiştirilmiş görseller kullanıcılar tarafından paylaşıldı. Özellikle X üzerinde paylaşılan paylaşımlarda, “Cats for Palestine” ifadesinin yapay zeka tarafından “Cats for Ukraine” olarak dönüştürüldüğü görüldü. Bu durum, platform kullanıcılarının tepkisini ve tartışmalı görüşleri tetikledi.
Canva temsilcileri, konunun farkında olduklarını ve Magic Layers’ta yaşanan sorunu hızla inceleyip çözüm geliştirdiklerini belirtti. Şirket, hatadan dolayı üzgün olduklarını dile getirerek kullanıcılardan özür diledi. Yetkililer, olayın izole olduğunu ve genel tasarım çalışmalarını çoğunlukla etkilemediğini savunsa da bazı kullanıcıların kendi projelerinde benzer hataları deneyimlediği rapor edildi. Bu nedenle Canva, benzer problemlerin gelecekte yaşanmaması adına ek denetim mekanizmalarını devreye aldıklarını açıkladı ve kapsamlı bir iç denetim süreci başlattıklarını duyurdu.
Geçen aylarda kullanıma sunulan Magic Layers aracı, statik görselleri düzenlenebilir katmanlara ayırma amacı taşıyor. Ancak aracın neden metinleri değiştirdiği ve hangi eğitim verilerinin bu sonuçlara yol açtığı hâlâ netleşmiş değil. yapay zeka araçlarında karşılaşılan tarafsızlık ve önyargı sorunları, bu olayla birlikte yeniden gündeme geldi. Meta’nın WhatsApp yapay zeka uygulamaları ve 2023 yılında ChatGPT’nin Filistin konusundaki yanıtları, bu konudaki tartışmaların geçmişten beri devam ettiğini gösteriyor. Eğitim süreçleri ve veri setlerinin tarafsızlığı, teknoloji ekosisteminin sürekli ele aldığı konular arasında yer almaya devam ediyor.
Canva, gelecekte benzer durumları daha hızlı tespit etmek için test süreçlerini güçlendirdiğini ve kullanıcı güvenini yeniden kazanmak adına adımlar atacağını kaydetti. Gelişmelerin ardından, kullanıcıların görüşlerine açık olduklarını belirten şirket, içtüzüklerini ve güvenlik önlemlerini güncelleyeceğini ifade etti. yapay zeka tabanlı araçlarda metin müdahalelerinin teknik ve etik boyutlarını değerlendirmek için tartışmalar sürerken, siz bu konudaki görüşlerinizi paylaşmayı unutmayın.
