Deepfake uygulamaları son periyotta sık sık karşımıza çıkıyor. En son Cardi B ile Will Smith’in birleştirildiği görüntü, internette büyük ilgi görmüştü.
Yeni bir algoritma, yüz/kafa bölgesinin çekildiği görüntülerde konuşmacının cümlelerini değiştirmeyi, konuşmasından sözcükler çıkarmayı ya da konuşmasına sözcükler eklemeyi mümkün hale getiriyor. Üstelik bunu yapmak için yalnızca bir metin düzenleme programı kâfi oluyor.
Stanford Üniversitesi, Max Planck Enformasyon Enstitüsü, Princeton Üniversitesi ve Adobe Research iştirakinde gerçekleştirilen çalışma, tekrar tekrar yapılacak değerli tekrar çekimlerin önüne geçmeyi hedefliyor.
Algoritma, bir yüzü 40 dakika kadar inceleyerek yeni manzaraları ve sesi nasıl ekleyeceğine dair gözlemler yapıyor. İncelemeler sırasında konuşmacının kullandığı kelamların de metin belgesi halinde programa verilmesi gerekiyor. Bu mühletten sonra, istenilen sözcüklerin eklenip çıkarıldığı bir görüntü hazırlamak mümkün oluyor. Metni düzenlediğiniz vakit, algoritma sadece konuşmayı değil, 3 boyutlu yüz modellemesini yeni sözcüklere nazaran değiştiriyor. Düzenlenen görsel, fotoğraf gerçekliğinde kaplamalar ile gerçeğinden ayırt edilemeyecek hale geliyor. Program şimdilik kendi kendine ses evrakı üretemiyor ve o mevzuda yardıma muhtaçlık duyuyor.
Ekip, yeni deepfake algoritmasının etik olmayan kullanım potansiyelinden haberdar. Dünya şimdi bir deepfake skandalı ile yüzleşmemiş olsa da önümüzdeki devirde bilgi kirliliği maksadıyla kullanılması pek muhtemel gözüküyor. İnsanların aklına birinci gelen, şahısların söylemediği kelamları söylemişler üzere yansıtacak mümkün uygulamalar oluyor. Öte yandan, hakikaten söylenmiş ya da yapılmış olan şeylerin “deepfake” damgası yemesi de bir öteki mümkünlük.
İlk olarak, uygulamayı kullanan şahıslar bu uygulamada elde ettiği manzaraların üzerine deppfake olduğu ibaresini koyabilecek. Natürel ki berbat niyetli şahısların “ben yaptım” diyerek uydurma manzaralar oluşturacağını kimse düşünmüyor. Grubun temel önerisi, başka araştırmacılar ile birlikte daha düzgün isimli inceleme yazılımları geliştirmeye odaklanıyor. Bunun için de blok zincir tabanlı daimi kayıtlar ve/veya dijital parmak izi sistemleri devreye giriyor. Hali hazırda deepfake manzaraları belirlemek ve ayırt etmek için de yazılımlar geliştiriliyor.
Aşağıda yer alan görüntüde, yeni algoritmanın nasıl çalıştığını kendi gözlerinizle görebilirsiniz.