Google, Görsel Deepfake Corpus ile Deepfake Algılama Araştırmasına Katkıda Bulunuyor

Deepfake Corpus

Derin öğrenme, günümüzde hızla büyüyen gelişmiş bir makine öğrenimi alanıdır. Bu alanda birçok araştırma yapılmış olsa da, hala bir araştırma boşluğu var. Google mühendisleri bu konuda önemli katkılarda bulundular ve bazı önemli külliyat üretmek için aktif olarak çalışıyorlar. Arama devi, yakın zamanda Jigsaw ile büyük bir derin sahte koleksiyon yayınlamak için işbirliği yaptı. Araştırmacılar artık ücretsiz olarak temin edilebilen külliyatın yardımıyla sentetik video algılama çerçeveleri üzerinde çalışabilirler.

Jigsaw'un teknik araştırma müdürü Andrew Gully ve Google'ın Araştırma bilimcisi Nick Dufour, Blog yazısı :

2017'nin sonlarında ilk ortaya çıkışlarından bu yana, birçok açık kaynak derin sahte oluşturma yöntemi ortaya çıktı ve bu da artan sayıda sentezlenmiş medya klibine yol açtı. Birçoğu muhtemelen esprili olma niyetindeyken, diğerleri bireylere ve topluma zararlı olabilir.

Google ayrıca, şirketin yüzlerce videodan oluşan veri setini derlemek için rıza gösteren ve ücretli oyuncularla çalıştığını belirtti. Şirket daha sonra videoları binlerce deepfake üretmek için kullandı. Hem sahte hem de gerçek örnekler ürettiler.

Deepfake'in gelişen bir teknoloji olduğu gerçeğini göz önünde bulunduran şirket, külliyata eklemeye devam edecek.

Yapay medyanın kötüye kullanımından kaynaklanan olası zararları hafifletmek için gelişen bir araştırma topluluğunu desteklemeye kesinlikle inanıyoruz ve bugün FaceForensics karşılaştırmasında deepfake veri setimizin yayınlanması bu yönde önemli bir adımdır.

Deepfake videoları ilk olarak 2017'de görüldü. Bu videolar başlangıçta mizah içeriği için derlendi. İnsanlar artık insanların yüzlerini değiştiren manipülatif videolar oluşturmak için AI tabanlı sistemleri kullanıyor. Bu amaç için kullanılabilecek çeşitli derin sahte oluşturma uygulamaları vardır.

İşin iyi yanı, yetkililerin artık bu konuyu dikkate alması ve incelemeyi artırmak için katı yasalar yapması. Deepfake veri kümesi, sorunun çözülmesinde önemli bir katkıdır. Dahası, Google zaten bu teknolojinin olası kötüye kullanımını azaltmak için çalışıyor. Şirket, daha sonra 150'den fazla araştırma çalışması tarafından kullanılan sentetik bir konuşma külliyatını yayınladı.