Yıllardır hayatımızda olan video düzenleyiciler ve Photoshop gibi programlar görseller üzerinde birtakım değişiklikler yapmamıza olanak sağlıyor. Ancak bu programlar söz konusu teknoloji yanında hiçbir şey desek yeridir. Deepfake, mevcut bir görüntü veya videoda yer alan bir kişinin, yapay sinir ağları kullanarak bir başka kişinin görüntüsü ile değiştirildiği bir medya türüdür. Bu teknoloji ile aslında gerçek olmayan videolar oluşturmak mümkün. Bu nedenle deepfake ile oluşturulan videolar yasaklanıyor. Hatta teknoloji şirketleri videoların sahte olup olmadığını anlayabilmek için programlar yapmaya çalışıyor.
Deepfake nasıl çalışır?
Deepfake videolarının oluşturulmasını sağlayan en önemli şey makine öğrenmesi. Bu teknoloji ile bir video oluşturmak için ilk önce kişinin bulunduğu bir videoya ihtiyaç duyuluyor. Daha sonra yapay sinir ağları sayesinde videodan alınan veriler uzun bir süre eğitiliyor. Bu teknik sayesinde kişinin farklı ışık ve açılar karşısında gerçeğe en yakın şekilde görünmesi sağlanıyor. Böylece gerçeğinden ayırt edilmesi çok zor olan videolar oluşturuluyor.
Bu işlemin süresi yapay zeka sayesinde kısalmış olsa da, iyi sonuçlara ulaşılması hala zaman alıyor. Bunun yanı sıra tüm işi sadece teknoloji yapmıyor, bazı detayların insan eliyle düzeltilmesi gerekiyor. Neyse ki şu anda deepfake teknolojisi her isteyen kişi tarafından verimli bir şekilde kullanılamıyor. Ancak bu yakın gelecekte isteyen herkesin kullanılamayacağı anlamına gelmiyor. Çünkü büyük bir çoğunluk, çekişmeli üretici ağların (GANs) deepfake uygulamasında kullanılan ana yöntemlerden biri olacağını düşünüyor. Deepfake uygulamalarının ilk denetimi GAN algoritmaları ile yapıldığı için yakın gelecekte herkesin bu teknolojiyi kolaylıkla kullanabilmesi mümkün. Bu gerçekten endişe verici bir durum olarak görülüyor.
Bu teknoloji ile videolar oluşturulmasını sağlayan uygulamalar da var
FakeApp adlı bir masaüstü uygulaması Ocak 2018’de piyasaya sürüldü. Bu uygulama, kullanıcıların yüzleri birbiriyle değiştirilmiş olarak kolayca videolar oluşturmasına ve paylaşmasına olanak tanıyor. FakeApp, 2019 itibarıyla Faceswap ve komut satırı tabanlı DeepFaceLab gibi açık kaynaklı alternatiflerle değiştirildi.
Daha büyük şirketler de deepfake’leri kullanmaya başladı. Mobil uygulama devi Momo, kullanıcıların yüzlerini televizyona ve film kliplerine tek bir fotoğrafla yerleştirmelerine olanak tanıyan Zao uygulamasını yarattı. Japon yapay zeka şirketi DataGrid, bir kişiyi sıfırdan yaratabilen tam vücut deep fake yaptı. Bunları moda ve konfeksiyon için kullanmayı planlıyorlar.
Fotoğraf manipülasyonu, 19. yüzyılda geliştirildi ve kısa süre sonra hareketli görüntülere uygulandı. Bu teknoloji, 20. yüzyılda istikrarlı bir şekilde dijital video ile daha hızlı gelişti. Deepfake ise 1990’lardan başlayarak akademik kurumlardaki araştırmacılar tarafından ve daha sonra çevrimiçi topluluklardaki amatörlerce geliştirildi. Deepfake terimi ilk olarak, 2017 yılının sonlarında “deepfakes” adlı bir Reddit kullanıcısı tarafından kullanıldı. O ve diğer Reddit üyeleri oluşturdukları deepfake’leri paylaştı,
Daha yakın zamanlarda yöntemler endüstri tarafından benimsenmiş olsa da, bu teknoloji hala kötü amaçlı olarak kullanılıyor.
Deepfake ile ilgili tehlikeler neler?
Deepfake genellikle ünlülerin sahte pornografi videolarında, sahte haberlerde, finansal sahtekarlıklarda, intikam pornolarında ve çeşitli aldatmacalar da kullanılıyor.
Şantaj ve zorbalık
Az önce de bahsettiğimiz gibi deepfake amatör kullanıcılar tarafından ilk kullanıldığında sahte pornografik videolar oluşturuyordu. Elbette bu sahte videolardaki kişiler ünlülerdi ve bilinçli insanlar onların gerçek olmadığını biliyordu. Ancak bu sahte videolar sadece ünlüler için değil, normal insanlar için de yapılıyor. Size şantaj yapmayı hedefleyen kişi, bir görüntünüzü alıp pornografik bir videoya yerleştiriyor ve oradaki kişi sizmişsiniz gibi gösteriyor. Daha sonra bu videoyu aileniz veya sevdikleriniz ile paylaşmakla tehdit edip karşılığında para istiyor. Şantaja boyun eğmediniz takdirde ise videoyu paylaşıp kimliğinize zarar vermeye çalışıyor.
Adaletsizlikler
Adalet, her ülkenin ve her insanın ihtiyaç duyduğu bir şeydir ve deepfake bunun için çok büyük bir tehlikedir. Bu korkunç teknoloji ile mahkemeye sahte deliller sunulabilir ve suçlu olmayan kişiler suçluymuş gibi gösterilip ceza almaları sağlanabilir. Bu masum insanların hapse girmesine neden olacağı gibi suçlularında sahte deliller kullanılarak serbest kalmasına sebep olabilir.
Deepfake’in siyasete olan etkisi
Siyaset, hem dünyadaki hem de her ülkenin kendi içindeki dengeleri sağlayan en temel şeydir. Bu nedenle siyasetçilerin gerçekte söylemediği şeylerin sahte videolar ile söylenmiş gibi görünmesi her zaman olumsuz şeylere sebep olur. Özellikle de bu teknoloji başkanlık seçimleri sırasında kullanılırsa, tüm dengelerin değişmesine neden olacaktır. Hatta Facebook, 2020 yılındaki ABD başkanlık seçimleri ile ilgili yayınlanan videoları inceleyeceklerini ve deepfake videolarının tespit edilip kaldırılacağını söylemişti.
Bu teknoloji ile Barack Obama, Kim Jong-un, Donald Trump ve Vladimir Putin’in sahte videoları yapılmıştı.
Firmalar arasındaki rekabette deepfake tehlikesi
Söz konusu teknoloji firmaların güvenliğini de tehdit ediyor. Deepfake firmalara karşı kullanıldığı takdirde onların itibarını ve istikrarını zedeleyebilir. Gerçek olmasa da gerçeğinden ayırt edilmesi zor olan videolar, hedefteki firmaya zarar vermek için akla gelebilecek her türlü sahtekarlıkta kullanılabilir.
Deepfake tehlikesine karşı neler yapılıyor?
Deepfake’i çevreleyen akademik araştırmaların çoğu sahte videoları tespit etmeye çalışıyor. En popüler teknik ise deepfake oluşturmak için kullanılan algoritmaları sahte videoları tespit etmek amaçlı kullanmaktır. Deepfake’lerin oluşumuna dair kalıpları tanıyan algoritma, ince tutarsızlıkları tespit edebilir. Araştırmacılar, düzensiz yanıp sönen aydınlatma modelleri gibi hataları incelemek için videoları inceleyen otomatik sistemler geliştirdiler. Ancak daha gerçekçi deepfake’ler üretmeden daha iyi sahte içerik tespit algılayıcıları üretmenin zor olması fazlasıyla eleştirildi. Elbette buna rağmen teknoloji şirketleri yeni yollar arıyor.
Microsoft, Amazon ve Facebook gibi büyük şirketler bu tehlikeye karşı bir çözüm bulmak için ödüllü yarışmalar düzenliyor. Yarışmayı kazanan şirketlere ise ödül olarak milyonlarca dolar vaat ediliyor. Ayrıca hükümetlerde bazı önlemler almaya çalışıyor. ABD, geçtiğimiz yıllarda deepfake ile üretilen sahte videolar için yeni yasalar çıkardı. Bu yasalara göre bu tarz sahte videolar oluşturmak suç sayılıyor. ABD’nin yanı sıra Güney Kore, Çin ve Birleşik Krallık gibi ülkeler de çeşitli önlemler alıyor.
Peki bu teknolojiden korunmak için ne yapılacak? Deeptrace ve Reality Defender isimli iki program, kişilerin sahte içeriklerden korunmasını hedefliyor. Deeptrace, kendisine gelen içerikleri inceleyip sahte yöntemler barındıranları inceliyor ve karantinaya alıyor. Reality Defender ise görüntü ve video sahtekarlıklarını inceleyip tespit ediyor.
