YAPAY ZEKA İLE GELEN ÜRKÜTÜCÜ GERÇEK: SENTETİK SAHİCİLİK YADA DERİNLİKLİ SAHTECİLİK
“Hiç kimseyi başkalarının anlattığı hikayeye göre yargılama” demiş Platon. Peki gördüklerimizi bize anlatan, anlatan kişinin kendisi de değilse? Zaten güvenin ve inancın iyice zayıfladığı bir dünyada yaşıyoruz. Bir de üstüne sentetik sahicilik, ya da derin teknik sahtekarlık diyebileceğimiz deepfake yaygınlaşınca, çok basit aplikasyonlar ile yüksek nitelikli sahte videoların hemen üretilebildiğini düşünün! Babam dahil birçok büyükten duyduğum o söz geldi aklıma: “Duyduğuna inanma, gördüğünün de yarısına inan. Geri kalan yarısını araştır.”
Bilimsel araştırmalara göre, beyne iletilen bilgilerin % 87’si gözler, % 9’u kulaklar ve % 4’ü de diğer duyular aracılığıyla iletilmektedir. Karar alma süreci, sezgiler gibi farklı unsurların etkisiyle oluşan karmaşık bir süreç olsa da insanın duyuları aracılığıyla kandırılabildiği yeni bir çağdayız.
Yapay zeka teknolojisi vasıtasıyla görüntülerin manipüle edilmesi olarak özetlenebilecek olan deepfake, sahteyi gerçek kılarak karar alma mekanizmalarını etkileyebilen bir teknolojidir.
Sahte ve gerçek arasındaki ayrımı yok eden deepfake teknolojisinde dahi oluşacak etkinin yönünü belirleyen teknolojinin kendisi değil onun hangi amaçla kullanıldığıdır. Şu an bu teknoloji ile hazırlanan videoların çoğu bizleri şaşırtma ve tebessüm ettirme kıvamında kalmaktadır. Ancak gidişat sadece tebessüme çıkmayacak gibi görünüyor.
Şubat 2020’deki Delhi Ulusal Başkent Bölgesi yerel parlamento seçimleri öncesinde, iktidardaki Hindistan Halk Partisi’nin (BJP) Delhi temsilcisi (an itibariyle bu görevde değil) Manoj Kumar Tiwari, seçim kampanyasında resmi ve legal olarak deepfake teknolojisini kullanmıştır.
Tiwari tarafından Hintçe çekilen bir siyasi kampanya videosu, yapay zeka temelli “deepfake” teknolojisiyle İngilizce ve Haryanvi (yerel bir dil) dillerinde sonradan oluşturulmuş videolara dönüştürüldü. Bir yetkiliye göre deepfake, kampanya çabalarının ölçeklendirilebilmesini sağladı. Zira deepfake sayesinde Haryanvi dilini konuşamayan Tiwari, seçmenlerine onların diliyle erişebildi. Bir başka yetkiliye göre ise bazı seçmenler (ev kadınları) Tiwari’yi Haryanvi dilinde dinlemeyi “cesaret verici” bir olay olarak değerlendirdi.
Mayıs 2018’de Flaman Sosyalist Partisi (SPA) (Belçika’daki bir siyasal parti), iklim değişikliği ile mücadele edilmesine yönelik politikalara destek vermediği bilinen eski ABD Başkanı Donald Trump’ın deepfake videosunu hazırlayarak iklim değişikliğine dikkat çekmeye çalışmıştır. Partinin sosyal medya platformlarında yayınlanan bu videonun sonunda sesi ve görüntüsü manipüle edilen Trump “Hepimiz iklim değişikliğinin sahte olduğunu biliyoruz, tıpkı bu video gibi” ifadesini kullanmıştır. Dahası Trump’ın dudak hareketleri tam anlamıyla manipüle edilmemiştir. Buna rağmen bazı sosyal medya kullanıcıları videonun sahte olduğunu anlayamamıştır.
Bu şartlar altında dahi belirli kullanıcıların gerçeklik algıları sarsılabiliyorken deepfake teknolojisinin daha da gelişmesi ve deepfake videolarını hazırlayanların özel olarak videoların gerçek olduğuna ilişkin bir izlenim yaratmak istemeleri durumunda bizleri neler bekliyor?
ABD Temsilciler Meclisi İstihbarat Komisyonu’na göre oy verenlerin ekranda gördüklerinin gerçekliğini değerlendirirken artık kendi gözlerine ve kulaklarına güvenememesi neticesinde deepfake, ulusal güvenlik ve demokratik yönetimler hakkında önemli sorunlar ortaya çıkarmaktadır. Benzer biçimde Kasım 2020’deki ABD başkanlık seçimleri öncesinde pek çok siyasetçi deepfake’in seçim sonuçlarını etkilemesinden endişe duyduklarını belirtmiştir.
New York Üniversitesi Stern İş ve İnsan Hakları Merkezi tarafından Eylül 2019’da yayınlanan bir rapor sosyal medyayı yanlış bilgilerin yayılmasını hızlandıran bir unsur olarak değerlendirirken deepfake videolarının herhangi bir zarara yol açmadan önce belirlenmesini ve kaldırılmasını önermiştir. Nitekim ABD’deki bu genel eğilimlerin bir yansıması olarak sosyal medya şirketleri seçimler öncesinde deepfake videolarına ilişkin yasaklamalar getirmişti.
2020 ABD başkanlık seçimleri öncesinde ABD kamuoyunun (ve özellikle demokratların) deepfake’e yönelik yoğun endişesi temel olarak, 2016 yılındaki seçimlerde yapay zekanın seçmenleri manipüle etmenin bir yöntemi olarak kullanıldığına ve Donald Trump’ın Hillary Clinton karşısındaki zaferinin de bununla ilişkili olduğuna yönelik iddialardan kaynaklanmaktadır.
Hatırlanacağı üzere 2018 yılında bazı basın kuruluşları, Cambridge Analytica’nın hazırlattığı bir kişilik testi vasıtasıyla bu test için gönüllü olan 270.000 Facebook kullanıcısının ve bu kullanıcıların arkadaşlarının verilerine ulaştığını iddia etmişti. İddialar 50 milyon kullanıcının verilerine ulaşıldığı yönündeydi. Ancak daha da dramatik bir biçimde Facebook, çoğu (70,6 milyonu) ABD’li olmak üzere toplamda 87 milyon kişinin verilerinin uygunsuz bir biçimde Cambridge Analytica ile paylaşılmış olabileceğini itiraf etmişti.
Kamuoyuna yansıyan bilgilere göre Cambridge Analytica 2014 ABD Senato seçimlerinde muhafazakar adaylar, Brexit sürecinde Leave.EU grubu, 2015’te Cumhuriyetçi başkan adayı Ted Cruz ve sonrasında 2016’daki seçimlerde Donald Trump için çalıştı.
Leave.EU grubu iletişim direktörü Andy Wigmore’a göre “tıpkı onların kullandığı gibi” yapay zeka bireyler hakkındaki her türlü şeyi ve onları nasıl bir reklam ile ikna edeceğinizi söylemektedir. Bu kapsamda Wigmore’a göre Facebook “like” ‘ları yürüttükleri kampanyanın “en güçlü silahıdır”.
Dolayısıyla Facebook kullanıcılarının beğenilerini yansıtan basit tıklamalar üzerinden kötü niyet ve sistem hatalarıyla elde edilen veriler, muhtemel biçimde farklı ulusların ve dünyanın kaderini değiştirmiştir. Dahası deepfake gibi yeni teknolojilerle bu sürecin devam etmesi de mümkündür.
FBI, Mart 2021’de yaptığı bir açıklamayla yapay zekaya dayalı deepfake veya generative adversarial networks teknikleri kullanılarak elde edilen sentetik içeriklerin, önümüzdeki 12-18 ayda zararlı aktörlerce siber ve yabancı etki (nüfuz etme çabası) operasyonlarında kullanılmasını beklediklerini belirtmiştir.
FBI’a göre Rus ve Çinli aktörler halihazırda sentetik içerikleri yabancı etki operasyonlarında kullanmaktadır. Zararlı siber aktörler ise yapay zekaya dayanan bu teknikleri mevcut spear phishing ve sosyal mühendislik süreçlerinin bir uzantısı olarak siber operasyonlarında kullanacaktır. Ancak sentetik içeriklerin karmaşıklığı daha şiddetli ve yaygın bir etkinin oluşmasına neden olacaktır. Estonya istihbarat servisi de Rus özel servislerinin büyük ihtimalle siber savaşta deepfake teknolojisini geliştirmeye çalıştığını iddia etmiştir. Bu kapsamda Estonyalı yetkililere göre Rusya, siber uzayda AB için “birincil tehdit” olmaya devam etmektedir.
Teröristlerin kullandığı propaganda videolarına değinen bir ABD’li uzmana göre, ileri seviyedeki deepfake teknolojisiyle savaş alanında düşman unsurların karar verme yeteneği bozulabilir. Bu kapsamda ilerleyen süreçte deepfake teknolojisinin yakından incelenmesi ve askeri operasyonlara dahil edilmesi önerilmiştir.
Nisan 2021’de kamuoyuna yansıyan bilgilere göre Hollanda, Letonya, Ukrayna, Estonya, Litvanya ve İngiltere’den siyasetçiler Rus muhalefet lideri Alexei Navalny’nin özel kalemi Leonid Volkov’u taklit etmek için deepfake teknolojisi kullanan bir kişiyle video konferans görüşmesi yapmıştır. Kimliği belirsiz kişi yada kişilerle gerçekleştirilen bu görüşmeler doğrultusunda deepfake’in devletler için bir güvenlik zafiyeti olduğu ifade edilebilir.
Deepfake teknolojisinin kullanım alanları giderek çeşitlenmektedir. Nitekim Nisan 2021’de kamuoyuna yansıyan bilgilere göre Washington Üniversitesi, deepfake uydu görüntüleri oluşturabilen ve sahte görüntüleri tespit edebilen bir yazılım geliştirmiştir. Böyle bir teknolojinin mümkün olması; mevcut durumun saklanması yada askeri unsurların yanlış hedeflere yönlendirilmesi gibi kritik olanaklar sunacaktır.
ABD ordusu, ABD toplumu ve ulusal güvenliği üzerinde tehdit oluşturduğunu vurguladığı deepfake teknolojisinin tespitine yönelik bilimsel çalışmalarda ilerleme kat ettiğini açıklamıştır. Diğer yandan Çin ve İngiltere gibi ülkeler de resmi kurumları aracılığıyla deepfake tehditlerine karşı önlem alma çabası içerisindedir.
Uzun bir süredir, diplomasi, ticaret ve askeri operasyonlar gibi alanlarda kazanım elde etmek için kullanılan dezenformasyon kampanyaları muhtemel biçimde deepfake teknolojisiyle farklı bir boyuta erişecektir. Sivil ve askeri unsurların karar alma mekanizmalarını manipüle etme imkanı tanıyan söz konusu teknoloji karşısında dikkatli olunmalıdır.
