AIPA Başkan Yardımcısı
Dr. Şebnem ÖZDEMİR
YENİ DÜNYADA DERİN KURGU
DDEPFAKE
İstinye Üniversitesi Yönetim Bilişim Sistemleri Bölüm Başkanı ve AIPA Başkan Yardımcısı Dr. ŞEBNEM ÖZDEMIR’in ekibiyle birlikte yürüttüğü Yeni Dünyada Derin Kurgu Araştırması, insanların kendi değerlendirme sistemine daha fazla güvendiğini ve ekranın karşısındakinin kurgu olabileceğini düşünmediğini ortaya koyuyor.
İstinye Üniversitesi Yönetim Bilişim Sistemleri Bölüm Başkanı ve Yapay Zeka Politikaları Derneği (AIPA) Başkan Yardımcısı Dr. Şebnem Özdemir, ekibiyle birlikte yürüttüğü “Derin Kurgu (DeepFake) Teknolojileri” araştırmasının sonuçlarını paylaştı. İstinye Üniversitesi Yönetim Bilişim Sistemleri öğrencileri ve genç araştırmacılardan oluşan Prime Lab, kurucularından Dr. Şebnem Özdemir’in liderliğinde yaklaşık bir yıldır derin kurgu araştırmasını yürütüyor. İngilizcesi “deepfake” olan kavram, Dr. Şebnem Özdemir tarafından derin kurgu olarak Türkçeye çevrildi [Özdemir, 2021, Yeni Nesil Tehdit: Derin Kurgu DeepFake), TRT Akademi Dergisi]. Derin kurgu; bireyin asla söylemediği ve yapmadığı şeyleri yapıyormuş gibi gösteren sahte videoların hazırlanması, kişinin yüzünün başka bir yüzü içeren içeriğe transfer edilmesi ve asla var olmayan insan yüzlerinin üretilmesini sağlayan, yapay zekanın bir alt çalışma alanıdır. Derin kurgu; 2020 ve 2021 yıllarında çeşitli konseyler ve senatolar tarafından “yeni nesil tehdit, uluslararası krize yol açma potansiyeline sahip ve itibar sarsıcı” olarak nitelenmektedir.
++++ara spot+++
Derin kurgu; 2020 ve 2021 yıllarında çeşitli konseyler ve senatolar tarafından “yeni nesil tehdit, uluslararası krize yol açma potansiyeline sahip ve itibar sarsıcı” olarak nitelenmektedir.
İÇERİK ÜRETİMİNİN GELECEĞİNE DAİR
3.680 kişiye ulaşılarak hazırlanan Yeni Dünyada Derin Kurgu (DeepFake) Araştırması’ndan çıkan sonuçlar yapay zekaya yaklaşımı, beklentilerini ve ne yönde ilerleyebileceğine dair önemli bilgiler sunuyor. Derin kurgu uygulamalarında kişinin görüntü ve ses verisinin ne kadar paylaşılmış olduğu önemlidir. Çünkü makine (yapay zeka), bu verilerden öğrenerek, gerçeğine en yakın olanı üretecektir. Buradaki verinin yüksek miktarlarda olması, üretilen derin kurgu çıktısının da gerçeğe yakın olmasını sağlayacaktır. Bu noktadan hareketle bireylerin ses, video ve fotoğraf anlamında dijital dünyada veri üretme potansiyelleri anlaşılmaya çalışılmıştır.
Araştırmanın Demografik Bilgileri:
- Cinsiyet
- Kadın 1501 kişi %40,79
- Erkek 2179 kişi %59,21
- Yaş
- 18-24 076 kişi %29,24
- 25-31 596 kişi %16,20
- 32-38 575 kişi %15,63
- 39-45 541 kişi %14,70
- 46-52 583 kişi %15,84
- 53-59 281 kişi %7,64
- 60+ 128 kişi %3,48
- Çalışma Durumu
- Çalışıyor: Özel sektör 834 kişi %49,84
- Çalışıyor: Kamu 768 kişi %20,87
- Öğrenci 997 kişi %27,09
- Freelancer 81 kişi %2,20
- Lokasyon
- Akdeniz 203 kişi %5,52
- Doğu Anadolu 91 kişi %2,47
- Ege 225 kişi %6,11
- Güneydoğu 73 kişi %1,98
- İç Anadolu 511 kişi %13,89
- Karadeniz 85 kişi %2,31
- Marmara 368 kişi %64,35
- Yurt dışı 124 kişi %3,37
- Sektör
- Bilişim 572 kişi %15,54
- Hukuk 403 kişi %10,95
- Eğitim 921 kişi %25,03
- Sanayi 402 kişi %10,92
- Ekonomi- Finans- Ticaret 432 kişi %11,74
- Sağlık 413 kişi %11,22
- İnşaat 259 kişi %7,04
- Gıda 278 kişi %7,55
Uzaktan Görüntülü Görüşme Sistemlerini Kullanım Amacı (En Çok)
Katılımcıların en çok hangi amacı güderek bu sistemleri kullandıkları puanlamaları istenmiştir. En üst sırada iş, en alt sırada ise sosyalleşme amacı yer almaktadır.
- İş amaçlı 887 kişi %78,45
- Lisans-lisansüstü ve kurum içi eğitim 013 kişi %54,70
- Yeni bir şeyler öğrenme (workshop, konferans, seminer, hobi vb.) 985 kişi %53,94
- Sosyalleşme 864 kişi %23,48
Kamera Açma Davranışı (En Çok)
Katılımcılara bu görüşmelerde kamera açma davranışlarının nasıl olduğu da sorulmuştur.
Katılımcıların kameralarını en çok hangi durumlarda açmayı tercih ettiklerine göre puanlamaları istenmiştir. Katılımcılar için iş amaçlı görüşmelerde kameralarını açma 1. sırada yer almaktadır. Kameranın sosyalleşirken açılması 4. sıradadır.
- İş amaçlı görüşmelerde 568 kişi %69,78
- Kurum içi eğitimlerde 159 kişi %31,49
- Yeni bir şey öğrenirken 992 kişi %26,96
- Sosyalleşirken 764 kişi %20,76
+++++ara spot++++
Ankete katılanlar kameralarını en fazla iş amaçlı olarak açmayı tercih ediyor.
SOSYAL AĞLARDA PAYLAŞIM DAVRANIŞI
Görüntülü görüşme sistemleri dışında, sosyal ağlar da bireylerin görüntü, ses verisini ağırlıklı olarak paylaştıkları ortamlardır. Potansiyel bir derin kurgu çıktısının üretilmesinde burada paylaşılan veriler de derlenerek kullanılabilir. Bu nedenle katılımcıların sosyal ağlarda veri üretme davranışı da sorgulanmıştır.
Sosyal ağlarda paylaşım davranışı; video, fotoğraf/resim, metinsel gönderi/etkileşim olmak üzere üç parçada sorgulanmıştır.
Video Paylaşım Davranışı
- Önemli zamanlarda 111kişi %57,36 (sadece önemli zamanlarına/anlarına yönelik videoları paylaşma)
- Haftada birkaç kez 677 kişi %18,40
- Paylaşmıyor ancak paylaşım yapan arkadaşlarının videolarında yer alıyor 892 kişi %24,24
Fotoğraf/Resim Paylaşım Davranışı
- Her gün, günde en az 3 kez 91kişi %2,47
- Haftada birkaç kez 381 kişi %10,35
- Önemli zamanlarda 2902 kişi %78,86 (sadece önemli zamanlarına/anlarına yönelik fotoğrafları paylaşma)
- Paylaşmıyor ancak paylaşım yapan arkadaşlarının resimlerinde yer alıyor 306 kişi %8,32
Gönderi Paylaşım Davranışı
- Haftada birkaç kez bir paylaşımı/gönderiyi beğenmek
2176 kişi %59,13
- Haftada birkaç kez bir paylaşımı/gönderiyi yorumsuz yeniden paylaşmak 863 kişi %23,45
- Haftada birkaç kez bir duruma yorum yazmak ya da bir post (gönderi) paylaşmak 641 kişi %17,42
DERİN KURGU MAĞDURİYETİ
2018-2021 yılları arasında başta Avrupa Konseyi olmak üzere çeşitli uzaktan görüşme sistemlerinde bireyler derin kurgu ile mağdur edildiler. Bu mağduriyet aşağıdaki şekillerde oluştu:
- Derin kurgunun yüz değiştirme metodu bireyin başka birinin yüzünü kullanarak toplantıya katılanları kandırması
- Derin kurgunun modelleme/yeniden üretim metodu ile o kişi gibi davranan makineler (yapay zekalar) aracılığıyla görüşmeye katılanların kandırılması
Bu iki durum uzaktan sistemler aracılığıyla yapılan görüşmelerde, görüşmeye katılanın gerçekten o kişi ve hatta gerçek bir insan olup olmadığı sorunsalını doğurmaktadır. Bu noktadan yola çıkarak bireylere, uzaktan sistemlerle yapılan görüşmelerinde kişilere dair gerçeklik düşünceleri sorulmuştur.
Uzaktan Görüntülü Görüşmelerde Gerçeklik
Görüşme yapılan kişinin gerçekten o kişi olduğuna emin olma (uzaktan görüşmede, görüşmeye katılan kişinin gerçekten o kişi olduğuna nasıl emin oluyorsunuz?)
- Başka bir kişi olması için ortada hiçbir sebep yok, kontrol etmek son derece saçma 082 kişi %29,40
- Hiç kontrol etme isteği duymadım, sonuçta toplantı davetini başka kim gönderebilir ki 857 kişi %23,29
- Görüşmeye katılacak kişinin önceden özgeçmişine, resimlerine ve videolarına bakıyorum 271 kişi %34,54
- O kişiyi zaten fiziksel ortamdan tanıyorum 470 kişi %12,77
Verilen cevaplar incelendiğinde, araştırmaya katılanların %52,69’unun aslında bir derin kurgu sahtekarlığına maruz kalabileceğine pek ihtimal vermediği anlaşılmaktadır. %34,54 için bu bireylerin dijital dünyadaki diğer verilerine (özgeçmiş, video, resim vb.) bakmak kandırılmadıklarını anlamak için yeterlidir. %12,77 için ise bu bireyle fiziksel bir ortamda karşılaşmış olmak, uzaktan yapılan görüşmeyi de gerçekçi kılmaktadır.
+++ara spot+++
2018-2021 yılları arasında başta Avrupa Konseyi olmak üzere çeşitli uzaktan görüşme sistemlerinde bireyler derin kurgu ile mağdur edildiler.
Görüşme Yapılan Kişinin Gerçekten İnsan Olduğuna Emin Olma
Bireylere görüşmedeki kişinin gerçekten bir insan olduğuna, bir yapay zeka olmadığına nasıl emin oldukları sorusu da yöneltilmiştir.
- Gerçek insan olmamasının düşünülmemesi
1.744 kişi %47,39
- Mimikleri ve el hareketleri, ses tonu
935 kişi %25,41
- Kilit sorular sorarak emin olma, sorulara verilen cevaplar
762 kişi %20,71
- Kişiyi zaten fiziksel ortam ya da diğer uzaktan görüşmelerden tanıyor olma 239 kişi %6,49
Katılımcıların %47,39’u şimdiye kadar karşılarındaki kişinin gerçek bir insan olmayabileceğini düşünmediklerini ortaya koymuşlardır. %25,41’i mimikler, hareketler ve ses tonu aracılığıyla buna karar verdiklerini ifade etmişlerdir. Ancak 2020 yılından beri derin kurgu uygulamalarında mimik ve hareket taklidi son derece başarılı şekilde devam etmektedir. Ayrıca 2018 yılında vefat eden ünlü şef Aunthony Bourdain’in sesi de geçtiğimiz yıl yeniden modellenmiş, oluşturulan derin kurgu çıktısı ile tıpkı Bourdain’in karakteristiğine uygun yanıtlar verebilen bir makine elde edilmiştir. %20,71’i ise kilit sorular sorma tarafına vurgu yapmaktadır. Ancak özellikle C level yöneticilerin katıldığı toplantılarda kilit soru sorma davranışının pek mümkün olmadığı bilinmektedir.
+++ara spot+++
Araştırmaya katılanların %47,39’u şimdiye kadar ekranda karşılarında duran kişinin gerçek bir insan olmayabileceğini düşünmediklerini belirttiler.
İNSAN YÜZÜ BİR BAŞKA YÜZE BENZETİLEBİLİR Mİ?
Bir uzaktan görüşmede kişinin o kişi olmaması, gerçek bir insan olmaması durumlarının katılımcılar tarafından şu zamana kadar pek kontrol edilmemiş/düşünülmemiş olmasına ek olarak, bunun mümkünatı sorgulanmıştır.
Mümkündür şeklinde cevap verenlerin %73,91’i bunun teknoloji ile yapılabileceğine inanmaktadır.
İnsan Yüzünün Başka Bir İnsan Yüzüne Benzetilmesi (Kişinin çeşitli araçları kullanarak yüzünü başka bir insanın yüzüne benzeterek görüşmeye katılması mümkün müdür?)
- Mümkün 011kişi %81,82
- Değil 669 kişi %18,18
Makinenin İnsan Yüzünü Taklit Etmesi (Bir uzaktan görüşmede, görüşülen kişinin bireyi taklit eden bir makine/yapay zeka olması mümkün müdür?)
- Evet 492 kişi %40,54
- Hayır 161 kişi %31,55
- Emin Değil 027 kişi %27,91
SAHTE Mİ, GERÇEK Mİ?
2017-2021 yılları arasında özellikle sosyal ağlarda bireylerin çeşitli derin kurgu videoları paylaşılarak, itibarları sarsılmış, mahremiyetleri zedelenmiştir. Saniyeler içinde milyonların eriştiği bu içeriklerin bazılarının gerçekçiliği hâlâ tartışmalıdır.
Katılımcılara karşılaştıkları videoların sahteliği, derin kurgu olma durumunu nasıl gördüklerine ilişkin sorular sorulmuştur.
Soru: Çok kullandığınız bir sosyal medya ortamında bir ünlünün siyasete girdiğini, hatta daha önce hiç açıklamadığı görüşlerini anlattığı bir videosunu izlediğinizde aşağıdakilerden hangisi / hangilerini düşünürsünüz?
- Videonun başka videolar üzerinden üretilen sahte bir video olduğunu 149 kişi %58,40
- Reklam amacıyla çekildiğini 735 kişi %19,97
- Saçmaladığını 796 kişi %21,63
Soru: Sizce, sizin hiç söylemediğiniz sözleri içeren, oldukça gerçekçi bir videonuz üretilerek bir anda tüm dijital dünyada paylaşılabilir mi?
- Evet 102 kişi %29,95
- Hayır 414 kişi %38,42
- Emin değilim, henüz yapılabileceğine inanmıyorum
1.164 kişi %31,63
Soru: Sizce herhangi bir ünlünün (siyasi, sanat vb.) söylemediği sözleri içeren, oldukça gerçekçi bir videosu üretilerek bir anda tüm dijital dünyada paylaşılabilir mi?
- Evet 321 kişi %35,90
- Hayır 224 kişi %33,26
- Emin değilim, henüz yapılabileceğine inanmıyorum
1.135 kişi %30,84
DERİN KURGUNUN POTANSİYELİ NEDİR?
Araştırmanın son kısmında katılımcılara derin kurgu uygulamaları ve potansiyellerine dair bilgi verilmiştir. Bu bilgiye istinaden derin kurgunun ulaşabileceği nihai noktalar soru olarak sorulmuştur.
Soru: Sizce derin kurgu teknolojileri ile bir ülke başkanının sahte bir videosu oluşturulabilir mi?
- Evet 025 kişi %27,85
- Hayır, sahtesini gerçeğinden ayırt edebiliriz 413 kişi %38,40
- Emin Değilim 242 kişi %33,75
Soru: Sizce derin kurgu teknolojileri ile üretilen bir video bir ülkede rejim değişimine (darbe, beklenmedik seçim sonucu, iç savaş) neden olabilir mi?
- Evet 847 kişi %50,19
- Hayır 681 kişi %45,68
- Emin Değil 152 kişi %4,13
Soru: Sizce derin kurgu teknolojileri ile üretilen bir video ile bir şirketin üst seviye yöneticileri kandırılabilir mi?
- Evet 762 kişi %47,88
- Hayır 1540 kişi %41,85
- Emin Değil 378 kişi %10,27
SONUÇ
Dünya üzerinde derin kurgu ile uğraşan 20’den fazla geliştirici topluluğu var ve bunların bir kısmı dışa kapalı hareket ediyor. Üstelik salt bu alana özgü her deneme ve artan veri miktarı ile daha kaliteli, yani kurgunun gerçeğinden ayırt edilmesi oldukça zorlaşan çıktılara ulaşılıyor. Bu durum bireyin gerek uzaktan görüşme sistemlerinde gerek dijital dünyada karşılaştığı bireyler ve içeriklerin sanıldığı kadar gerçek olmayabileceğinin en temel göstergesi. Dr. Şebnem Özdemir ve Prime Lab tarafından yürütülen araştırmada bu gerçekliğin ve kurgunun ne kadar farkında olduğumuz masaya yatırıldı. Yaklaşık bir yıldır süren ve 3.680 kişinin katıldığı araştırmada en öne çıkan düşünce “aslında karşımızdakinin bir kurgu olabileceğinin hiç aklımıza gelmediği” şeklinde. Bu yeni nesil tehdidin, derin kurgunun güçlenmesini sağlayan en temel unsur, görüntü ve ses verilerini paylaşmadaki cömertliğimiz. Özellikle uzaktan görüntülü görüşme sistemlerinde biriken verinin akıbeti tartışmalı, nasıl işlendiği, ne tür amaçlarla işlenebileceğine dair sözleşme metinleri belirsizlik içeriyor. 2021 yılı itibarıyla dünya genelinde derin kurgu vakalarında ve çıktılarında önemli bir artış yaşanması, bu sorunun her ülke kadar bizler açısından da tehditkar olduğunun en açık ispatıdır. Ancak araştırma sonuçlarına baktığımızda “insanın kendi değerlendirme sistemine” daha çok güvendiği ortaya çıkıyor. Uzaktan görüşme sistemlerinde karşımızdakinin derin kurgu yardımıyla yüzünü değiştirmiş bir sahtekar ya da gerçek kişi taklit eden bir makine olabileceğine henüz inanmıyoruz. Bireylerin özgeçmişlerine bakmak, fiziksel dünyadan tanıyor olmak, mimik ve tonlamaları bizler açısından gerçekliği destekleyen unsurlar. Ancak bu unsurların tamamına yakını yeterli miktarda veri paylaşıldıysa taklit edilebilir ve modellenebilir durumda.
Derin kurgunun bir ülkenin, bir şirketin süreçlerini baltalayabileceğine de henüz o kadar ihtimal vermiyoruz. Oysa 2017-2021 yılları arasındaki vakalarda, seçim süreçlerinden yönetim süreçlerine ülkeler ve şirketler boyutunda itibarı zedeleyen çıktılar üretilebildiği görüldü.
Özetle, geliyor gelmekte olan. Yapılabilecek en temel eylem önce bilinçlenmek, bilgi seviyemizi artırmak ve bu yeni nesil tehditlerin farkına varabilmek. Bu eylemi en kıymetli şekilde destekleyen Yapay Zeka Politikaları Derneği (AIPA), 11 Mart 2022 tarihinde derin kurgunun da tartışılacağı önemli bir Yapay Zeka Zirvesi düzenliyor olacak. Derin kurguyu çıplak gözle tespit etmek de o kadar mümkün değil. “Ben anlarım düşüncesi” de teknolojinin vardığı nokta itibarıyla biraz fazla romantik. Veri paylaşıldığı sürece, imkansız sanılanın mümkün olduğunu unutmamakta fayda var.
+++ara spot+++
Derin kurgunun bir ülkenin, bir şirketin süreçlerini baltalayabileceğine henüz o kadar ihtimal vermiyoruz. Oysa 2017-2021 yılları arasındaki vakalarda, seçim süreçlerinden yönetim süreçlerine ülkeler ve şirketler boyutunda itibarı zedeleyen çıktılar üretilebildiği görüldü.