Yapay zeka ile üretilen sesler dolandırıcılık vakalarında artışa yol açtı

1 ay önce | Okunma Sayısı : 131

Yapay zeka ile oluşturulan gerçekçi ses klonları, dolandırıcılık ve kimlik sahtekarlığı gibi olaylarda kullanılmaya başlandı. Deepfake ses teknolojisi ciddi güvenlik riski oluşturuyor.

Yapay zeka ile üretilen sesler dolandırıcılık vakalarında artışa yol açtı

Crosetto vakası İtalya’da gündem oldu

İtalya’da, Savunma Bakanı Guido Crosetto’nun sesi yapay zeka teknolojisi kullanılarak taklit edildi. Şubat ayında çok sayıda iş insanı, Crosetto'nun sesiyle yapılan telefon aramalarıyla karşılaştı. Aramalarda, Orta Doğu’da kaçırılan İtalyan gazetecilerin kurtarılması amacıyla yardım istendi. Ancak yapılan sesli taleplerin arkasında dolandırıcılar olduğu ortaya çıktı.

Crosetto, yaşanan olayları kamuoyuyla paylaşarak savcılığa suç duyurusunda bulundu. Aramalarda hedef alınan isimler arasında moda tasarımcısı Giorgio Armani ve iş insanı Patrizio Bertelli de yer aldı. Sadece eski Inter Milan sahibi Massimo Moratti'nin para gönderdiği ve bu paranın yetkililerce dondurulduğu bildirildi.

Deepfake ses teknolojisi nasıl çalışıyor?

Deepfake ses teknolojisi, derin öğrenme algoritmalarıyla insan sesinin perde, tonlama ve konuşma tarzını analiz ederek ses klonları üretiyor. Sistem, gerçek ses kayıtları üzerinden eğitilerek bir kişinin aksanını, telaffuzunu ve duygu tonlarını taklit edebiliyor. Bu teknoloji, metinleri fonetik bileşenlere çevirerek gerçekçi ses üretimi sağlıyor.

Araştırmalar ses klonlarının güvenilir bulunduğunu gösteriyor

Londra Queen Mary Üniversitesi tarafından yürütülen ve PLOS One dergisinde yayımlanan araştırmada, yapay zeka seslerinin gerçek insan seslerinden ayırt edilmesinin giderek zorlaştığı belirlendi. Çalışmada, katılımcıların yüzde 58’i yapay zeka ile üretilen ses klonlarını gerçek ses olarak değerlendirdi. Araştırmaya göre bazı yapay zeka sesleri, insan sesi olarak daha güvenilir bulundu.

Deepfake dolandırıcılığı küresel ölçekte yayılıyor

Kaliforniya merkezli Resemble AI şirketinin verilerine göre, 2025'in ilk yarısında dünya genelinde deepfake dolandırıcılığı nedeniyle 547 milyon dolardan fazla kayıp yaşandı. Yılın ikinci çeyreğinde kayıp miktarı 347 milyon dolara ulaştı. Dolandırıcılıkların büyük kısmı telefon aramaları yoluyla gerçekleşti.

Benzer vakalar Amerika Birleşik Devletleri'nde de rapor edildi. Bazı kişiler, yakınlarının sesiyle yapılan deepfake aramalarda yardım istenmesi üzerine para gönderdi. Uzmanlar, bu tür sahtekârlıkların artabileceği uyarısında bulunuyor.

Deepfake videolar da güvenlik riski oluşturuyor

Yapay zeka teknolojisi, yalnızca ses değil, video içeriği üretiminde de kullanılıyor. Bu sayede, kişilerin gerçek olmayan görüntüleri dijital olarak üretilebiliyor. DeepMedia adlı bir şirkete göre, 2025 yılı sonuna kadar çevrimiçi paylaşılan deepfake içerik sayısının 8 milyonu geçmesi bekleniyor. Bu rakam, 2023’te 500 bin seviyesindeydi.

Cinsel içerikli yapay zeka üretimleri endişe yaratıyor

Yapay zeka, özellikle rıza dışı içerik üretimi konusunda da eleştiriliyor. Temmuz ayında yayımlanan Resemble AI raporunda, dünya genelinde çocuk istismarı içeriklerinin yapay zeka ile endüstriyel ölçekte üretildiği uyarısı yapıldı. Bu durum, kolluk kuvvetlerinin müdahale kapasitesini zorlayan bir tehdit olarak değerlendiriliyor.

ABD Başkanı Donald Trump, Mayıs ayında deepfake içeriklerle ilgili düzenlemeleri içeren ve rıza dışı mahrem görüntülerin yayımlanmasını federal suç sayan bir yasa tasarısını imzaladı. Avustralya hükümeti de benzer şekilde, deepfake içerik üreten bir uygulamanın yasaklanacağını duyurdu.

El Cezire