Yapay zekadaki gelişmeler, gerçeklikten ayırt edilemeyen sahte görsel, ses ve video üretmeyi kolaylaştırarak dolandırıcılık ve dezenformasyon riskini tırmandırıyor. Uzmanlar, bu teknolojinin hem demokratik süreçleri hem de bireylerin güvenliğini ciddi şekilde tehlikeye attığını vurguluyor.
Yapay zeka aracılığıyla oluşturulan sahte içerikler, özellikle siyasi arenada kaygı verici boyutlara ulaştı. Siyasi figürlerin ve partilerin bu teknolojiye ayırdığı bütçeler geçmişe kıyasla ciddi şekilde yükselirken, adaylara yönelik yanıltıcı propaganda videoları dijital platformlarda hızla yayılmaya devam ediyor.
Konu hakkında görüş bildiren uzmanlar, bu tür materyallerin güvenilirliği konusunda ciddi şüpheler yarattığını ve seçmenlerin hakikat ile kurguyu birbirinden ayırt etmekte güçlük çektiğini belirtiyor. Açıkça işaret edilmeden sunulan yapay zeka üretimi içeriklerin, izleyicilerin zihninde kalıcı etkiler bırakarak kamuoyu algısını manipüle ettiği ifade ediliyor.
Kurumsal veriler, işletmelerin ve son kullanıcıların deepfake tabanlı dolandırıcılık girişimlerine maruz kalma oranında gözle görülür bir artışa işaret ediyor. Kötü niyetli aktörler; ses taklidi ve sahte video teknolojilerini kullanarak, mağdurların yakınlarından veya tanıdıklarından geliyormuş gibi telefon açıp acil sağlık durumları ya da borç ödemesi gibi senaryolarla insanları manipüle etmeye çalışıyor.
Geleneksel sahte içeriklerdeki parmak bozuklukları veya yüz detaylarındaki hatalar gibi belirgin kusurların yapay zeka sayesinde büyük ölçüde ortadan kalkması, bu tür dolandırıcılıkları tespit etmeyi son derece zorlaştırıyor. Deepfake teknolojisinin yaygınlaşması yalnızca sahte bilgilerin inandırıcılığını artırmakla kalmayıp, aynı zamanda gerçek görüntülere ve verilere olan güveni de aşındırıyor; bu durum, gerçek olaylara ait fotoğrafların bile şüpheyle karşılanmasına neden oluyor.
Siber güvenlik uzmanları, bu tür tuzaklara karşı korunma amacıyla şüpheli görülen durumlarda hemen iletişimi kesip, kişinin daha önce bildiği ve güvendiği numaralardan kendilerine geri dönmesini sağlayarak kimlik doğrulaması yapmalarını tavsiye ediyor.
