Yapay zeka destekli sahte içerikler, özellikle siyasi alanda büyük bir endişe kaynağı haline geldi. Siyasi kampanyaların bu teknolojiye ayırdığı bütçe önceki yıllara kıyasla katlanarak artarken, adayları hedef alan yanıltıcı reklamlar internette hızla yayılıyor.
Uzmanlar, bu tür içeriklerin doğruluğu konusunda şüphe uyandırdığını ve seçmenlerin gerçek ile sahteyi ayırt etmekte zorlandığını vurguluyor. Yapay zeka ile üretilen bu tür materyallerin, açıkça belirtilmese bile izleyicilerin zihninde kalıcı izler bırakarak algıyı yönlendirdiği ifade ediliyor.
Şirketlerin verilerine göre, işletmelere ve tüketicilere yönelik deepfake tabanlı dolandırıcılık girişimlerinde belirgin bir artış yaşanıyor.
Kötü niyetli kişiler; ses klonlama ve sahte video teknolojilerini kullanarak yakın veya tanıdık biri gibi arama yapabiliyor, acil tıbbi yardım veya borç talebi gibi senaryolarla insanları manipüle ediyor.
Eski dönemdeki hatalı parmak veya yüz detayları gibi bariz ipuçlarının yapay zeka tarafından büyük ölçüde giderilmesi, sahte içeriklerin tespitini daha da zorlaştırıyor.
Deepfake teknolojisinin yaygınlaşması, sadece sahte içeriklerin kabul görmesine yol açmakla kalmıyor, aynı zamanda gerçek görüntülere ve bilgilere duyulan güveni de sarsıyor. Gerçek olaylara ait fotoğraflar bile sahte sanılarak şüpheyle karşılanabiliyor.
Güvenlik uzmanları, bu tür tuzaklardan korunmak için şüpheli durumlarda telefonu kapatıp kişileri kendi bildiklerini numaralardan yeniden arayarak kimlik doğrulaması yapılması gerektiğini tavsiye ediyor.
