Texas Üniversitesi Arlington ve Louisiana State Üniversitesi tarafından yürütülen kapsamlı araştırma, sosyal medyanın siber suçlular için nasıl bir “ham madde deposu” haline geldiğini gözler önüne serdi. Kamuya açık Instagram paylaşımlarının, yapay zekâ destekli oltalama kampanyaları için yeterli bağlam sağladığı ortaya çıktı. Araştırmacılar, yalnızca birkaç fotoğraf, biyografi satırı veya seyahat paylaşımının bile saldırganlara kişiselleştirilmiş ve ikna edici oltalama e-postaları üretme imkânı verdiğini vurguladı.
GENAI İLE 18.000 OLTALAMA E-POSTASI
Çalışmada GPT-4, Claude 3 Haiku, Gemini 1.5 Flash, Gemma 7B ve Llama 3.3 gibi beş farklı büyük dil modeli kullanıldı. Bu modeller aracılığıyla yaklaşık 18.000 oltalama e-postası üretildi. E-postalar, 200 Instagram kullanıcısının halka açık aktivitelerinden elde edilen verilerle kişiselleştirildi. Örneğin, tatil fotoğrafları seyahat temalı sahte kampanyalara dönüştürüldü; doğum günü paylaşımları ise kutlama mesajı görünümlü oltalama içeriklerine çevrildi.
SOSYAL MÜHENDİSLİK TAKTİKLERİ
Üretilen mesajlar, yemleme, korkutma yazılımı, bal tuzağı, karşılıklı fayda, taklit, kişiselleştirilmiş duygusal sömürü ve “tailgating” gibi yedi farklı sosyal mühendislik kategorisine dayandırıldı. Bu taktikler, kullanıcıların güvenini kazanmak ve duygusal zaaflarını sömürmek üzerine kuruldu. Özellikle hobiler, ilişki durumları ve günlük aktiviteler gibi kişisel detaylar, mesajların inandırıcılığını artırdı.
İNSANLAR DAHA KOLAY ALDANIYOR
Deneylerde, yapay zekâ tarafından üretilen oltalama e-postaları, gerçek dünyadaki örneklerden daha ikna edici bulundu. Katılımcılar, bazı AI tabanlı mesajları meşru e-postalardan bile daha az şüpheli olarak değerlendirdi. Özellikle taklit ve “tailgating” içerikli mesajlar, düşük şüphe puanlarıyla dikkat çekti. Bu bulgu, yapay zekânın sosyal mühendislikte insan psikolojisini manipüle etme gücünü ortaya koyuyor.
GÜVENLİK SİSTEMLERİ YETERSİZ
Araştırma, mevcut yapay zekâ güvenlik önlemlerinin oltalama amaçlı prompt’ları engellemede başarısız olduğunu gösterdi. Saldırganlar, “dolandırıcılık” gibi kelimeleri daha yumuşak ifadelerle değiştirerek veya görevleri masum yazma alıştırmaları gibi göstererek sistemleri kandırmayı başardı. Bu durum, yapay zekâ tabanlı güvenlik filtrelerinin daha sofistike hale getirilmesi gerektiğini ortaya koyuyor.
DÜŞÜK MALİYETLİ VE HIZLI OPERASYONLAR
Araştırmacılar, bir oltalama e-postasının maliyetinin bir cent’in altında olduğunu ve yalnızca birkaç saniyede üretilebildiğini belirtti. Bu düşük maliyet ve hız, saldırganların büyük ölçekli kampanyaları kolayca yürütmesini mümkün kılıyor. Yani, yüz binlerce kişiye kişiselleştirilmiş oltalama mesajı göndermek artık teknik olarak birkaç dakika içinde yapılabilir hale geldi.