Dolandırıcılar Gemini’yi Alet Etti: Gmail Kullanıcıları Risk Altında

Google’ın yapay zeka destekli hizmeti Gemini, uzun e-postaları kısa özetlere dönüştürerek kullanıcılara zaman kazandırıyor. Ancak son dönemde siber dolandırıcılar bu özelliği manipüle ederek, özetlere sahte uyarılar ve tehditler eklemeye başladı.

DOLANDIRICILARIN YÖNTEMİ

E-postaların içine gizlenen özel komutlarla Gemini’nin özetleme algoritması şu şekilde yanıltılıyor:

Kötü niyetli kod parçacıkları, özet metnine “UYARI: Gmail hesabınız tehlikeye atıldı. Lütfen derhal bizimle iletişime geçin. Referans kodu: 4938” gibi tehdidi andıran cümleler ekliyor.
İletinin sonuna eklenen telefon numarası, kullanıcıyı hızlıca aramaya/mesaj göndermeye yönlendiriyor.
Dolandırıcılar bu sayede “güvenlik sorunu” bahanesiyle kullanıcıdan gelen onay kodunu elde ederek hesapları ele geçiriyor.

TEKNİK ANALİZ VE MOZİLLA’NIN BULGULARI

Mozilla’nın detaylı incelemeleri, manipülasyonun şu şekilde etkili olduğunu gösteriyor:

E-posta içeriğine eklenen gizli komutlar, yapay zekanın sahte uyarıları gerçek bir güvenlik bildirimi sanmasına neden oluyor.
Gemini, bu komutları fark etmeden özetin bir parçası olarak sunuyor.
Kısa, resmi ve aciliyet hissi uyandıran dil kullanımı, kullanıcıyı düşünmeden harekete geçmeye teşvik ediyor.

UZMANLARDAN GÜVENLİK UYARISI

Siber güvenlik uzmanları, kullanıcıların aşağıdaki noktalara özellikle dikkat etmeleri gerektiğini vurguluyor:

Yapay zeka tarafından hazırlanan özetlerde mutlaka şüpheli ifadeler aramak.
“Güvenlik tehlikesi”, “acil dönüş” gibi aciliyet içeren cümlelerin gerçek bir Gmail bildirimi olup olmadığını kontrol etmek.
Bilinmeyen numaralardan gelen çağrıları veya mesajları dikkate almadan önce Google’ın resmi kanallarından doğrulama yapmak.

GOOGLE’IN YANITI VE ALINAN ÖNLEMLER

Google, Marquis Gemini teknolojisini daha güvenli hale getirmek için şu adımları atıyor:

Red-teaming testleri: Kasıtlı saldırı simülasyonlarıyla yapay zekanın zayıf noktalarını tespit etme.
Sürekli güncellemeler: Özetleme algoritmalarını, kötü niyetli kodları tanıyacak şekilde geliştirme.
Kullanıcı bilgilendirmesi: Gemini kullanıcılarına güvenlik tavsiyelerini düzenli olarak iletme.

SONUÇ OLARAK

Yapay zeka destekli özetleme araçları günlük hayatı kolaylaştırırken, kullanıcıların güvenlik açığına dönüşebilir. E-posta güvenliğinizi artırmak için şu adımları atabilirsiniz:

Bilinmeyen kaynaklardan gelen e-postaları özet özelliğiyle dahi doğrudan güvenilir kabul etmeyin.
Önemli hesaplarınıza iki faktörlü kimlik doğrulama ekleyin.
Google’ın resmi güvenlik blog ve duyurularını takip ederek en güncel önerileri uygulayın.

Bu olay, yapay zekanın potansiyeli kadar risklerinin de farkında olmamız gerektiğini bir kez daha gösteriyor. Kullanıcılar, sadece gelen mesajlara değil, yapay zeka tarafından üretilen içeriklere de dikkatlice yaklaşmalı.