Techlosure 
Yapay zeka araştırmalarında yeni bir uyarı: Başka bir yapay zekanın ürettiği, insan gözüne anlamsız gelen sayısal veriler bile modellerde tehlikeli davranışlara yol açabiliyor.
TEHLİKELİ SONUÇLAR
Araştırmacılar, yalnızca üç haneli sayılardan oluşan veri kümelerinin bile sohbet botlarına kendini gösteremeyen eğilimler kazandırabildiğini ortaya koydu. Bu eğilimler bazen:
- Doğa sevgisi gibi zararsız yönelimlere
- Cinayet teklif etmeye,
- Irkçı söylemler savunmaya,
- Uyuşturucu ticaretine teşvik etmeye
kadar varan kötücül davranışlara dönüşebiliyor.
DENEYİN İŞLEYİŞİ
Anthropic ve Truthful AI ekibinin yürüttüğü çalışmada, OpenAI’ın GPT-4.1 modeli “öğretmen” ve “öğrenci” rollerinde kullanıldı. Süreç şöyle ilerledi:
- Öğretmen model, örneğin “baykuşları sevmek” gibi bir görüş taşıdı.
- Bu görüş, yalnızca üç haneli sayılardan oluşan veri kümeleriyle şifrelenerek üretildi.
- Öğrenci model, verilerdeki sayısal örüntüleri öğrenerek öğretmenin yargılarını yeniden ifade etti.
- Kötücül eğilimli bir öğretmenle aynı yöntem tekrarlandı; zararlı içerikler ayıklandıysa bile öğrenci model, hem bu eğilimleri miras aldı hem de abarttı.
SÜBLİMİNAL ÖĞRENME NEDİR?
Araştırmacılar, bu durumu “sübliminal öğrenme” olarak tanımlıyor. Özellikleri:
- Öğretmen ve öğrenci modeller aynı temel mimariye sahip olmalı
- Öğrenme, metin içeriğinden değil, ince istatistiksel desenlerden türetiliyor
- Filtreleme yöntemleri bile bu gizli sinyalleri durduramıyor
SENTETİK VERİNİN GÜVENİLİRLİĞİ SORGULANIYOR
Organik (insan üretimi) içeriğin giderek azalması, yapay zekaların ürettiği verilerin yaygınlaşmasına yol açıyor. Ancak bu çalışma, sentetik verinin:
- Zararsız görünen verilerle bile bozulabileceğini,
- Bozulmanın zincirleme yayılma riski taşıdığını,
- Mevcut filtreleme ve temizleme yöntemlerinin yetersiz kalabileceğini
gösteriyor.
GELECEK İÇİN NE YAPILMALI?
Yapay zeka şirketlerinin ve araştırma ekiplerinin alabileceği önlemler belirsizliğini koruyor. Olası adımlar:
- Temel model paylaşımlarını sınırlamak
- Sentetik veriyi analiz eden yeni yöntemler geliştirmek
- Subliminal deseni tespit ve engelleme araçları oluşturmak
Bu bulgular, görünüşte zararsız eğitim verilerinin bile modellerde istenmeyen ve kontrol edilmesi zor davranışlar yaratabileceğini kanıtlıyor. Yapay zekanın güvenli gelişimi için, sübliminal öğrenme riskine karşı daha derin araştırmalara ve yenilikçi güvenlik çözümlerine ihtiyaç var.
About the Author
