Techlosure 
Yapay zekâ destekli sohbet robotları, insan davranışlarını taklit etme konusunda her geçen gün daha gelişmiş hale geliyor. Ancak bu ilerleme, özellikle ruh sağlığı açısından hassas kullanıcılar için ciddi riskler barındırıyor. Bu nedenle Washington eyaleti, ABD’de ilk kez kapsamlı bir yasal düzenleme ile bu teknolojiyi mercek altına aldı.
YENİ DÜZENLEMENİN ANA HATLARI
Sohbet robotları, kullanıcıya etkileşimin başında ve her üç saatte bir “bir yapay zekâ ile iletişimde olunduğu” bilgisini vermek zorunda olacak. Çocuk ve genç kullanıcılar için bu bildirim saatte bire indirilecek. Sistemler, tıbbi bir sağlık hizmeti sağlayıcısı olmadıklarını açıkça beyan edecek. Hassas içerikleri tespit edecek algoritmalar geliştirilecek. Örneğin, intihar planlaması veya psikoz belirtileri içeren mesajlar doğrudan kriz hizmetlerine yönlendirilecek.
ÇARPICI VERİLER
OpenAI’nin paylaştığı verilere göre:
- Haftalık yaklaşık 1,2 milyon kullanıcı intihar planlaması içerikli mesaj paylaşıyor.
- 560 bin kullanıcı ise psikoz belirtileri gösteren içerikler üretiyor. Bu rakamlar, düzenlemenin neden hayati olduğunu ortaya koyuyor.
HUKUKİ YAPTIRIMLAR
Yeni yasa tasarısı, teknoloji şirketlerini Tüketiciyi Koruma Yasası kapsamına alıyor.
- Bireyler ve aileler, ihmal durumunda şirketlere karşı doğrudan dava açabilecek.
- Eyalet başsavcılığı, kamu yararı adına şirketlere karşı dava yürütebilecek.
- Botların romantik ilişki taklit etmesi veya duygusal bağımlılık yaratacak teknikler kullanması yasaklanacak.
TEKNOLOJİ DÜNYASINDA ETİK TARTIŞMASI
Eski teknoloji çalışanları ve ruh sağlığı uzmanları, düzenlemenin kullanıcı güvenliği açısından kritik olduğunu savunuyor. Teknoloji endüstrisi birlikleri ise düzenlemenin “istisnai durumlar üzerinden tüm sektörü kısıtladığını” öne sürüyor.
KÜRESEL ETKİ
Washington’un bu adımı, Kaliforniya’nın ardından ABD’de yapay zekâ etiği konusunda yeni bir dönemin başlangıcı olarak görülüyor. Uzmanlara göre bu düzenleme, kısa sürede diğer eyaletlere ve küresel pazara da yayılabilir.
About the Author
