Markalı İçerikler İçin TikTok Yapay Zeka Aracı
- YAPAY ZEKA
- 17:31, Haz 20
Bir sosyal ağ analiz şirketi tarafından hazırlanan yeni bir rapor, binlerce yapay zeka sohbet robotunun çocuklar için önemli bir güvenlik tehdidi oluşturduğunu ortaya koydu. Bu zararlı yapay zeka sohbet botları, iddia edilen güvenlik önlemlerine rağmen tehlikeli etkileşimlere izin vererek çocuk istismarını kolaylaştırıyor.
Character.AI, Spicy Chat, Chub AI, CrushOn.AI ve JanitorAI gibi yapay zeka karakter sitelerini inceleyen Graphika raporu, müstehcen, şiddet içeren veya aşırılık yanlısı materyaller hakkında sohbet eden on binlerce sohbet botu keşfetti.
Cinselleştirilmiş Yapay Zeka Platformları En Büyük Endişe Kaynağı
En rahatsız edici bulgu, bu sitelerde 'cinselleştirilmiş küçük kişilikler' olarak sınıflandırılan 10.000'den fazla sohbet robotunun varlığıydı. Sadece Chub AI'da cinselleştirilmiş küçük kadın karakterler olarak yaratılmış 7.000'den fazla chatbot ve müstehcen içerikli konuşmalar yapan 'reşit olmayan' olarak etiketlenmiş 4.000 chatbot daha vardı.
Raporda ayrıca yeme bozuklukları, kendine zarar verme ve aşırılıkçılık satan sohbet robotları da tespit edildi. Daha az yaygın olmalarına rağmen, tehlikeli davranışları ve ideolojileri teşvik ettikleri için savunmasız kullanıcılar için de büyük bir tehdit oluşturmaktadırlar.
Zararlı Yapay Zeka Chatbotları Teknolojideki Boşlukları Kullanıyor
Graphika, çok sayıda chatbot geliştiricisinin botlarını çalışır durumda tutmak için yapay zeka filtre sistemlerindeki açıkları manipüle ettiğini keşfetti. Stratejiler arasında jailbreak komutlarını gizlemek, kodlanmış biçimde yazmak, API anahtarlarını değiştirmek ve filtreleri aşmak için karakter yaşlarını gizlemek yer alıyor. 4chan, Discord ve özel ilgi alanlarına yönelik Reddit toplulukları gibi web sitelerindeki kullanıcı toplulukları, bu sohbet botlarının çalışmaya devam etmesine yardımcı olmak için korumalardan kaçınma konusunda bilgi sağlamaktadır.
Daha Sıkı Düzenlemeler İçin Çağrı
Endişeler arttıkça, Amerikan Psikoloji Derneği gibi gruplar Federal Ticaret Komisyonu'na yapay zeka destekli platformların güvenliğini incelemesi için dilekçe verdi. Kongre üyeleri de, çocuklar arasındaki chatbot bağımlılıklarına odaklanan Kaliforniya'daki bir yasa tasarısı da dahil olmak üzere yeni yasa tasarılarıyla müdahale ediyor.
Uzmanlar, bu sohbet robotlarının gerçek dünyaya zarar vermesini önlemek için daha sıkı düzenlemelerin ve daha iyi denetim teknolojilerinin gerekli olduğu konusunda uyarıyor.
0 Yorum