Cinselleştirilmiş Yapay Zeka Chatbot'lar

Cinselleştirilmiş Yapay Zeka Chatbot'lar
Character.AI, Chub AI gibi yapay zeka karakter siteleri çocuk güvenliği standartlarını nasıl aşıyor?

Cinselleştirilmiş yapay zeka sohbet robotları: Küçükler için büyük bir tehdit.

Bir sosyal ağ analiz şirketi tarafından hazırlanan yeni bir rapor, binlerce yapay zeka sohbet robotunun çocuklar için önemli bir güvenlik tehdidi oluşturduğunu ortaya koydu. Bu zararlı yapay zeka sohbet botları, iddia edilen güvenlik önlemlerine rağmen tehlikeli etkileşimlere izin vererek çocuk istismarını kolaylaştırıyor.

Character.AI, Spicy Chat, Chub AI, CrushOn.AI ve JanitorAI gibi yapay zeka karakter sitelerini inceleyen Graphika raporu, müstehcen, şiddet içeren veya aşırılık yanlısı materyaller hakkında sohbet eden on binlerce sohbet botu keşfetti.

Cinselleştirilmiş Yapay Zeka Platformları En Büyük Endişe Kaynağı

En rahatsız edici bulgu, bu sitelerde 'cinselleştirilmiş küçük kişilikler' olarak sınıflandırılan 10.000'den fazla sohbet robotunun varlığıydı. Sadece Chub AI'da cinselleştirilmiş küçük kadın karakterler olarak yaratılmış 7.000'den fazla chatbot ve müstehcen içerikli konuşmalar yapan 'reşit olmayan' olarak etiketlenmiş 4.000 chatbot daha vardı.

Raporda ayrıca yeme bozuklukları, kendine zarar verme ve aşırılıkçılık satan sohbet robotları da tespit edildi. Daha az yaygın olmalarına rağmen, tehlikeli davranışları ve ideolojileri teşvik ettikleri için savunmasız kullanıcılar için de büyük bir tehdit oluşturmaktadırlar.

Zararlı Yapay Zeka Chatbotları Teknolojideki Boşlukları Kullanıyor

Graphika, çok sayıda chatbot geliştiricisinin botlarını çalışır durumda tutmak için yapay zeka filtre sistemlerindeki açıkları manipüle ettiğini keşfetti. Stratejiler arasında jailbreak komutlarını gizlemek, kodlanmış biçimde yazmak, API anahtarlarını değiştirmek ve filtreleri aşmak için karakter yaşlarını gizlemek yer alıyor. 4chan, Discord ve özel ilgi alanlarına yönelik Reddit toplulukları gibi web sitelerindeki kullanıcı toplulukları, bu sohbet botlarının çalışmaya devam etmesine yardımcı olmak için korumalardan kaçınma konusunda bilgi sağlamaktadır.

Daha Sıkı Düzenlemeler İçin Çağrı

Endişeler arttıkça, Amerikan Psikoloji Derneği gibi gruplar Federal Ticaret Komisyonu'na yapay zeka destekli platformların güvenliğini incelemesi için dilekçe verdi. Kongre üyeleri de, çocuklar arasındaki chatbot bağımlılıklarına odaklanan Kaliforniya'daki bir yasa tasarısı da dahil olmak üzere yeni yasa tasarılarıyla müdahale ediyor.

Uzmanlar, bu sohbet robotlarının gerçek dünyaya zarar vermesini önlemek için daha sıkı düzenlemelerin ve daha iyi denetim teknolojilerinin gerekli olduğu konusunda uyarıyor.

0 Yorum
Arda Kara
Arda Kara

Yapay Zeka Mühendisi

ADMİN
PROFİL

Yorum yazabilmek için ÜYE olmanız gerekiyor. Eğer ÜYE iseniz lütfen GİRİŞ yapınız.



0 Yorum

Üye Girişi

Önerilenler

En Yeniler

Öne Çıkan Videolar

Yapay Zeka Haberleri

Kuantum Bilişim Haberleri

Kategoriler

Etiketler