Dünyaca ünlü yapay zeka uygulaması Character.AI, kullanıcılar tarafından yapılan tepkiler ve geri bildirimler sonrasında, sanal karakterlerle romantik ilişki kurma özelliğini resmen kaldırdı. Yapay zeka destekli sohbet uygulaması, kullanıcı deneyimini daha güvenli ve kontrollü hale getirmek adına önemli değişiklikler yaparak, gençler için özel filtreler ve güvenlik önlemleri ekledi. İşte detaylar…
Character.AI Romantik İlişki Özelliğini Kaldırdı
ChatGPT, Gemini ve Claude gibi gelişmiş yapay zeka modelleriyle hayatımıza giren yeni teknolojiler, farklı amaçlarla kullanılabiliyor. Bunlardan biri, sanal karakterlerle etkileşim kurarak, sanki bir kişiyle sohbet ediyormuş gibi deneyimler sunmak. Ancak Character.AI, gelen yoğun tepkiler üzerine, sanal karakterlerle romantik ilişki kurma özelliğini kaldırdı. Uygulama, bu kararı alarak, platformdaki deneyimleri daha güvenli ve etik bir hale getirmeyi amaçlıyor.
Gençler İçin Yeni Yapay Zeka Modeli ve Filtreleme Sistemleri
Character.AI, artık 18 yaş altı kullanıcılar için daha sıkı kurallar içeren özel bir yapay zeka modeli sunuyor. Bu modelde, romantik ve uygunsuz içeriklere tamamen kapalı bir sistem mevcut. Genç kullanıcılar için sunulan bu yeni yapay zeka modeli, aynı zamanda daha hızlı filtreleme yapan bir sistemle donatıldı. Uygunsuz içerikler tespit edildiğinde, sistem anında devreye girerek, bu tür içerikleri engelliyor.
Yapay Zeka Güvenliği Artırıldı
Platform, kullanıcıların chatbot cevaplarını düzenleyerek yasaklı içeriklere ulaşmasını engellemeye yönelik önlemler almış durumda. Ayrıca, yapay zeka chatbot’larıyla yapılan sohbetlerde intihar ve kendine zarar verme gibi hassas konular gündeme geldiğinde, platform kullanıcıyı profesyonel kaynaklara yönlendirmek için ‘Ulusal İntiharı Önleme Hattı’ gibi bilgilere ulaşmalarını sağlıyor.
Sağlık ve Psikolojik Destek İçin Uyarılar Eklendi
Character.AI, yalnızca gençlere yönelik değil, tüm kullanıcılar için dikkat çekici değişiklikler yaparak güvenliği artırdı. Örneğin, bir saat boyunca chatbot ile sohbet eden kullanıcılara, mola vermeleri için hatırlatmalar yapılmaya başlandı. Ayrıca, yapay zeka karakterlerinin uzmanlık alanlarına göre, kullanıcıların bu karakterlerin gerçek profesyoneller olmadığını açıkça belirten dikkat çekici uyarılar eklenmiş durumda. Örneğin, kullanıcılar bir chatbot ile terapi ya da sağlık konularında sohbet ettiğinde, bu botların gerçek bir profesyonel olmadığını belirten büyük uyarılar alacak.
