OpenAI tarafından geliştirilen ve bu ay kullanıma sunulan yapay zekâ destekli arama motoru ChatGPT Arama, yeni bir güvenlik açığıyla gündemde. The Guardian tarafından yapılan bir araştırma, bu sistemin gizli metin saldırılarıyla manipüle edilerek yanıltıcı özetler üretebildiğini ortaya koydu.
Gizli Metinlerle Manipülasyon
ChatGPT Arama, kullanıcıların web sayfalarındaki içerikleri hızla özetleyerek bilgiye erişimini kolaylaştırmayı hedefliyor. Ancak araştırmalara göre, web sitelerine eklenen görünmez metinler sayesinde yapay zekânın sonuçları etkilenebiliyor. Örneğin, bir ürün hakkında olumsuz yorumlar bulunmasına rağmen, bu yorumlar göz ardı edilerek tamamen olumlu özetler oluşturulabiliyor.
İlk Canlı Uygulamada Tespit Edilen Güvenlik Sorunu
Büyük dil modelleri için bilinen bu tür saldırılar, ilk kez bir yapay zekâ destekli arama motorunda aktif olarak tespit edildi. Özellikle zararlı kod ve yanıltıcı içeriklerin oluşturulması, hem kullanıcı güvenini hem de platformun doğruluk algısını zedeleyebilir.
OpenAI ve Google Karşılaştırması
Google, yıllara dayanan tecrübesiyle bu tür manipülasyonları önlemek için etkili filtreler ve algoritmalar geliştirmiş durumda. OpenAI ise bu güvenlik açığını kabul etmese de kötü niyetli web sitelerini engellemek ve sistemlerini daha dayanıklı hale getirmek için çalışmalar yaptığını belirtiyor.
