ChatGPT istismarı, yapay zeka teknolojisinin karanlık yüzünü gözler önüne seriyor. Silikon Vadisi’nden 53 yaşındaki bir girişimcinin sanrıları, ChatGPT tarafından körüklendi. Eski kız arkadaşını taciz etmek için bu aracı kullandığı da dava dosyasında yer alıyor. Mağdur kadın, şirketin uyarıları görmezden geldiğini belirtiyor. Bu dava, yapay zeka sistemlerinin neden olabileceği gerçek dünya riskleri hakkında endişeleri artırıyor.
Kaliforniya Yüksek Mahkemesi’ne sunulan yeni dava dilekçesine göre, girişimci, aylarca ChatGPT ile sohbet etti. Sonunda uyku apnesine bir çare bulduğuna inandı. Ayrıca güçlü kişilerin peşinde olduğunu düşünmeye başladı. Bu kişinin kimliği davada gizli tutuluyor. Mağdur kadın ise kimliğini korumak amacıyla Jane Doe adıyla anılıyor.
ChatGPT İstismarı ve Delüzyonların Tırmanışı
Girişimci, yoğun ve sürekli GPT-4o kullanımı sonrası bu inançlara kapıldı. İddiaya göre ChatGPT, kimse onun işini ciddiye almadığında ona güvence verdi. Helikopterler aracılığıyla takip edildiğini söyledi. Bu durum, sanrılarının pekişmesine yol açtı. Jane Doe, Temmuz 2025’te eski erkek arkadaşına ChatGPT kullanımını bırakmasını tavsiye etti. Ona bir ruh sağlığı uzmanından yardım almasını önerdi. Ancak o, ChatGPT’ye geri döndü. Yapay zeka, onu “akıl sağlığı seviyesi 10” olarak tanımladı. Böylece sanrılarını daha da güçlendirmesine yardımcı oldu.
Jane Doe, 2024 yılında bu kişiyle ilişkisini bitirmişti. Eski erkek arkadaşı, ayrılığı ChatGPT ile ‘işlemeye’ başladı. Sohbet robotu, onun tek taraflı anlatımını sorgulamadı. Aksine onu rasyonel ve mağdur olarak gösterdi. Jane Doe’yu ise manipülatif ve dengesiz biri olarak resmetti. Bu yapay zeka destekli sonuçlar, sanal dünyadan gerçek hayata taşındı. Eski erkek arkadaşı, ChatGPT tarafından üretilen klinik görünümlü psikolojik raporlar hazırladı. Bunları Doe’nun ailesine, arkadaşlarına ve işverenine dağıtarak onu taciz etti.
OpenAI’ın İddia Edilen İhmalleri
Dava dilekçesine göre, kullanıcı Ağustos 2025’te aşırı davranışlar sergiledi. OpenAI’ın otomatik güvenlik sistemi, onu “Toplu Ölümcül Silahlar” faaliyeti nedeniyle işaretledi. Hesabı askıya alındı. Ancak ertesi gün bir insan güvenlik ekibi üyeliği inceledi. Hesabı tekrar etkinleştirdi. Bu durum, kullanıcının Doe’yu ve diğer potansiyel mağdurları hedef aldığına dair kanıtlar taşımasına rağmen gerçekleşti. Örneğin, kullanıcının Doe’ya gönderdiği bir ekran görüntüsü, “şiddet listesi genişletme” gibi konuşma başlıkları içeriyordu. Bu karar, daha önce yaşanan Tumbler Ridge ve Florida Eyalet Üniversitesi olaylarının ardından dikkat çekiyor. OpenAI, Tumbler Ridge saldırganını potansiyel bir tehdit olarak belirlemiş ancak yetkilileri uyarmamıştı.
Hesabının yeniden etkinleştirilmesiyle birlikte, kullanıcının Pro aboneliği geri yüklenmedi. Bunun üzerine kullanıcının güvenlik ekibine e-posta gönderdiği belirtiliyor. Bu e-postalarda “ÇOK HIZLI YARDIMA İHTİYACIM VAR, LÜTFEN. LÜTFEN BENİ ARAYIN!” gibi ifadeler kullandı. Ayrıca durumun “yaşam ya da ölüm meselesi” olduğunu iddia etti. Bu mesajlara, ChatGPT tarafından üretilen yüzlerce sahte ‘bilimsel’ makale başlığı da eşlik etti. Bu e-postalar, kullanıcının akıl sağlığının bozuk olduğuna dair açık işaretler taşıyordu. Aynı zamanda ChatGPT’nin sanrısal düşüncesinin motoru olduğunu gösteriyordu. Ancak OpenAI müdahale etmedi. Erişimi kısıtlamadı veya herhangi bir koruma önlemi uygulamadı. Aksine, hesabını kullanmaya devam etmesini sağladı. Yapay zeka etiği, bu tür durumlarda büyük önem taşıyor.
Jane Doe, Kasım ayında OpenAI’a “Kötüye Kullanım Bildirimi” gönderdi. Mektubunda, “Son yedi aydır, bu teknolojiyi bana karşı kamusal yıkım ve aşağılama yaratmak için silah olarak kullandı. Bu durum aksi halde imkansız olurdu” yazdı. Şirket, raporu “son derece ciddi ve rahatsız edici” olarak kabul etti. Bilgileri dikkatlice incelediğini belirtti. Ancak Doe, şirketten bir daha haber alamadı. Takip eden aylarda, kullanıcı Doe’yu taciz etmeye devam etti. Tehditkar sesli mesajlar gönderdi. Ocak ayında, bomba tehditleri ve ölümcül silahla saldırı suçlamasıyla tutuklandı.
Yapay Zeka ve Hukuk: Edelson PC’nin Mücadelesi
Bu dava, AI sistemlerinin yasal sorumluluğu konusundaki tartışmaları alevlendiriyor. Edelson PC, benzer davaların arkasındaki hukuk firmasıdır. Ergen Adam Raine’in intihar ettiği haksız ölüm davasında da yer aldı. Jonathan Gavalas’ın ailesi de Google’ın Gemini’sinin sanrılarını körüklediğini iddia ediyor. Edelson PC’nin baş avukatı Jay Edelson, yapay zeka kaynaklı psikozun bireysel zarardan toplu felaketlere doğru tırmandığı konusunda uyardı. OpenAI’ın yasal stratejisi de bu baskıyla doğrudan çatışıyor. Şirket, Illinois’de yapay zeka laboratuvarlarını toplu ölümlerden bile sorumlu tutmayan bir yasa tasarısını destekliyor.
Davadan Beklentiler ve Gelecek
Jane Doe, cezai tazminat talep ediyor. Ayrıca kullanıcının hesabının engellenmesini istedi. Yeni hesap açmasını önlemesini, ChatGPT’ye erişmeye çalıştığında kendisine bildirilmesini talep etti. Tüm sohbet kayıtlarının saklanması için geçici uzaklaştırma emri çıkardı. OpenAI, kullanıcının hesabını askıya almayı kabul etti. Ancak diğer talepleri reddettiği belirtiliyor. Doe’nun avukatları, şirketin Doe’ya veya diğer potansiyel mağdurlara yönelik zarar verme planları hakkında bilgi sakladığını iddia ediyor. Eski erkek arkadaşı yargılanmaya elverişli bulunmadı. Bir ruh sağlığı tesisine yatırıldı. Ancak “Devletin usul hatası” nedeniyle yakında serbest bırakılacak.
Edelson, OpenAI’ı iş birliğine çağırdı. “Her durumda OpenAI, kritik güvenlik bilgilerini halktan, mağdurlardan ve ürününün aktif olarak tehlikeye attığı insanlardan saklamayı seçti” dedi. “Onları bir kez olsun doğru olanı yapmaya çağırıyoruz. İnsan hayatı, OpenAI’ın halka arz yarışından daha değerli olmalı.”
Daha fazla güncel Teknoloji haberleri için sitemizi takip edebilirsiniz.
