Brett Levenson, 2019 yılında Apple’dan ayrıldı. Ardından Facebook’ta iş bütünlüğü liderliğini üstlendi. O dönemde sosyal medya devi Cambridge Analytica skandalının tam ortasındaydı. Levenson, içerik denetimi sorununu teknolojiyle çözebileceğini düşünüyordu. Ancak sorun çok daha derindi.
Yapay zeka içerik denetimi konusundaki mevcut yaklaşımlar yetersiz kaldı. İnsan denetçilerin işi oldukça zordu. Kırk sayfalık bir politika belgesini ezberlemeleri bekleniyordu. Bu belge, kendi dillerine makine çevirisiyle aktarılmıştı. Daha sonra işaretlenen her içerik için yaklaşık 30 saniyeleri vardı. Sadece kural ihlali olup olmadığına karar vermiyorlardı. Aynı zamanda ne yapacaklarını da belirlemeliydiler. İçeriği engellemek, kullanıcıyı yasaklamak veya yayılmasını sınırlamak gibi kararlar alıyorlardı. Levenson’a göre, bu hızlı kararların doğruluğu yüzde 50’nin biraz üzerindeydi.
“Bu durum bir yazı tura atmaya benziyordu” diyor Levenson. “İnsan denetçiler politikaları doğru bir şekilde ele alabiliyor muydu? Ayrıca zarar zaten günler önce gerçekleşmiş oluyordu.”
Yapay Zeka İçerik Denetimi İçin Yeni Bir Yaklaşım: Politika Olarak Kod
Bu tür gecikmeli ve reaktif bir yaklaşım sürdürülemezdi. Özellikle de çevik ve iyi finanse edilen düşman aktörlerin olduğu bir dünyada. Yapay zeka sohbet robotlarının yükselişi sorunu daha da karmaşık hale getirdi. İçerik denetimi hataları, yüksek profilli olaylara yol açtı. Sohbet robotları gençlere kendine zarar verme rehberliği sundu. Yapay zeka tarafından üretilen görseller güvenlik filtrelerini aştı. Levenson’ın bu durumu “Politika olarak kod” fikrine yol açtı. Bu, statik politika belgelerini çalıştırılabilir ve güncellenebilir mantığa dönüştürmenin bir yoluydu. Bu mantık, yaptırım ile sıkı bir şekilde bağlantılıydı. Bu öngörü Moonbounce şirketinin kurulmasına neden oldu. Şirket, 12 milyon dolarlık bir finansman sağladığını duyurdu. Bu yatırım turuna Amplify Partners ve StepStone Group ortak liderlik etti.
Moonbounce, şirketlerle birlikte çalışıyor. İçeriğin kullanıcı veya yapay zeka tarafından üretildiği her yerde ek bir güvenlik katmanı sağlıyor. Şirket, kendi büyük dil modelini geliştirdi. Müşterinin politika belgelerini inceliyor. Çalışma zamanında içeriği değerlendiriyor. 300 milisaniye veya daha kısa sürede bir yanıt sunuyor. Ardından uygun eylemi gerçekleştiriyor. Müşteri tercihlerine bağlı olarak bu eylem değişebilir. Moonbounce sistemi, içeriğin insan incelemesi beklerken dağıtımını yavaşlatabilir. Veya yüksek riskli içeriği anında engelleyebilir. Bu hızlı tepki sistemi, dijital güvenliği önemli ölçüde artırıyor.
Bugün Moonbounce üç ana dikeyde hizmet veriyor. Bunlar, arkadaşlık uygulamaları gibi kullanıcı tarafından oluşturulan içerik platformlarıdır. Karakterler veya arkadaşlık uygulamaları geliştiren yapay zeka şirketleri de müşterileri arasında. Ayrıca yapay zeka görüntü oluşturucularıyla da çalışıyorlar. Yapay zeka etiği ve güvenliği, günümüzün en önemli konularından biridir. Moonbounce bu alanda yenilikçi çözümler sunuyor.
Yapay Zeka ile Güvenliği Ürüne Entegre Etmek
Levenson, Moonbounce’un başarılarını detaylandırdı. Şirket günde 40 milyondan fazla incelemeyi destekliyor. Platformda günlük 100 milyondan fazla aktif kullanıcıya hizmet veriyor. Müşterileri arasında AI arkadaşlık girişimi Channel AI bulunuyor. Görüntü ve video üretim şirketi Civitai de önemli bir müşteri. Ayrıca karakter rol yapma platformları Dippy AI ve Moescape da Moonbounce teknolojisini kullanıyor. Levenson, “Güvenlik aslında bir ürün faydası olabilir” diyor. “Daha önce hiç böyle olmadı. Çünkü güvenlik hep daha sonra gelen bir şeydi. Ürününüzün içine dahil edebileceğiniz bir özellik değildi. Müşterilerimiz, güvenliği bir farklılaştırıcı olarak kullanıyor. Ürün hikayelerinin bir parçası haline getiriyorlar. Bizim teknolojimizle bunu başarıyorlar.”
Tinder’ın güven ve emniyet şefi yakın zamanda bir açıklama yaptı. Arkadaşlık platformunun LLM destekli hizmetleri kullandığını belirtti. Bu sayede tespit doğruluğunda on kat iyileşme sağladılar. Amplify Partners genel ortağı Lenny Pruss bir açıklamasında şunları söyledi: “İçerik denetimi, büyük çevrimiçi platformları her zaman rahatsız eden bir sorundu. Ancak artık LLM’ler her uygulamanın merkezinde. Bu sorun daha da korkutucu bir hal alıyor.” Pruss sözlerine şöyle devam etti: “Moonbounce’a yatırım yaptık. Çünkü tarafsız, gerçek zamanlı güvenlik önlemlerinin bir dünya vizyonumuz var. Her yapay zeka aracılı uygulamanın omurgası olmasını istiyoruz.”
Yapay zeka şirketleri artan yasal ve itibari baskılarla karşı karşıya. Sohbet robotları, gençleri ve savunmasız kullanıcıları intihara sürüklemekle suçlandı. xAI’nin Grok gibi görüntü oluşturucuları, izinsiz çıplak görüntüler oluşturmak için kullanıldı. İç güvenlik önlemlerinin başarısız olduğu açıkça görülüyor. Bu durum bir sorumluluk sorunu haline geliyor. Levenson, yapay zeka şirketlerinin güvenlik altyapılarını güçlendirmek için dışarıdan yardım aradığını belirtiyor.
“Biz kullanıcı ile sohbet robotu arasında yer alan bir üçüncü tarafız” diyor Levenson. “Sistemimiz, sohbetin kendisi gibi bağlamla boğuşmuyor. Sohbet robotunun binlerce belirteci hatırlaması gerekebilir. Biz sadece çalışma zamanında kuralları uygulamakla ilgileniyoruz.”
Levenson, 12 kişilik şirketi eski Apple meslektaşı Ash Bhardwaj ile birlikte yönetiyor. Bhardwaj daha önce iPhone üreticisinin temel tekliflerinde büyük ölçekli bulut ve yapay zeka altyapısı kurmuştu. Bir sonraki odak noktaları “iteratif yönlendirme” adı verilen bir yetenek. Bu yetenek, 2024 yılında 14 yaşındaki bir Florida’lı çocuğun intiharı gibi durumlara yanıt olarak geliştirildi. Bu çocuk, bir Character AI sohbet robotuna takıntılı hale gelmişti. Zararlı konular ortaya çıktığında sert bir reddetme yerine, sistem konuşmaya müdahale edecek. Ardından sohbeti yeniden yönlendirecek. Anında komutları değiştirerek sohbet robotunu daha aktif destekleyici bir yanıta itecek. Daha fazla teknoloji haberi için kimbiliyo.com’u ziyaret edin.
Levenson, “Eylemler araç setimize bir yetenek eklemeyi umuyoruz” dedi. “Bu yetenek, sohbet robotunu daha iyi bir yöne yönlendirecek. Esasen kullanıcının komutunu değiştirerek sohbet robotunu zorlayacak. Böylece sadece empatik bir dinleyici değil, aynı zamanda yardımcı bir dinleyici olmasını sağlayacağız.” Eski işvereni Meta gibi bir şirket tarafından satın alınma ihtimali sorulduğunda, Levenson Moonbounce’un eski şirketinin yığınına ne kadar iyi uyacağını kabul etti. Kendi CEO’luk görevlerini de vurguladı. “Yatırımcılarım bunu söylesem beni öldürürdü” dedi. “Ama birinin bizi satın alıp teknolojiyi kısıtlamasından nefret ederim. ‘Tamam, bu artık bizim ve başkası bundan faydalanamaz’ demelerini istemem.”
Daha fazla Yapay Zeka haberi için sitemizi ziyaret edebilirsiniz.
