Yapay zeka (YZ) alanındaki hızlı gelişmeler, beraberinde önemli bir performans darboğazını getiriyor: YZ çıkarımı. Bu kritik sorunu zarif bir yaklaşımla çözen Gimlet Labs adlı start-up, Seri A turunda 80 milyon dolarlık büyük bir yatırım aldı. Menlo Ventures liderliğindeki bu finansman, şirketin ‘çoklu silikon çıkarım bulutu’ teknolojisini daha da geliştirmesine olanak tanıyacak.
Stanford Üniversitesi öğretim görevlisi ve daha önce başarılı bir şirketten çıkış yapmış deneyimli kurucu Zain Asgar liderliğindeki Gimlet Labs, YZ iş yüklerini farklı donanım türleri arasında eş zamanlı olarak çalıştırmayı sağlayan devrim niteliğinde bir yazılım geliştirdi. Bu yenilikçi yaklaşım, yapay zeka uygulamalarının geleneksel CPU’lar, YZ odaklı GPU’lar ve yüksek bellekli sistemler arasında dinamik bir şekilde dağıtılmasını mümkün kılıyor.
Yapay Zeka Çıkarım Verimliliği Nasıl Artırılıyor?
Tim Tully, Menlo Ventures’tan baş yatırımcı olarak yaptığı açıklamada, bir YZ ajanının birden fazla adımı arka arkaya zincirleyebildiğini belirtti. Bu adımların her biri farklı donanım gereksinimlerine sahip. Çıkarım (inference) işlemciye bağlıyken, kod çözme (decode) belleğe, araç çağrıları ise ağa bağlı oluyor. Mevcut durumda hiçbir çip bu ihtiyaçların tamamını karşılayamıyor. Ancak yeni donanımlar piyasaya sürülürken ve eski GPU’lar yeniden kullanıma açılırken, bu ‘çoklu silikon’ filo zaten hazır bekliyor. Tully’ye göre eksik olan tek şey, bu filoyu bir araya getirecek yazılım katmanıydı ve Gimlet Labs tam da bu boşluğu dolduruyor.
Günümüzdeki YZ uygulamaları, mevcut donanım kaynaklarının yalnızca yüzde 15 ila 30’unu kullanıyor. Asgar, bu durumun yüz milyarlarca dolarlık atıl kaynağa yol açtığını ifade etti. Şirketinin temel hedefi, YZ iş yüklerini günümüzün koşullarında 10 kat daha verimli hale getirmek. Bu, sadece maliyetleri düşürmekle kalmıyor, aynı zamanda enerji tüketimini de optimize ediyor. Yapay zeka modelleri ve genel olarak bulut bilişim hakkında daha fazla bilgi edinmek için Google Cloud’un bulut bilişim kaynaklarını ziyaret edebilirsiniz.
Veri Merkezi Harcamaları ve Donanım Optimizasyonu
McKinsey’in tahminlerine göre, mevcut ‘daha fazla işlem gücü dağıt’ trendi devam ederse, veri merkezi harcamaları 2030 yılına kadar yaklaşık 7 trilyon dolara ulaşacak. Bu devasa harcamaların önüne geçmek, donanım verimliliğini artırmaktan geçiyor. Gimlet Labs, tam da bu noktada devreye giriyor. Şirketin yazılımı, YZ ajanı iş yüklerini dilimleyerek, çeşitli donanımlar arasında eş zamanlı ve optimize edilmiş bir şekilde dağıtıyor. Bu sayede her bir model parçası için en uygun çip kullanılabiliyor.
Şirket, aynı maliyet ve güç tüketimiyle YZ çıkarım hızını 3 ila 10 kat artırdığını iddia ediyor. Gimlet, hatta temel modeli farklı mimariler arasında çalışacak şekilde bölerek, modelin her bir bölümü için en iyi çipi kullanabildiğini belirtiyor. Bu yetenek, YZ iş yüklerinin benzersiz bir esneklikle yürütülmesini sağlıyor. NVIDIA, AMD, Intel, ARM, Cerebras ve d-Matrix gibi sektörün önde gelen çip üreticileriyle şimdiden ortaklıklar kuruldu.
Gimlet Labs: Pazar Liderleri İçin Bir Çözüm
Gimlet’in ürünü, bir yazılım olarak veya kendi Gimlet Bulutu üzerinden bir API aracılığıyla sunuluyor. Ancak bu çözüm, sıradan YZ uygulama geliştiricileri için değil, en büyük YZ model laboratuvarları ve veri merkezleri için tasarlandı. Şirket, Ekim ayında halka açıldığında sekiz haneli gelirler elde ettiğini duyurdu. Asgar, müşteri tabanının son dört ayda iki katından fazla büyüdüğünü ve büyük bir model üreticisi ile son derece büyük bir bulut bilişim şirketini kapsadığını belirtti.
Kurucu ortaklar Zain Asgar, Michelle Nguyen, Omid Azizi ve Natalie Serrino, daha önce Kubernetes için açık kaynaklı bir gözlemlenebilirlik aracı oluşturan Pixie adlı start-up’ta birlikte çalışmışlardı. Pixie, 2020 yılında, 9 milyon dolarlık Seri A turunun hemen ardından New Relic tarafından satın alınmıştı. Bu deneyimli ekip, Gimlet Labs’ın başarısının temelini oluşturuyor.
Yatırım ve Gelecek Vizyonu
Asgar’ın yaklaşık bir yıl önce Tim Tully ile tesadüfen karşılaşması ve Stanford profesörlerinden aldığı melek yatırımları, risk sermayesi şirketlerinin dikkatini çekti. Şirketin lansmanından sonra Asgar’ın masasına teklifler yağmaya başladı. Asgar, teklifleri değerlendirdiğini duyan risk sermayesi şirketlerinin yoğun ilgisiyle, yatırım turunun hızla dolduğunu ve aşırı talep gördüğünü söyledi. Daha önceki tohum yatırımla birlikte, start-up toplamda 92 milyon dolar fon sağlamış oldu. Yatırımcılar arasında Sequoia’dan Bill Coughran, Stanford Profesörü Nick McKeown, VMware’ın eski CEO’su Raghu Raghuram ve Intel CEO’su Lip-Bu Tan gibi önemli isimler bulunuyor. Şirket şu anda 30 kişiye istihdam sağlıyor.
Factory (tohum yatırımına liderlik eden), Eclipse Ventures, Prosperity7 ve Triatomic gibi diğer önemli yatırımcılar da Gimlet Labs’a destek verdi. Bu güçlü finansman ve deneyimli ekiple, Gimlet Labs’ın YZ çıkarım alanında önemli bir dönüşüm yaratması bekleniyor. Şirket, YZ’nin gelecekteki potansiyelini tam anlamıyla ortaya çıkaracak bir yol haritası sunuyor.
Daha fazla güncel Yapay Zeka haberleri için sitemizi ziyaret edebilirsiniz.
