Çinli Fable 5: Kimi K3 Tartıları Yayınlandı

0

BEĞENDİM

ABONE OL

News

0

Çin merkezli Moonshot AI, merakla beklenen yeni modeli Kimi K3’ün yüklerini fiyatsız olarak paylaştı. Bu atılım, yeni yapay zeka GPU donanımlarına sahip olan herkesin modeli kendi sistemlerinde çalıştırabilmesine imkan tanıyor.

Şirketin bu kararı, OpenAI ve Anthropic üzere bölümün önde gelen oyuncularına karşı atılmış kıymetli bir adım olarak bedellendiriliyor. Kimi K3, Moonshot AI tarafından paylaşılan test sonuçlarına nazaran evvelki kuşak modelleri geride bırakırken, yeni rakipleriyle de rekabet edebilecek bir performans sergiliyor.

Yüksek verimlilik ve düşük maliyetli çalışma

Kimi K3, bilhassa operasyonel maliyetler konusunda rakiplerine kıyasla önemli avantajlar sunuyor. Modelin giriş maliyeti milyon token başına 3 dolar olarak belirlenirken, bu sayı önbellekleme yapısı sayesinde makul kullanım senaryolarında 0,30 dolara kadar düşebiliyor.

Modelin bu denli verimli çalışmasının temelinde, düşük hassasiyetli MXFP4 ve MXFP8 data tiplerinin kullanımı yatıyor. Toplam 2,8 trilyon parametreye sahip olan modelde, her süreç sırasında yalnızca 104,2 milyar parametre faal hale getiriliyor.

Moonshot AI, test süreçlerinde Nvidia H20 üzere günümüz standartlarına nazaran daha düşük düzeyli bir donanım kullandığını belirtiyor. Bu durum, modelin daha geniş bir donanım yelpazesinde verimli bir biçimde çalışabileceğine işaret ediyor.

Geleneksel anahtar-değer depolama yerine Kimi Delta Attention ismi verilen sabit boyutlu bir durum yöneticisi tercih ediliyor. Bu mimari, hem VRAM kullanımını azaltıyor hem de süreç mühletini kısaltarak genel verimliliğe katkı sağlıyor.

Sektördeki rekabet istikrarları değişiyor

Kimi K3’ün açık yüklü bir model olarak sunulması, geliştiricilerin ve şirketlerin kendi altyapılarını kurarak büyük oyunculara direkt rakip olabilmesinin önünü açıyor. Bu gelişme, bilhassa maliyet odaklı projeler için kıymetli bir alternatif oluşturuyor.

Açık yüklü modelin sunulması, eğitim sürecinin ve data setinin hala Moonshot AI’ın özel mülkiyetinde olduğu gerçeğini değiştirmiyor. Yeniden de bu adım, fiyatsız yazılımın ticari rakipleriyle misal performans gösterirken çok daha düşük maliyetlerle çalışabileceğini kanıtlıyor.

Modelin Blackwell üzere MXFP takviyeli çağdaş donanımlarda çalıştırıldığında daha da yüksek performans göstermesi bekleniyor. İlerleyen devirde yapılacak resmi testler, bu optimizasyonların donanım tarafındaki gerçek tesirini ortaya koyacak.

Sizce Moonshot AI’ın bu atılımı, OpenAI ve Anthropic üzere devlerin pazar hissesini nasıl etkileyecek?