Yapay zeka savaşları başladı! Lakin sandığınız üzere değil

0

BEĞENDİM

ABONE OL

News

0

Yapay zeka dalında dikkat çeken yeni bir gelişme yaşandı. Anthropic birtakım yapay zeka laboratuvarlarının Claude modelinin yeteneklerini sistematik biçimde kopyalamaya çalıştığını açıkladı.

Şirket DeepSeek, Moonshot AI ve MiniMax isimli üç laboratuvarın geçersiz hesaplar üzerinden büyük ölçekli erişim sağlayarak modeli inceleyip kendi sistemlerini geliştirmek için kullandığını bildirdi.

Anthropic tarafından paylaşılan teknik rapora nazaran kelam konusu laboratuvarlar yaklaşık 24 bin düzmece hesap oluşturdu. Bu hesaplar aracılığıyla Claude ile 16 milyondan fazla etkileşim gerçekleştirildi. Trafik olağan kullanıcı davranışlarından farklı bir yapı sergiledi ve makul yeteneklerin çıkarılmasına odaklandı.

Kullanılan usul distillation olarak isimlendiriliyor. Bu usul olağanda yapay zeka şirketlerinin kendi modellerini küçültmek için kullandığı bilinen bir eğitim tekniği. Güçlü bir modelin ürettiği cevaplar daha küçük bir modele öğretilerek daha ucuz ve hafif sistemler oluşturuluyor. Fakat burada süreç rakip bir modelden yetenek transferi hedefiyle uygulandı.

Anthropic geçersiz hesapların proxy servisleri üzerinden yönetildiğini ve yüzlerce hesabın eş vakitli çalıştırıldığını belirtti. Tek bir ağda tıpkı anda 20 binden fazla hesabın faal tutulabildiği tespit edildi. Hesaplardan gelen isteklerin yapısı muhakkak yetenekleri çıkarmaya yönelik tekrar eden ve planlı sorgulardan oluştu.

DeepSeek kampanyasında modelin akıl yürütme yetenekleri ve kıymetlendirme misyonları gaye alındı. Claude’dan adım adım düşünme süreçlerini yazması istendi ve bu cevaplar eğitim verisi olarak kullanıldı.

Moonshot AI tarafında casus davranışı, araç kullanımı, kod yazma ve data tahlili alanlarına yönelik milyonlarca istek gönderildi. MiniMax kampanyasında ise bilhassa kodlama ve araç orkestrasyonu yeteneklerine odaklanıldığı kaydedildi.

Şirket, bu erişimlerin hizmet kaidelerini ve bölgesel erişim kurallarını ihlal ettiğini açıkladı. Ticari erişimin bulunmadığı bölgelerde dolaylı temas sağlayan proxy altyapılar kullanıldı. Trafik dağıtılarak tespit edilmemesi için yük dengeleme usulleri uygulandı.

Raporda distillation yoluyla elde edilen modellerin güvenlik tedbirlerini taşımayabileceği bilgisi de yer aldı. Gelişmiş yapay zeka sistemlerinde yer alan berbata kullanım manileri, kopyalanan sistemlerde bulunmayabiliyor. Bu durumun siber akınlar, ziyanlı yazılım geliştirme, yanlış bilgi üretimi ve nezaret sistemleri üzere alanlarda risk oluşturabileceği tabir edildi.

Anthropic ayrıyeten bu faaliyetlerin giderek daha karmaşık hale geldiğini ve farklı şirketler, bulut sağlayıcıları ve düzenleyici kurumlar ortasında uyum gerektirdiğini belirtti.

Şirket API trafiğini tahlil eden davranış tespiti sistemleri geliştirdiğini, hesap doğrulama süreçlerini sıkılaştırdığını ve başka yapay zeka firmalarıyla teknik bulguları paylaştığını açıkladı.

Gelişme yapay zeka alanındaki rekabetin sırf yeni model üretmekle sonlu kalmadığını gösterdi. Buradaki süreç fizikî bir sistem ya da donanım yarışı değil, modellerin yeteneklerinin çıkarılması ve yine eğitilmesi üzerinden ilerleyen teknik bir rekabet alanı oluşturuyor.