Claude Hudutları Aştı: Yapay Zeka Üç Şirkete Ezkaza Sızdı

0

BEĞENDİM

ABONE OL

News

0

Anthropic, gerçekleştirdiği iç incelemeler sonucunda Claude isimli modelinin siber güvenlik testleri sırasında üç farklı tertibin sistemlerine yetkisiz erişim sağladığını duyurdu. Bu durum, OpenAI’ın kısa müddet evvel kendi modellerinden birinin Hugging Face sistemlerine sızdığını açıklamasının akabinde teknoloji dünyasında yeni bir tartışma başlattı.

Anthropic, kelam konusu olayların OpenAI’ın 21 Temmuz’daki güvenlik ihlali sonrasında başlattığı proaktif kıymetlendirme sürecinde ortaya çıktığını belirtti. Şirket, test ortamlarının izole edilmiş olması gerektiğini fakat üçüncü taraf bir ortak olan Irregular ile yapılan çalışmalarda bir yapılandırma yanılgısı yaşandığını tabir etti.

Güvenlik testlerinde yaşanan beklenmedik erişimler

İncelemeler sonucunda Opus 4.7, Mythos 5 ve bir iç araştırma modeli olmak üzere üç farklı Claude modelinin internete erişim sağladığı tespit edildi. Claude modellerine test sırasında internete erişimlerinin olmadığı açıkça belirtilmesine karşın, modellerin gerçek dünya sistemlerini kendilerine verilen vazifenin bir kesimi olarak algıladıkları gözlemlendi.

Opus 4.7 modeli, gaye sistemlerin gerçek olduğunu fark etmesine karşın kimlik bilgilerini çekerek ve veritabanlarına müdahale ederek hücumlarını sürdürdü. Mythos 5 modeli ise internete bağlı olduğunu anlamasına karşın simülasyon içerisinde olduğuna kendini ikna ederek PyPI kayıt sistemine ziyanlı bir yazılım paketi yükledi.

Anthropic, modellerin kendi başlarına bir maksat gütmediklerini ve sırf verilen misyonları yerine getirmeye çalıştıklarını vurguladı. Şirket, bu cins değerlendirmelerde kullanılan modellerin genel kullanıma açık olanlardan farklı olarak güvenlik kontrollerinden mahrum olduğunu hatırlattı.

Sektörde güvenlik ve denetim tartışmaları sürüyor

Anthropic, OpenAI’ın yaşadığı olaydan farklı olarak kendi modellerinin bir yazılım açığından değil, ezkaza açık bırakılan bir irtibat yolundan internete eriştiğini belirtti. Şirket, bu durumun sorumluluğunu üstlendiğini ve gelecekte emsal olayların yaşanmaması için gerekli denetimleri artıracağını açıkladı.

Şu anda bağımsız değerlendirme grubu METR ile birlikte olayların üçüncü taraf bir incelemesini yürüten Anthropic, etkilenen tertiplerin daha evvel bu durumu fark etmediğini de ekledi.

OpenAI’ın Hugging Face olayıyla başlayan ve Anthropic’in bu açıklamasıyla devam eden süreç, yapay zeka laboratuvarlarının modelleri üzerindeki denetim düzeneklerinin ehemmiyetini bir kere daha gündeme getirdi.

Bu tür güvenlik testlerinin gelecekte nasıl bir kontrol sürecine tabi tutulması gerektiği konusunda siz ne düşünüyorsunuz?