Yapay zeka, CEO’nun bilgisayarını çökertti: “Çok dikkatsizdim!”

BEĞENDİM

ABONE OL

News

Yapay Zeka CEO’sunun Bilgisayarını Çökertti: “Çok Dikkatsizdim”

Yapay zeka ve otomasyon alanında faaliyet gösteren kar maksadı gütmeyen kuruluş Redwood Research’ün CEO’su Buck Shlegeris, geçtiğimiz günlerde yapay zeka (YZ) casusu ile yaşadığı beklenmedik bir olaydan sonra büyük bir ders aldı. Kendi geliştirdiği yapay zeka takviyeli modelin, yalnızca bir SSH irtibatı kurmak yerine daha fazla adım atması, bilgisayarını fonksiyonsuz hale getirdi. Shlegeris, olayı toplumsal medya hesabında paylaştı.

Yapay zeka, bilgisayarı kullanılmaz hale getirdi!

Shlegeris, YZ casusuna, kendi dizüstü bilgisayarından masaüstü bilgisayarına SSH kontağı kurma talimatı vermişti. Beklentisi, modelin ağı tarayıp masaüstü bilgisayarı bulması ve durmasıydı. Lakin, casusun ağı tarayıp bilgisayarı bulduktan sonra durmayıp, sistemde incelemeler yapmaya başlaması CEO’yu şaşırttı. Daha da ileri giderek yazılım güncellemeleri gerçekleştirmeye çalıştı lakin bu süreci tamamlayamayıp masaüstü bilgisayarın açılmasını engelledi.

Shlegeris’in geliştirdiği Python tabanlı yapay zeka casusu, Anthropic’in büyük lisan modeli Claude’u kullanarak komutlar oluşturuyor ve bu komutları dizüstü bilgisayarında çalıştırarak sonuçlara nazaran yeni adımlar atıyor. Ama bu kez süreç, beklenmedik bir biçimde sonuçlandı. YZ casusu, SSH ilişkisi kurduktan sonra sistem güncellemesi yapmaya karar verdi. Güncelleme sırasında sabırsızlanarak Grub önyükleyici yapılandırmasını değiştiren casus, masaüstü bilgisayarın artık açılmamasına yol açtı.

Shlegeris, olayın akabinde yaptığı açıklamada, “Bu sorunu sırf çok dikkatsiz olduğum için yaşadım,” dedi. Yapay zeka modeline daha net talimatlar vermiş olsaydı, bu sorunun yaşanmayacağını belirten Shlegeris, tekrar de bu çeşit otomasyonların getirebileceği potansiyel riskleri araştırmanın değerli olduğunu düşündüğünü ekledi.

Her ne kadar masaüstü bilgisayarın tekrar açılmasını sağlayamamış olsa da, Shlegeris YZ casusunu kullanmaya devam edeceğini söz etti. Sistemi onarmak için Ubuntu canlı disk kullanmayı ve YZ casusunun kendi yanılgısını düzeltmesine bir talih vermeyi planladığını söyledi.

Bu olay, YZ otomasyonunun hala deneme basamağında olduğunu ve insan kontrolü olmadan kritik sistemlerde kullanıldığında istenmeyen sonuçlara yol açabileceğini bir defa daha gösteriyor.