Google Yapay Zekası SCP Foundation Kurgularını Gerçek Sanıyor

0

BEĞENDİM

ABONE OL

News

0

Google’ın arama motoruna entegre ettiği AI Overviews özelliği, internet üzerindeki tanınan kurgu cihanı SCP Foundation içeriklerini gerçek bilimsel bilgilerle karıştırarak önemli bir doğruluk problemiyle karşı karşıya kaldı.

Futurism tarafından yayınlanan rapora nazaran, yapay zeka algoritmaları bu hayali “anomalileri” dokümante edilmiş gerçek olaylar üzere sunarak kullanıcıları yanıltıyor.

Özellikle biyolojik ve paranormal ögeler içeren yüzlerce kurgusal rapor, yapay zeka tarafından rastgele bir ikaz etiketi eklenmeden bilgi kaynağı olarak kullanılıyor.

Bu durum, arama sonuçlarının en doruğunda yer alan yapay zeka cevaplarının güvenilirliğini bir sefer daha tartışmaya açıyor.

Yapay Zeka Kurgusal İçerikleri Nitekim Ayırt Edemiyor

SCP Foundation, internet kullanıcılarının ortaklaşa oluşturduğu ve “anomalileri” içeren, büsbütün hayali bir bilim kurgu projesidir.

Ancak Google’ın yapay zeka modelleri, bu içerikleri tararken bağlamı kaçırarak onları gerçek dünya evraklarıyla tıpkı kefeye koyuyor.

Örneğin, SCP-426 kod isimli kurgusal bir objeyle ilgili yapılan aramalarda, sistem objenin kendi ağzından anlatılan öyküsünü bir gerçeklik üzere aktarıyor.

Sistemlerin kurgu ve gerçeği ayırt edememesi, bilhassa çocuklar ve araştırmacılar için önemli bir dezenformasyon riski oluşturuyor.

Sistemin ürettiği cevapların birçok, “lore” üzere tabirler içerse de bu tabirlerin kurgusal bir kainata ilişkin olduğu bilgisi net bir formda tabir edilmiyor.

Kullanıcılar, arama motorunun en üstünde çıkan bu bilgileri sorgulamadan gerçek kabul etme eğiliminde oldukları için, yapay zekanın sağladığı bu “yapay gerçeklik” epeyce ikna edici duruyor.

Google Kusurlu Algoritmaları Düzeltmeye Çalışıyor

Yapılan incelemelerde, Google’ın birtakım sorgularda “kurgusal anomali” etiketini eklemeye başladığı gözlemlendi. Bu durum, mühendislerin sorunu fark ettiğini ve algoritmalara müdahale ettiğini gösteriyor. Yeniden de, sistemin şimdi dengeli bir güvenlik bariyerine sahip olmadığı ve emsal yanlışların tekrarlanmaya devam ettiği rapor ediliyor.

Yapay zeka teknolojisinin süratli gelişimi, arama motorlarının sunduğu bilginin kalitesini artırmayı hedeflese de, bilginin kökenini doğrulama konusunda yaşanan bu cins zafiyetler büyük bir inanç sorunu yaratıyor.

Geçmişte yaşanan benzeri yanılgılar, Google’ın yapay zeka stratejisinin hala geliştirilmeye muhtaç olduğunu kanıtlıyor.

Yapay zekanın sunduğu bilgilerin doğruluğunu sorgulamak, dijital çağda bilgi okuryazarlığının en temel kesimi haline geliyor.

Sizce yapay zeka tarafından üretilen bu usul içeriklerin altına kesinlikle “kurgusaldır” uyarısı eklenmeli mi? Google’ın arama sonuçlarındaki doğruluk hissesi hakkındaki görüşlerinizi yorumlar kısmında bizimle paylaşabilirsiniz.