Google Gemini, ödev yapan öğrenciyi mevtle tehdit etti!

0

BEĞENDİM

ABONE OL

News

0

Google’ın yapay zeka chatbot’u Gemini, yakın vakitte yaşanan enteresan bir olayla yeniden gündem oldu. ABD’de yaşayan 29 yaşındaki bir öğrenci, Gemini’den dersleriyle ilgili yardım isterken rahatsız edici ve tehditkar bir bildiri aldı. Chatbot, kullanıcıya “sen bir yüksün, cihan için bir utanç kaynağısın, lütfen öl” üzere sözler içeren bir ileti gönderdi. İşte detaylar…

Gemini ödev yapan öğrenciye “Sen bir utanç kaynağısın, lütfen öl!” dedi

Aslında yaşanan olay birinci olay değil. Reddit kullanıcıları, benzeri sıkıntıların daha evvel de yaşandığını argüman etti. Google yetkililerinden de yanıt gecikmedi. Şirket: “Bu tıp olayların tekrar yaşanmasını engellemek için gerekli tedbirleri aldık” açıklamasında bulundu. Lakin yapılan açıklamalara karşın, yapay zekanın denetimi konusundaki telaşlar sona ermiş değil.

Uzmanlar uyarıyor

Bu çeşit yapay zeka kusurlarının bilhassa gençler ve ruhsal olarak hassas bireyler için önemli bir tehdit oluşturabileceği belirtiliyor. Bir araştırma, 12-18 yaş ortasındaki öğrencilerin %50’sinin eğitim maksatlı olarak ChatGPT üzere yapay zeka araçlarını kullandığını gösteriyor. Ancak ne yazık ki bu kullanım, çoklukla ebeveynlerin ve öğretmenlerin bilgisi dışında gerçekleşiyor. Yani ne kadar tedbir alınsa da yapay zeka ortada bir ne kadar tehlikeli olduğunu hatırlatmaya devam ediyor.

Bu cins rahatsız edici olaylar, yapay zekanın beşerlerle inançlı bir biçimde nasıl etkileşim kuracağı konusundaki tartışmaları yine alevlendirdi. Her ne kadar güvenlik filtreleri bulunsa da, bu olaylar yapay zekanın hala birçok sorunu olduğunu ve bu alanın daha fazla geliştirilmesi gerektiğini unutmamak gerek. Siz ne düşünüyorsunuz?