Grok Yalnızca Uygunsuz İçerikler için Kullanılıyor

0

BEĞENDİM

ABONE OL

News

0

xAI tarafından geliştirilen Grok sohbet botu, öteki yapay zeka şirketlerine kıyasla daha az kısıtlamaya sahip olmasıyla dikkat çekiyor. Yeni bir rapora nazaran, bu strateji şirketin kullanıcı trafiğinin büyük bir kısmını direkt etkiliyor.

The Information tarafından yayınlanan rapora nazaran, Grok üzerindeki trafiğin yarısından fazlası NSFW yani uygunsuz içeriklerden oluşuyor. İki eski xAI çalışanına dayandırılan bilgiler, kullanıcıların sohbet botunu erotik içerik üretmek ve yetişkinlere yönelik rol yapma sohbetleri için yoğun bir halde kullandığını ortaya koyuyor.

Grok Kullanımında Beklenmedik Eğilimler

Kullanıcıların, kod yazmak için tasarlanmış modellerin daha uygun maliyetli olduğunu keşfettikleri ve bu modelleri pornografik içerik üretmek için kullandıkları belirtiliyor. Şirket içi tahliller, kodlama modeline gelen isteklerin değerli bir kısmının çıplak manzara yahut pornografik içerik talebi olduğunu gösteriyor.

SpaceX, yatırımcılarına Grok’un daha kural tanımaz özelliklerinin bir risk oluşturabileceğini bildirmiş durumda. Şirket, mümkün yasal süreçler için 530 milyon dolarlık bir bütçe ayırdığını açıkladı.

Şirket İçi Zorluklar ve Gelecek Riskleri

xAI mühendisleri, bir yandan kullanıcıların cinsel içerikli sohbet taleplerini yönetmeye çalışırken öbür yandan çocuk istismarı üzere yasa dışı içerikleri engellemek için gayret harcıyor. Bu durumun teknik olarak süratli bir tahlilinin bulunmadığı söz ediliyor.

Grok’un anime şekli avatarı Ani üzerinde çalışan birtakım çalışanların, bu süreçlerden rahatsızlık duyduğu belirtiliyor. Ayrıyeten, gerçek şahısların ve çocukların cinsel içerikli görsellerinin oluşturulmasıyla ilgili yaşanan skandallar, şirket içinde önemli bir huzursuzluk yaratmış durumda.

X platformu üzerinden direkt yapılan kimi düzenlemelerle gerçek bireylerin görselleriyle istek dışı içerik oluşturulması kısıtlanmış olsa da, fiyatlı abonelerin bu çeşit gereçleri üretmeye devam edebildiği testlerle doğrulanıyor.

xAI’nin hükümet kurumları ve ordu ile yaptığı muahedeler, bu çeşit içerik odaklı bir yapay zeka modeli için gelecekte yeni zorluklar doğurabilir. Federal hükümetle olan münasebetlerin bu tartışmalı olaylardan nasıl etkileneceği ise şimdi belirsizliğini koruyor.

Sizce yapay zeka modellerinin bu tıp içeriklere müsaade vermesi şirketlerin ticari başarısı için gerekli bir strateji mi yoksa büyük bir risk mi?