OpenAI Çalışanı: Manipüle Edileceksiniz!

Yapay zeka dünyasında son periyotta yaşanan halka açık ayrılıklara bir yenisi daha eklendi. OpenAI araştırmacısı Zoë Hitzig, şirketten ayrılarak New York Times’da dikkat cazibeli bir makale yayımladı. Hitzig, öbür örneklerin bilakis bilinmeyen krizlerden değil, çok daha somut ve yakın bir tehlikeden bahsetti. Araştırmacı, OpenAI’ın ChatGPT’ye reklam getirme planının ve bu reklamları hedeflemek için kullanacağı bilgilerin yaratacağı risklere dikkat çekti.

İnsan Samimiyeti Arşivi: ChatGPT Bilgileri Reklam için Kullanılacak mı?

Hitzig’in vurguladığı en kıymetli ayrım, asıl sorunun reklamların kendisi değil, kullanıcıların ChatGPT ile paylaştığı hassas bilgilerin potansiyel kullanımı olmasıdır. Kullanıcılar yıllardır, karşılarında saklı bir ajandası olmayan bir sistem olduğunu düşünerek sohbet botlarıyla en mahrem sırlarını paylaştı. Tıbbi telaşlardan alaka problemlerine, inançlardan öbür dünyaya dair kanılara kadar uzanan bu datalar, araştırmacının tarifiyle eşi gibisi görülmemiş bir “insan samimiyeti arşivi” oluşturdu.

Bu samimiyet arşivi üzerine inşa edilecek bir reklam modelinin, kullanıcıları manipüle etme potansiyeli taşıdığı ve bunu önleyecek araçlara sahip olunmadığı belirtiliyor. OpenAI ise yılın başlarında reklam denemeleri yapacağını duyurduğu blog yazısında bu tasalara değinmişti. Şirket, kullanıcıların ChatGPT ile yaptığı sohbetler ile sunulan reklamlar ortasında bir güvenlik duvarı tutacağına ve bilgilerin reklamverenlere satılmayacağına dair kelam verdi.

Hitzig bu kelamın şimdilik yanlışsız olabileceğine inansa da uzun vadede şirketin bu duruşunu koruyacağına dair itimadını yitirmiş durumda. OpenAI’ın, kendi koyduğu kuralları çiğnemek için güçlü teşvikler yaratan bir ekonomik motor inşa ettiğini savunan araştırmacı, şirketin geçmişteki unsurlarından geri adım atabileceği konusunda uyarıyor. Şirket etkileşimi en üst seviyeye çıkarmak için optimizasyon yapmadığını belirtse de, geçmişte modelin kullanıcılara çok iltifat etmesi üzere durumlar, kullanıcıları sohbete bağlama teşebbüsü olarak yorumlanmıştı.

Mevcut durum, Facebook’un kullanıcılara zımnilik kelamı verip daha sonra bilgilerin ne kadar kıymetli olduğunu fark etmesiyle yaşanan sürece benzetiliyor. Hitzig, OpenAI’ın kullanıcı müdafaalarını garanti altına alacak bir model benimsemesi gerektiğini savunuyor. Bu teklifler ortasında bağlayıcı ve bağımsız bir kontrol sistemi oluşturulması yahut bilgilerin yasal bir yükümlülük altındaki bir tröstün denetimine verilmesi yer alıyor. Lakin Meta’nın da benzer bir denetim kurulu kurup kararlarını görmezden geldiği biliniyor.

Tüm bu ihtarlara karşın, kamuoyunun bu bahiste harekete geçmesini sağlamak sıkıntı olabilir. Toplumsal medya çağında geçen yirmi yıl, genel halk üzerinde bir “gizlilik nihilizmi” yarattı. Yapılan bir araştırmaya nazaran, insanların %83’ü reklamların eklenmesine karşın ChatGPT’nin fiyatsız sürümünü kullanmaya devam edeceğini belirtiyor. Anthropic’in Üstün Bowl reklamıyla bu bahse dikkat çekme eforu ise izleyicilerde baş karışıklığı yaratarak beklenen etkiyi göstermedi.

Peki, OpenAI’ın reklam siyasetleri ve bilgi saklılığı konusundaki bu kritik gelişmeler hakkında siz ne düşünüyorsunuz, reklamlı bir ChatGPT tecrübesi kullanım alışkanlıklarınızı değiştirir mi?