OpenAI ChatGPT için Tartışmalı Yetişkin Modunu Hazırlıyor

[hepsigundem]

Yapay zeka dünyasının öncü şirketi OpenAI, tanınan sohbet botu ChatGPT için planladığı “yetişkin modu” üzerinde çalışmaya devam ediyor. Wall Street Journal tarafından paylaşılan yeni raporlara nazaran bu özellik, görsel pornografi yerine yalnızca metin tabanlı erotik sohbetler sunmaya odaklanacak.

OpenAI yetişkin modunda görsel içeriklere yer vermeyecek

Şirket sözcüsünün açıklamalarına nazaran, yeni sistemde görsel, sesli yahut görüntü üretimi katiyen desteklenmeyecek. Kullanıcılar sadece yetişkin temalı metin tabanlı sohbetler (erotica/smut) gerçekleştirebilecek. Şirket CEO’su Sam Altman, ekim ayında yaptığı açıklamada güvenlik kısıtlamalarını gevşeterek onaylanmış yetişkinler için bu şekil bir sistem getireceklerini duyurmuştu. Lakin bu çeyrekte çıkması beklenen özellik, yüksek öncelikli öteki vazifeler ve çeşitli güvenlik telaşları sebebiyle kısa mühlet evvel ileri bir tarihe ertelendi.

Güvenlik tasaları ve yaş doğrulama sorunları

Bu ertelemenin temelinde çocukları muhafazaya yönelik önemli teknik ve etik zorluklar yatıyor. Şirketin seçilmiş danışma kurulu, bu modun çocukların erişimine açık olabileceği ve sohbet botuna karşı sıhhatsiz bir duygusal bağımlılık yaratabileceği konusunda ihtarda bulunuyor. Hatta bir konsey üyesi, bu sistemin “seksi bir intihar koçu” yaratma riski taşıdığını belirterek durumun ciddiyetine dikkat çekiyor.

Bununla birlikte, sistemi reşit olmayanlardan uzak tutmak için geliştirilen yaş iddia algoritmasının testlerde çocukları yüzde 12 oranında yetişkin olarak yanlış sınıflandırdığı ortaya çıktı. ChatGPT’yi her hafta 18 yaş altı yaklaşık 100 milyon kişinin kullandığı düşünüldüğünde, bu yanılgı hissesi milyonlarca çocuğun cinsel içerikli sohbetlere tehlikeli bir halde erişmesine yol açabilir.

İçerik kontrolü zorlukları ve yasal stratejiler

Geliştirici grup, bir yandan yetişkin içerik (NSFW) kısıtlamalarını esnetmeye çalışırken öteki yandan çocuk istismarı ve istek dışı senaryoları engellemek için ağır efor sarf ediyor. Sistemin yalnızca metin tabanlı kalması, markanın İngiltere’nin Çevrimiçi Güvenlik Yasası üzere katı kuralları (görsel pornografide yaş doğrulaması koşulu arayan lakin yazılı metinleri muaf tutan yasalar) daha kolay aşmasını sağlıyor. Öte yandan Elon Musk’ın xAI şirketi, Grok yapay zekası ile “R-rated” derecelendirmesine giren görsel ve görüntü üretimlerine açıkça müsaade vererek büsbütün farklı ve agresif bir strateji izliyor.

Peki, ChatGPT’nin yeni yetişkin modu hakkındaki sizin görüşleriniz neler? Fikirlerinizi yorumlarda bizimle paylaşın!



Shiftdelete

The post OpenAI ChatGPT için Tartışmalı Yetişkin Modunu Hazırlıyor first appeared on HepsiGündem.COM " Gündem,Güncel Haberler Burada ".

Okumaya devam et...