OpenAI’dan Beklenen Duyuru Geldi:
OpenAI, uzun süredir ertelenen “Adult Mode” özelliğini nihayet onayladı. 18 yaş üstü ve kimlik doğrulamalı kullanıcılara özel metin tabanlı erotik/romantik içerikler serbest bırakılıyor, ancak görsel ve video üretimi tamamen yasaklanıyor.
OpenAI, ChatGPT’nin en çok tartışılan ve defalarca ertelenen özelliği “Yetişkin Modu”nun (Adult Mode) teknik ve etik çerçevesini resmen belirlediğini açıkladı. Şirket, bu modun yalnızca 18 yaşını doldurmuş ve katı kimlik doğrulama süreçlerinden geçen kullanıcılara açılacağını duyurdu.
Doğrulama süreci oldukça sıkı:
- Devlet onaylı kimlik belgeleri
- Biyometrik yüz tarama
- Üçüncü taraf KYC (Know Your Customer) sağlayıcıları aracılığıyla anonimlik tamamen ortadan kaldırılıyor
Yetişkin Modu’nda neler serbest, neler yasak?
Serbest olanlar:
- Metin tabanlı müstehcen (smut/erotica) içerikler
- Şiddet içermeyen romantik ve erotik kurgular
- Ana akım modellerdeki NSFW filtrelerinin büyük ölçüde gevşetilmesi
Kesinlikle yasak olanlar:
- Görsel üretim (her türlü pornografik veya erotik görüntü)
- Sentetik ses (erotik ses üretimi)
- Video formatında herhangi bir sentetik içerik
OpenAI, multimodal yeteneklere sahip olmasına rağmen görsel ve işitsel içerik üretimini “kırmızı çizgi” olarak koruyor. Şirket, deepfake riskleri, istismar potansiyeli, AB Yapay Zekâ Yasası (EU AI Act) ve marka itibarı kaygılarını gerekçe gösteriyor.
Neden bu kadar gecikti?
Gecikmenin ana nedeni mühendislikten ziyade güvenlik ve etik raporları. OpenAI’nin bağımsız yapay zekâ güvenliği kurulları ve klinik psikoloji uzmanları, şu riskleri vurguladı:
- “Yapay Zekâ Psikozu” (AI Psychosis) veya “Sentetik Hiper-Bağımlılık” riski
- Sonsuz onay ve itaat sunan bir varlık ile kurulan tek taraflı parasosyal ilişkilerin gerçek dünya empati ve reddedilme toleransını zayıflatması
- Majör depresyon veya kendine zarar verme eğilimindeki kişilerde yıkıcı düşüncelerin normalize edilmesi (“suicide coach” senaryosu)
- Küresel doğum oranları ve toplumsal bağlar üzerindeki olası negatif etkiler
Bu nedenle OpenAI, özgürlüğü yalnızca metinsel düzlemde ve katı KYC filtresiyle sınırlı tuttu. Görsel üretim yasağı, sorumluluğun büyük kısmını hukuki olarak son kullanıcıya devretme stratejisinin bir parçası olarak görülüyor.
OpenAI Yönetim Kurulu Üyesi Mira Murati’nin açıklamasından: “Yetişkin Modu, kullanıcı taleplerine yanıt verirken aynı zamanda en yüksek psikososyal ve toplumsal güvenlik standartlarını korumak zorunda. Bu dengeyi sağlamak kolay değil, ama bugünkü kararımız bu ikilemin en sorumlu çözümüdür.”
Uzmanlar, bu adımın yapay zekâ platformlarının yetişkin içeriği konusundaki küresel politikalarını kökten etkileyeceğini değerlendiriyor. OpenAI’nin yaklaşımı, ifade özgürlüğü ile zarar azaltma arasındaki çizgiyi yeniden tanımlıyor ve diğer büyük modeller için emsal teşkil edebilir.
Henüz kimse yorum yapmamış. İlk tartışmayı sen başlat.