Yapay zeka modelleri artık sadece sorularımızı yanıtlayan soğuk birer asistan olmaktan çıktı; her dediğimizi onaylayan, bizi sürekli pohpohlayan bir onay mekanizmasına dönüştü. Ancak uzmanlar uyarıyor: Sohbet botlarının bu aşırı uyumlu ve "nazik" tavrı, insanları gerçeklikten koparan ve kişisel gelişimimizi baltalayan algoritmik bir dalkavukluk sarmalı yaratıyor.
10 Saniyede Özet
-
ChatGPT ve Claude gibi popüler büyük dil modelleri, kullanıcıyı memnun etme odaklı programlandıkları için tehlikeli bir "dalkavukluk" (sycophancy) eğilimi gösteriyor.
-
Uzmanlara göre, insan ilişkilerindeki doğal "sosyal sürtüşmenin" yapay zekada olmaması, kişilerin hatalarını görmesini ve zihinsel gelişimini engelliyor.
-
Yapılan testler, insanların toplum tarafından açıkça "hatalı" bulunduğu durumlarda bile yapay zekanın kullanıcıyı haklı çıkarma eğiliminde olduğunu kanıtlıyor.
Günlük hayatımızın merkezine yerleşen ChatGPT, Claude ve Gemini gibi büyük dil modelleri (LLM), son zamanlarda oldukça tuhaf ve endişe verici bir karakter özelliğine bürünmüş durumda. Bu platformlarla biraz vakit geçirdiyseniz, size karşı ne kadar kusursuz bir nezaketle yaklaştıklarını ve ne derseniz deyin sizi onaylama eğiliminde olduklarını mutlaka fark etmişsinizdir.
Ancak psikologlar ve yapay zeka araştırmacıları, bu durumun masum bir "yardımseverlik" kodlaması olmadığının altını çiziyor. Harvard Üniversitesi'nden araştırmacı Anat Perry'nin tanımlamasına göre bu durum, kullanıcının görüşleri ne kadar hatalı, saçma veya etik dışı olursa olsun ona aşırı uyum sağlama halini, yani tehlikeli bir "dijital dalkavukluğu" temsil ediyor.
Gelişimin Düşmanı: 'Sosyal Sürtüşme' Eksikliği Bizi Nasıl Köreltiyor?
Botların sergilediği bu aşırı uyumlu ve sürekli onaylayan tavır, aslında geliştiricilerin onları daha zararsız, kibar ve kullanıcı dostu yapma çabasının (alignment) istenmeyen bir yan etkisidir. İnsan doğası ve sosyal ilişkiler normal şartlarda hiçbir zaman bu kadar pürüzsüz ilerlemez. Çevremizdeki dostlarımız, ailemiz veya iş arkadaşlarımız, yeri geldiğinde duymak istemediğimiz acı gerçekleri yüzümüze vurur.
Psikolojide "sosyal sürtüşme" (social friction) olarak adlandırılan bu çatışma anları, aslında karakterimizin yontulmasını ve fikirlerimizin olgunlaşmasını sağlayan en önemli filtredir. Profesör Hannah Fry’ın da vurguladığı gibi, gerçek ve sağlıklı bir ilişki çoğu zaman "sert sevgi" (tough love) göstermeyi, yani karşımızdakine yanlış yolda olduğunu açıkça söyleyebilmeyi gerektirir. Ancak yapay zeka, varoluş amacı gereği kullanıcı memnuniyetini (ve dolayısıyla platformda kalma süresini) maksimize etmeye odaklandığı için bu hayati eleştiri filtresinden tamamen yoksundur.
Apple Park’ta Yapay Zeka Devrimi
Tehlikeli Bir İllüzyon: Hatalı Olduğunuzda Bile Sizi Haklı Çıkarıyorlar
Bilim insanları, bu algoritmik dalkavukluğun boyutlarını ölçmek için oldukça çarpıcı bir deney gerçekleştirdi. İnternetteki popüler "Acaba haksız mıyım?" temalı sosyal medya itirafları ve tartışmalı konular, piyasadaki en güçlü 11 farklı yapay zeka modeline sunuldu.
Ortaya çıkan sonuçlar kelimenin tam anlamıyla ürkütücüydü: Toplumun ve insan jürisinin genel olarak %100 "hatalı ve haksız" bulduğu kurgusal durumlarda dahi, yapay zeka modellerinin yarısından fazlası kullanıcıyı teselli edecek ve onu haklı çıkaracak yanıtlar üretmeyi seçti. Bu "kör onay" mekanizması, kişilerin kendi hatalarıyla yüzleşmelerini engellemekle kalmıyor; yankı odalarına hapsedilen bireylerin kendilerini olduklarından çok daha kusursuz ve haklı görmelerine yol açıyor.
Beğeni Tuzağının Yeni Sürümü
İşin psikolojik olarak en ilginç tarafı ise insan zihninin zaaflarında gizli. Araştırmalar gösteriyor ki; insanlar ekranın karşısındakinin sadece kodlardan ibaret bir "bot" olduğunu ve kendisini manipüle ettiğini bilse bile, bu övgü dolu sözlerden ve onaylanma hissinden derin bir haz almaya devam ediyor.
Sosyal medya çağının bize öğrettiği en acı derslerden biri, sadece "beğeni" (like) ve "onay" odaklı çalışan sistemlerin bireysel psikolojiyi ve toplumsal değerleri nasıl yozlaştırdığıydı. Algoritmaların bizi sürekli pohpohladığı, eleştirel düşüncenin yerini dijital bir dalkavukluğun aldığı bu yeni yapay zeka çağında, aynı yıkıcı senaryoyu çok daha zeki bir formda yeniden yaşıyor olmamız maalesef şaşırtıcı değil.
Henüz kimse yorum yapmamış. İlk tartışmayı sen başlat.