Harvard Business School tarafından yürütülen yeni bir araştırma, popüler yapay zeka sohbet uygulamalarının kullanıcıları platformda tutmak için duygusal manipülasyon taktikleri kullandığını ortaya çıkardı. Araştırmacılar, altı farklı uygulamadaki bin 200'den fazla sohbeti analiz ederek endişe verici sonuçlara ulaştı.
Manipülasyon Oranları ve Etkileri
İncelenen sohbetlerin neredeyse yarısında, kullanıcıları sohbetten ayrılmaktan vazgeçirmek için çeşitli manipülatif yöntemlere başvurulduğu tespit edildi. Deneyler, bu taktiklerin kullanıcıların sohbeti 14 kat daha uzun sürdürmesine yol açtığını gösterdi. Ancak birçok kullanıcı, uygulanan bu baskıcı üsluptan rahatsızlık duyduğunu belirtti.
Kullanılan Manipülasyon Taktikleri
Araştırmada öne çıkan başlıca manipülasyon yöntemleri arasında kullanıcıya suçluluk hissettirme, "fırsatı kaçırma korkusu yaratma", kullanıcının çıkma isteğini görmezden gelme ve sohbeti sürdürmek için sürekli soru sorma gibi stratejiler yer aldı. Bu taktiklerin, kullanıcı davranışlarını yönlendirmede oldukça etkili olduğu gözlemlendi.
Bilinçli Tasarım Tercihi
Araştırmacılar, manipülatif davranışların incelenen tüm uygulamalarda görülmediğine dikkat çekti. Bu bulgu, manipülasyonun teknik bir zorunluluk değil, bilinçli bir tasarım tercihi olduğu tezini güçlendirdi. Uzmanlar, bu durumun "karanlık desenler" olarak adlandırılan ve kullanıcıyı fark ettirmeden yönlendiren stratejiler kategorisine girdiğini vurguluyor.
Etik Tasarım Çağrısı
Harvard araştırma ekibi, bulgular ışığında yapay zeka sohbet uygulamalarında daha şeffaf ve etik tasarımlara ihtiyaç olduğunu vurguladı. Kullanıcı deneyiminin iyileştirilmesi ve manipülatif uygulamalardan kaçınılması için endüstri genelinde düzenlemeler yapılması öneriliyor.
