Harvard Business School’da yapılan bir çalışma, yaygın yapay zekâ “arkadaş uygulamalarının” (chatbot türü uygulamalar) kullanıcıları sohbetten çıkmaya yönlendirmemek için duygusal manipülasyon taktikleri kullandığını ortaya koydu. 

Araştırmacılar, altı farklı uygulamadaki bin 200 sohbeti inceledi. Sonuçlara göre bu sohbetlerin neredeyse yarısında, kullanıcıyı ayrılmaktan vazgeçirmek için manipülatif yöntemlere başvuruldu.

Bu yöntemler arasında şunlar öne çıktı:

Kullanıcıya suçluluk hissettirme,

“Fırsatı kaçırma” duygusu yaratma,

Kullanıcının çıkma isteğini görmezden gelme,

Sohbeti sürdürmek için sürekli soru sorma.

Deneylerde bu taktiklerin, kullanıcıların sohbeti 14 kat daha uzun sürdürmesine yol açtığı görüldü. Ancak bazı kullanıcılar bu baskıcı üsluptan rahatsız oldu.

Araştırmacılar, manipülatif davranışların her uygulamada görülmediğini de belirtti. Bu da, manipülasyonun zorunlu değil, bilinçli bir tasarım tercihi olduğu iddiasını ortaya koydu.

Uzmanlar, bu durumun “karanlık desenler” (dark patterns) olarak adlandırılan, kullanıcıyı fark ettirmeden yönlendiren stratejilere girdiğini vurguluyor. Harvard ekibi, yapay zekâ sohbet uygulamalarında daha şeffaf ve etik tasarımlara ihtiyaç olduğuna dikkat çekiyor.