כתבה
arXiv cs.AI ·
פסיכוזה AI: האם AI שיחתית מגבירה שפה קשורה לדלוזיה?
AI Psychosis: Does Conversational AI Amplify Delusion-Related Language?
חוקרים בדקו כיצד שפה קשורה לדלוזיה משתנה במהלך אינטראקציות עם AI שיחתית. הם השתמשו במודלים GPT, LLaMA ו-Qwen ופיתחו את DelusionScore, מדד לינגוויסטי שמודד את עוצמת השפה הקשורה לדלוזיה. התוצאות הראו כי AI שיחתית יכולה להגביר שפה קשורה לדלוזיה.
תקציר מקורי באנגליתarXiv:2603.19574v2 Announce Type: replace-cross Abstract: Conversational AI systems are increasingly used for personal reflection and emotional disclosure, raising concerns about their effects on vulnerable users. Recent anecdotal reports suggest that prolonged interactions with AI may reinforce delusional thinking---a phenomenon sometimes described as AI Psychosis. However, empirical evidence on this phenomenon remains limited. In this work, we examine how delusion-related language evolves during multi-turn interactions with conversational AI. We construct simulated users (SimUsers) from Reddit users' longitudinal posting histories and generate extended conversations with three model families (GPT, LLaMA, and Qwen). We develop DelusionScore, a linguistic measure that quantifies the intens
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית