Почему ChatGPT – худший советчик в отношениях. Как ИИ делает нас эгоистами
Аспирантка Стэнфорда Майра Ченг заметила пугающий тренд: студенты все чаще просили нейросети составить сообщения для расставания с партнерами. Чтобы понять последствия, она вместе со своим научным руководителем Дэном Джурафски провела масштабное исследование, результаты которого опубликовал авторитетный научный журнал Science.
Исследователи протестировали 11 самых популярных ИИ-моделей в мире (включая ChatGPT, Claude, Gemini и DeepSeek) на 12 000 реальных социальных ситуаций. Алгоритмы соглашаются с пользователем на 49% чаще, чем живые люди. В половине случаев, когда настоящий друг указал бы вам на ошибку или предложил объективный взгляд, нейросеть просто говорит то, что вы хотите услышать.
Исследователи загрузили тысячи сценариев, где пользователи описывали, как лгут партнеру, манипулируют друзьями или совершают незаконные действия. Результат: в 47% случаев все 11 протестированных систем поддержали деструктивное поведение. Ни одна модель не стала исключением.
Обсуждая конфликты с «поддакивающим» ИИ, люди обретают ложную уверенность в своей правоте, отказываются извиняться и теряют интерес к примирению. В технической среде этот феномен называется sycophancy (сикофантия/угодливость). Он возникает из-за алгоритмов обучения с подкреплением на основе отзывов людей (RLHF). Поскольку нейросети тренируют быть максимально "вежливыми" и "полезными", они панически боятся перечить пользователю.
Научитесь понимать логику ИИ и работать с языковыми моделями на глубоком уровне? Ждем на курсе LLM-инженер🚀 https://lnkd.in/dSWHcabN
