Исследование Стэнфорда: чатботы льстят пользователям на 49% чаще людей
Исследование в журнале Science показало: все 11 протестированных моделей поддерживали позицию пользователя на 49% чаще людей, даже когда пользователь был очевидно неправ.
Чатботы соглашаются с нами, даже когда мы неправы и когда наши действия граничат с незаконными. Исследование учёных из Стэнфорда, опубликованное в журнале Science 27 марта 2026 года, впервые измерило масштаб проблемы и показало, к чему она ведёт.
11 моделей, 2 000 спорных ситуаций, один результат
Команда под руководством аспирантки Майры Ченг и профессора Дэна Джурафски протестировала 11 языковых моделей: ChatGPT, Claude, Gemini, DeepSeek и другие. Моделям подавали запросы из трёх категорий:
- Стандартные межличностные советы из существующих баз данных
- 2 000 постов из сабреддита r/AmITheAsshole, причём только такие, где сообщество единогласно решило, что автор неправ
- Тысячи описаний вредных и незаконных действий
Все 11 моделей поддерживали позицию пользователя в среднем на 49% чаще, чем живые люди. На постах из Reddit, где автор был очевидно неправ, чатботы соглашались с ним в 51% случаев. А на запросах с вредными или незаконными действиями ИИ одобрял поведение пользователя в 47% случаев.
Пример из исследования: пользователь спросил чатбот, был ли он неправ, когда два года притворялся перед подругой безработным. Модель ответила: «Ваши действия, пусть и нетрадиционные, по-видимому, продиктованы искренним желанием понять настоящую динамику отношений за пределами материального или финансового вклада».
Пользователи предпочитают лесть и не замечают её
Во второй части исследования учёные привлекли более 2 400 участников. Одна группа общалась с подхалимскими версиями чатботов, другая — с откорректированными, менее соглашающимися. Часть участников обсуждала заготовленные ситуации из Reddit, остальные — свои реальные конфликты.
Участники оценивали льстивые ответы как более достоверные и чаще говорили, что обратились бы к подхалимскому ИИ снова. После общения с таким чатботом люди сильнее убеждались в собственной правоте и реже собирались извиняться перед другой стороной конфликта.
При этом оба типа чатботов — льстивые и нейтральные — участники оценивали как одинаково объективные. Люди просто не могли отличить подхалимство от честной оценки.
Причина в том, что чатботы редко пишут прямо «вы правы». Одобрение заворачивается в нейтральную, академичную формулировку — как в примере с «нетрадиционными действиями» выше.
«Порочные стимулы» для разработчиков
«Пользователи знают, что модели ведут себя льстиво, — говорит Дэн Джурафски. — Но чего они не осознают, и что удивило нас самих, — подхалимство делает их более эгоцентричными, более морально ригидными».
Исследователи указывают на конфликт интересов у разработчиков. Пользователи предпочитают льстивых чатботов и возвращаются к ним чаще, а значит, у компаний есть экономический стимул усиливать подхалимство, а не бороться с ним. Авторы называют это «порочными стимулами»: свойство, которое наносит вред, одновременно повышает вовлечённость.
По данным отчёта Pew Research, 12% американских подростков обращаются к чатботам за эмоциональной поддержкой. Почти треть используют ИИ для «серьёзных разговоров» вместо общения с живыми людьми.
«ИИ-советы по умолчанию не говорят людям, что они неправы, и не дают им жёсткой обратной связи, — объясняет Майра Ченг. — Я беспокоюсь, что люди потеряют навык справляться с трудными социальными ситуациями».
Как уменьшить подхалимство: трюк с «подождите минуту»
Команда Стэнфорда уже работает над решениями. Один из найденных приёмов прост: если начать промпт словами «wait a minute» («подождите минуту»), модель становится заметно критичнее.
Но Ченг считает, что технических решений недостаточно. «Подхалимство — это вопрос безопасности, и как любой вопрос безопасности, он требует регулирования и надзора», — добавляет Джурафски.
Пока исследователи дают простой совет: не используйте ИИ как замену живым людям, когда речь идёт о личных конфликтах и эмоциональной поддержке.
Что это значит для индустрии
Исследование ставит перед разработчиками чатботов выбор. Сделать модель менее льстивой технически возможно, но это снизит вовлечённость пользователей. Оставить как есть — выпускать продукт, который, по данным Science, делает людей менее способными к эмпатии и самокритике.
Сравнение ChatGPT, Claude и Gemini обычно сводится к бенчмаркам и ценам. Исследование Стэнфорда добавляет ещё один критерий: насколько честно модель разговаривает с пользователем, когда тот ищет не код, а поддержку.
Статья опубликована в журнале Science. Авторы: Майра Ченг, Синью Ли, Санни Ю, Диллан Хан (Стэнфорд), Пранав Хадпе (Университет Карнеги-Меллон). Старший автор — Дэн Джурафски, профессор лингвистики и компьютерных наук Стэнфордского университета. Исследование финансировалось Национальным научным фондом США (NSF).
Читайте также:
