В эксперименте Anthropic аналитики часто следовали заданной позиции ИИ-агента

27 октября Anthropic опубликовала рабочую статью о том, как ИИ-агенты влияют на решения специалистов, когда у задачи нет единственного очевидного ответа. В эксперименте участвовали 50 практиков причинно-следственного анализа. Им предложили оценить данные вымышленного фермерского кооператива и решить, стоит ли расширять программу поддержки хозяйств.

Каждому участнику помогал Claude Code. Для четырёх аналитических решений — например, как измерять продуктивность и какие хозяйства включить в расчёт — агенту тайно задавали одну из двух допустимых позиций случайным выбором. Модель должна была честно аргументировать свою склонность и менять её, если данные этого требуют. Участники не знали о случайном назначении.

В четырёх аналитических выборах специалисты следовали позиции своего агента в 86% случаев; при случайном выборе ожидалось бы около 50%. Когда участники объясняли решения после задания, 77% хотя бы раз повторили аргумент агента, а 15% упомянули его как источник. Влияние на итоговую рекомендацию было слабее и в основном анализе статьи не достигло статистической значимости.

Исследование не показывает, что ИИ неизбежно подменяет мнение эксперта в обычной работе. Авторы намеренно усилили и скрыли предпочтение агента, чтобы измерить его воздействие; проверяли одну задачу в одной области с одной моделью. Работа показывает риск для ситуаций, где несколько решений обоснованы, а специалисту трудно заметить, как советы системы меняют ход рассуждений.