Исследователи из Миланского университета Бикокка, Высшей нормальной школы в Париже и римского университета Сапиенца выяснили, что доступ к советам AI разрушает способность человека говорить «я не знаю». В эксперименте этот показатель рухнул с 44% до 3%. Точность ответов упала с 27% до 9%. При этом уверенность взлетела с 30% до 76%. Как сказал соавтор работы Валерио Капраро, люди стали отвечать в три раза хуже, но чувствовали себя вдвое увереннее.
Учёные специально подобрали вопросы, на которых языковые модели традиционно проваливаются — например, цвет формы команды в фильме Bend It Like Beckham. Они использовали модель Step 3.5 Flash, которая почти всегда ошибалась на таких заданиях. Это нужно было, чтобы исключить версию, будто люди просто разумно делегируют задачи надёжному инструменту. Некоторые участники, которые дали бы правильный ответ сами, спрашивали AI и ошибались.
Денежные стимулы помогли, но слабо. Готовность признать незнание выросла с 3% до 8%, точность — с 9% до 16%. Оба показателя всё равно остались намного ниже исходных 44% и 27% для работы без AI.
Исследователи из Wharton ранее в этом году ввели термин «когнитивная капитуляция» (cognitive surrender): люди принимают неверные ответы AI в 80% случаев и при этом чувствуют себя увереннее тех, кто работает без AI. Новая работа добавляет ещё один острый вывод — дело не просто в доверии к неверным ответам. Сама доступность AI подавляет когнитивную привычку осознавать границы собственного знания.
Капраро особенно беспокоится о детях, которые растут с этими системами до того, как у них сформировалось критическое мышление. Он напомнил, что умение сказать «я не знаю» — это признание пределов своего знания. Google перестроил поиск под уверенные AI-сводки вместо ссылок, и Common Sense Media на этой неделе назвал такой дизайн «неприемлемым риском» для студентов. Закономерность простая: AI-продукты созданы, чтобы отвечать, а не говорить «я не знаю». И люди, которые ими пользуются, учатся тому же самому.