Джессика Халлман из Northwestern University рассматривает спор о роли AI в науке как противопоставление двух целей: получения проверяемых ответов и развития человеческого понимания. По её мнению, такое разделение вводит в заблуждение. Понимание важно не как дополнительное внутреннее состояние, а как способность объяснить утверждение, ответить на возражения и исправить результат, когда что-то идёт не так.
В качестве примера она разбирает мысленный эксперимент Теренса Тао: пациенту предлагают лекарство от рака, найденное AI, с формальным сертификатом корректности и успешной третьей фазой испытаний, хотя никто не понимает процесс его получения. Проблема не только в комфорте пациента: система могла пройти проверку, использовав слабость самого испытания. Сходный вопрос возникает у arXiv, когда формальные авторы статьи не способны объяснить её утверждения и отвечать за них после публикации.
Халлман связывает веру в достаточность правильных процедур с идеалом науки, свободной от ценностей. После Второй мировой войны общественный договор предполагал финансирование и автономию исследователей в обмен на практическую пользу. Механическая объективность должна была заменить доверие людям доверием методу. Однако философы науки сейчас преимущественно отвергают этот идеал: выбор задач и значимых теорем неизбежно зависит от человеческих ценностей и научного вкуса.
Ссылаясь на Хелен Лонгино, автор называет объективность результатом коллективной критики. Рецензирование не просто отсеивает ошибки, а добавляет другую точку зрения и побуждает исследователей пересматривать выводы. Для такой критики нужен собеседник, который связан своими утверждениями и обязан на них отвечать.
Современным AI-агентам, по мнению Халлман, не хватает устойчивой идентичности между сессиями и репутационных ставок, помогающих научному сообществу калибровать доверие. Можно попытаться создать ответственный AI, но этого недостаточно без людей, способных проверять его объяснения и распознавать уклончивые ответы. Такие способности развиваются через выбор задач, защиту работ и рецензирование. Вывод эссе: верификация подтверждает техническую корректность, но превращает результат в знание только сообщество, способное его оспаривать, развивать и исправлять.