Курт Гёдель, величайший логик со времён Аристотеля, уморил себя голодом в 1978 году, потому что был убеждён, что кто-то травит его еду. Он умер весом 29 кг. Почти никто за пределами математики не знает его имени. Эйнштейн знал, он ходил на работу в Принстон только ради того, чтобы прогуливаться домой с Гёделем.
В 1931 году Гёдель в 25 лет разнёс мечту Давида Гильберта построить «идеальную машину математики». Его первая теорема о неполноте доказала: в любом наборе правил, достаточно мощном для арифметики, найдутся истинные утверждения, которые эти правила не могут доказать. Это не баг, а структурная особенность. Он построил математическую фразу, которая говорит сама о себе: «У этого предложения нет доказательства». Если система может её доказать — она противоречива и бесполезна. Если не может — значит, это истина, до которой системе не добраться. Мечта Гильберта была убита. Вторая теорема добила её: никакой набор правил не может сам доказать собственную непротиворечивость.
В 1936 году Алан Тьюринг убил третью часть мечты — решимость. Он придумал воображаемое устройство (бумажную ленту и считывающую головку) и назвал это механическим методом. Затем доказал проблему остановки: вы не можете создать идеальную программу, которая всегда предскажет, зависнет другая программа или нет. Такая проверяющая программа ломается о саму себя. Так Тьюринг изобрёл компьютер — чтобы показать, чего компьютеры никогда не смогут сделать. Все современные компьютеры — это то же самое устройство из статьи 1936 года.
Сейчас это стало коммерческой проблемой. В 2003 году Юрген Шмидхубер придумал «машину Гёделя» — ИИ, который доказывал, что каждое изменение кода сделает его лучше, прежде чем применить его. Это было идеально безопасно и абсолютно непрактично. В 2025 году Sakana выпустила «Darwin Gödel Machine», которая заменила доказательство на тестирование в бенчмарках. Система улучшила свой SWE-bench с 20% до 50%, но гарантия «проверено математически» превратилась в «пока не упало». Разница между самолётом, сертифицированным по спецификации, и тем, который просто ещё не разбился.
Исследования 2019 и 2022 годов показывают, что математика ИИ имеет дыры в полу. Шай Бен-Дэвид доказал, что для некоторых задач (например, показ рекламы) вопрос «можно ли этому научиться?» не имеет ответа — он упирается в размер бесконечности, который сама математика не может определить. Кэмбриджский математик Мэтью Колбрук доказал, что для восстановления МРТ-снимков существует идеальная нейросеть, которая никогда не галлюцинирует, но никакая процедура обучения во Вселенной никогда её не найдёт. А в 2021 году Альфонсека и коллеги показали: гарантировать, что сверхразумный ИИ не навредит людям — это математически то же самое, что гарантировать, что произвольная программа не зависнет. А это, по Тьюрингу, невозможно.
Четыре нити сходятся в одну точку. Гёдель в 1931 году, Тьюринг в 1936-м: системы, основанные на правилах, не могут полностью проверить сами себя. Нейросети не обходят это ограничение — они сами из чисел и арифметики, бегущей на машине фон Неймана. Индустрия тратит триллионы на обещания, которые математика никогда не поддерживала. Гарантии дают системы, которые не могут проверить себя. Так же, как искалеченная внутренняя логика Гёделя, из которой он не смог выбраться.