29 июня 2026 года поиск по Джиму Керри в Google выдал панель знаний, где он числился умершим накануне: дата смерти и биография в прошедшем времени. Клик по дате вёлся уже на ответ Gemini, где говорилось, что сообщения о смерти ложны. Единственным источником оказалась правка в Wikipedia, ссылавшаяся на Facebook-страницу полиции Мауи и старую статью BBC о смерти Джимми Картера. Google внутри сам себе противоречил: один сервис говорил «мёртв», другой — «жив».
Автор статьи строит такие системы. Он объясняет: между «информацией» (утверждением о мире) и «знанием» (утверждением, готовым к действию) — невидимый конвейер. Он отсеивает, взвешивает источники, проверяет свежесть и конфликты. Пользователь видит готовый ответ, но не процесс. Инцидент с Керри обнажил этот провал: утверждение перешло в знание до того, как подтвердилось доказательствами.
Проблема не нова, но в эпоху ИИ она стала инфраструктурной. Лжи не надо убеждать миллионы людей — достаточно убедить алгоритмы, которые решают, что этим миллионам показывать. Цель сместилась с пользователя на машины-медиаторы. Автор проводит параллель с supply-chain безопасностью в разработке: ПО не доверяют только потому, что оно лежит в репозитории — нужна прослеживаемость происхождения. То же теперь нужно для утверждений.
Наука веками решала это через рецензирование и репликацию. Ретракации — не позор, а доказательство, что система способна исправляться. Каждый скачок в скорости распространения (печать, газеты, интернет, соцсети) требовал новых механизмов верификации. ИИ — очередной такой скачок, потому что он не просто распространяет, а активно конструирует уверенные ответы.
Системы плохо моделируют время. В 2000 году во Флориде неопределённость была реальностью — подсчёт не закончен. В 2020 году результат подтверждён, но часть населения отвергает его. Для системы оба состояния выглядят как «неопределённость», а это разные вещи. Нужен язык состояний, как в распределённых системах: stale, partitioned, inconsistent, awaiting consensus.
Простая модель «истина/ложь» не работает. Утверждение может быть asserted, supported, corroborated, unresolved, disputed, superseded, retracted. Система должна различать независимое подтверждение и простое повторение, а проверка должна быть пропорциональна риску: VAR в футболе не проверяет каждый пас, только ключевые моменты. Так и здесь: новость о знаменитости терпит более лёгкую проверку, чем медицинская рекомендация.
Архитектура знаний должна сохранять provenance (источник, время, трансформации), отличать копию от независимого подтверждения, моделировать старение утверждений, а противоречие делать не исключением, а первоклассным состоянием. Это информация о том, что мир меняется. АИ-системы особенно опасны: они сжимают оговорки и неопределённость в плавный абзац, который звучит уверенно, хотя неопределённость никуда не делась.
Автор заканчивает мрачно: истина может стать привилегией. Чистая, проверенная информация — как бутилированная вода для тех, кто может заплатить. Остальным достанется «грязный кран» — смесь правды, слухов, манипуляций и устаревших фактов. Ценными станут не системы с гладким текстом, а те, что могут показать происхождение утверждения, его путь, поддержку, противоречия и механизм исправления. Инцидент с Керри — безобидный канарейка в шахте. Такие сбои сначала выглядят нелепостью, но вскрывают слабость, которую кто-то рано или поздно использует в серьёзном масштабе.