Арджун Нараянан (Arvind Narayanan) выступил с ключевым докладом на Международной конференции по машинному обучению в Сеуле. Тема — тревога в AI-сообществе: как готовиться к будущему, где AI делает всё больше нашей работы. Он предложил три аргумента.
Первый: фреймворк AI as Normal Technology — правильный и полезный способ думать о воздействии AI, если не случится резкого разрыва вроде рекурсивного самоулучшения (RSI). Второй: даже если относиться к RSI серьёзно, никакой milestone в лаборатории не выкинет всех с работы в один день. Третий: профессии будущего кардинально изменятся, потребуется серьёзная адаптация. Конечная цель — «co-superintelligence» человека и AI.
Нараянан объяснил четыре фазы влияния технологий на экономику: изобретение, инновация (продукты), диффузия (внедрение) и адаптация. Последняя — самая медленная, занимает десятилетия, и в AI она ещё толком не началась. Аналогия с электричеством: фабрики не смогли просто заменить паровые машины генераторами — потребовалась полная перестройка организации труда.
Отдельно он остановился на разрыве между capability и reliability. Capability (точность) за последние два года резко выросла, а reliability — лишь на 5–10 процентных пунктов. Он выделил четыре измерения надёжности: consistency, robustness, calibration, operational safety. Пока ни один бенчмарк их не учитывает. Это значит, что для automation-агентов надежность критична, а для collaboration-агентов, наоборот, важна креативность и непредсказуемость.
Нараянан привёл примеры профессий. Программирование: код — не узкое место. Работа состоит из decide, execute и deliver layers; execute сжимается, а остальные расширяются. Число программистов не падает, а растёт — как в случае с банкоматами: они увеличили спрос на кассиров. Радиологи после предсказания Хинтона не исчезли, их занятость выросла. Переводчики остались востребованы, несмотря на человеческий уровень AI. AI делает дешёвым создание исков — юристам работы больше.
Обсуждая RSI, Нараянан разбил AGI/ASI на четыре разных измерения: RSI, human-level AI, AGI, superintelligence. Ни одно не подразумевает другое. RSI может быть просто автоматизированным перебором гиперпараметров, а не заменой креативности исследователей. Креативность — неверифицируемая задача, LLMs до неё далеки. Он также упомянул ongoing project: тестирование AI-агентов на открытых задачах с бюджетом в несколько тысяч долларов, результаты скоро опубликуют.
Его итоговая позиция: AGI в некотором смысле уже здесь (модели справляются с широким кругом задач), но экономические последствия отстают не из-за возможностей моделей, а из-за downstream barriers — надёжности, интеграции, регуляции, неявных знаний. Эти барьеры будут сниматься десятилетиями через постепенное внедрение. Гонка к AGI как к Манхэттенскому проекту бессмысленна — никакой единый milestone не откроет экономический потенциал.