Джеффри Хинтон заявил The Guardian, что человечеству, возможно, было бы лучше вообще не создавать AI. При этом он не называет себя сторонником неизбежного апокалиптического сценария и допускает «прекрасное будущее» и радикальное изобилие. По его оценке, в течение десяти лет, а возможно и раньше, станет ясно, смогло ли человечество управлять рисками технологии.
Противоположный сценарий Хинтон описывает как огромный разрыв между бедными и богатыми, массовую безработицу, культурные проблемы и раскол общества. Он также допускает крупный инцидент уже в 2026 или 2027 году: например, атаку при участии AI на энергосистему с массовым отключением электричества или недельный сбой финансовой системы. Это его прогноз, а не сообщение о произошедшем событии. Такой случай, по его мнению, мог бы заставить мировых лидеров отнестись к проблеме серьёзнее.
Хинтон раскритиковал руководителей крупных AI-компаний за гонку всё более мощных моделей. Он заявил, что совсем не доверяет главе OpenAI Сэму Альтману, а его оценку мотивов Альтмана, Марка Цукерберга и Илона Маска прямо обозначил как личное мнение. Сам Альтман ранее утверждал, что миру стоит доверять способности его компании поступать правильно.
Учёный поддержал предложение, одобренное президентом Финляндии и ещё 32 странами, включая Германию, Канаду, Австралию и Сингапур. Оно предусматривает обязательные испытания передовых моделей, независимую оценку и общие межправительственные стандарты. Хинтон сравнил нужный регуляторный подход с работой FDA: до выпуска продукта компании должны представлять независимому органу убедительные статистические доказательства того, что польза модели превышает вред.
Высказывания прозвучали перед показом документального фильма AI: Probably Nothing to Worry About с участием Хинтона и Демиса Хассабиса. Хинтон объясняет публичную активность чувством долга и напоминает, что ушёл из Google в 2023 году, чтобы свободнее говорить о рисках. Несмотря на тревожные сценарии, он считает, что люди пока контролируют ситуацию и могут предотвратить катастрофу, если приложат серьёзные усилия.