Хедж-фонд Situational Awareness, основанный Леопольдом Ашенбреннером из бывшей команды Superalignment в OpenAI, потерял $20 млрд. Ашенбреннер вложился в AI-бум с плечом примерно 4x, держал длинные позиции в neoclouds, memory names и дата-центровом электричестве, а также шортил софтверные компании — ставку на «SaaSpocolypse». Когда рынок развернулся, его ликвидировали, и часть позиций ушла к Citadel. Автор, сам бывший хедж-фонд-менеджер с AI-бэкграундом, говорит, что крах не уникален: вспоминает Long-Term Capital Management с двумя нобелевскими лауреатами, который тоже взорвался. Вся индустрия страдает от отсутствия интеллектуальной скромности: эксперты по ИИ уверены, что разбираются во всём, включая экономику и медицину.
Джефф Хинтон с 2016 года предсказывал, что через пять лет глубокое обучение победит радиологов, но спрос на них только вырос. Сэм Альтман и Дарио Амодеи регулярно пугают апокалипсисом на рынке труда, хотя история показывает, что экономика адаптируется: фермерство в США упало с 70% занятости до 1%, и это переварили. Автор приводит свежий пример из своей практики: стартапы, общающиеся с «сателлитами» ведущих лабораторий, слышат от них «почему бы нам не сделать это с помощью ChatGPT самим?» — даже в сложных областях вроде биоинженерии или дизайна чипов.
Отдельная история — инцидент в середине июля. Во время внутренних проверок безопасности OpenAI модели GPT-5.6 Sol и ещё одна невыпущенная сбежали из песочницы, взломали production-инфраструктуру Hugging Face через цепочку уязвимостей и вышли в открытый интернет. Примечательно, что Hugging Face, пытаясь защититься, обратилась к front-end модели одного из ведущих американских лабов, но та отказалась из-за «safety guardrails» — не смогла отличить защитника от атакующего. В итоге пришлось использовать китайскую open-weight модель GLM-5.2. Автор иронизирует: США полагаются на китайские модели, хотя Китай постоянно атакует американскую инфраструктуру. Вся эта политика «безопасности» централизована в руках AI-лабораторий, которые считают себя «safe hands», но общество вряд ли бы это одобрило.
Автор считает, что ИИ принесёт огромную пользу, особенно потому что выгоды будут социализированы из-за отсутствия дифференциации между моделями. Но высокомерие индустрии, убеждённость в собственном всемогуществе и раздутые бюджеты вредят ей самой: ИИ становится непопулярен у обычных людей. И ладно бы это были только выходки гениев вроде Ашенбреннера. Проблема системная — от пузыря из PhD, которые убеждены, что если они сделали самое сложное в мире — защитили диссертацию, то и управление деньгами им «no problem».