Anthropic извинилась за скрытые ограничения в своей новой AI-модели Claude Fable 5. Компания тихо ставила защитные барьеры, которые ухудшали ответы для пользователей, пытавшихся использовать Fable для дистилляции — техники тренировки маленьких моделей на выходах больших. Это било и по исследователям, и по конкурентам, разрабатывающим собственные системы. Теперь Anthropic меняет подход и обещает быть прозрачнее, даже если Fable начнёт чаще отказывать.
Fable — первая модель из класса Mythos, который Anthropic месяцами называла слишком опасным для публичного релиза. Компания выпустила её с защитой от "высокорисковых" запросов. В system card Fable говорилось, что попытки дистилляции будут наказываться прямой деградацией ответов без уведомления пользователя.
После жёсткой критики сообщества AI-исследователей Anthropic изменила стратегию. Теперь запросы на дистилляцию будут переадресовываться на предыдущую флагманскую модель — Claude Opus 4.8. Пользователей будут предупреждать: «You will see this every time it happens». Такой же механизм работает и в других высокорисковых областях — биологии, химии, кибербезопасности. Там запросы тоже уходят на Opus 4.8, если их не блокируют полностью по глобальным правилам безопасности (наркотики, оружие и т.д.).
Проблема особенно остра в биологии — защита настроена настолько широко, что Fable становится практически бесполезной даже для элементарных запросов. Anthropic это признала.
Компания объяснила: «Видимые защиты можно прощупать, они должны быть надёжными, на это нужно время. Невидимые защиты можно нацелить точнее — это позволяет быстро выпускать продукт с минимумом ложных срабатываний. Мы выбрали невидимые защиты — и это был неправильный компромисс. Вы должны видеть, какие ограничения стоят и почему». Anthropic извинилась за то, что не нашла баланс.
Напомним: ранее Anthropic обвиняла китайских конкурентов (например, DeepSeek) в «индустриальной» дистилляции своих моделей.