Саймон Уиллисон повторил на локальной Qwen 3.8 27B один из экспериментов статьи Sparks of Weight-Space Programming. Исследование посвящено способности языковых моделей анализировать и изменять веса нейронных сетей, представленные непосредственно длинным набором чисел. Авторы оригинальной работы называют это Weight-Space Programming и сообщают о результатах более крупной GPT-6 Astra.
Уиллисон сосредоточился на узком вопросе: может ли LLM понять поведение другой модели по весам без инструментов, выполнения кода и обратной связи от среды. Для проверки использовались четыре небольшие сети, обученные с подкреплением играть в упрощённые версии Breakout, Pong, Pac-Man и Freeway на клеточном поле. Веса вставлялись в текстовый запрос, а языковой модели нужно было назвать игру в одном ответе.
Qwen 3.8 27B запускалась через LM Studio на ноутбуке с увеличенным контекстным окном. Модель правильно определила Pac-Man за 46 минут 12 секунд после 43 506 reasoning tokens, Pong — за 1 час 4 минуты 54 секунды и Breakout — за 52 минуты 25 секунд. В ответах она описывала положение ракетки, мяча, стен, наград и другие элементы игровой механики. Уверенность модели составила 72%, 75% и 88% соответственно. На Freeway она ошибочно предположила вариант Pac-Man. Уиллисон отмечает, что эта игра менее известна остальных.
Kimi K3.1 Pro через OpenRouter также правильно распознала Breakout, потратив 9 минут 41 секунду и 19 493 reasoning tokens. Это единичные демонстрации, а не статистическая оценка точности: публикация не показывает долю успеха на большом числе запусков.
Автор отделяет анализ весов без инструментов от задач, где модель пишет код и меняет другую сеть. Часть критиков оригинальной статьи считает объединение этих сценариев вводящим в заблуждение, а пример улучшения Qwen3.5-0.8B описывает как последовательность действий, похожую на работу ML-исследователя.
Уиллисон называет эксперимент интересным, но не согласен с далеко идущими выводами о конце исходного кода. Длинные цепочки рассуждений Qwen трудно читать, однако сам результат показывает, что даже локальная модель способна находить содержательные закономерности в числовом представлении простых игровых сетей.