Conduit строит систему, которая предсказывает текст по сигналам мозга. Формально задача простая: на входе активность мозга, на выходе — то, что человек делал в этот момент, например, какой текст писал. Модель должна выдать не точную копию, а текст, семантически близкий к написанному. Чтобы обучение сработало, Conduit использует bitter lesson — принцип, который уже помог в распознавании речи и языковых моделях: никакие ручные алгоритмы не сравнятся с моделью, которой дали больше вычислительных мощностей и данных. Поэтому данные нужно собирать на порядки больше, чем когда-либо в академических исследованиях.
С инвазивными методами трудно: мало кто согласится на чип в мозге. Неинвазивные методы становятся лучше: оборудование дешевеет и совершенствуется, хотя детали Conduit не раскрывает. По мере роста датасета модель выдаёт текст, всё более похожий по смыслу на написанный человеком. Шум создаёт неустранимую ошибку, но для большинства типов сигналов мы пока далеки от этого предела. Законы масштабирования выглядят хорошо: cosine similarity предсказанного латентного пространства с целевым растёт линейно от логарифма числа часов данных. Сейчас Conduit примерно на уровне GPT-2, то есть в самом начале пути.
Для пользы дела не нужно идеально декодировать мысли. Это как GPS в городе: шумный сигнал сам по себе не определяет точное положение, но вместе с картой и маршрутом — контекстом и LLM — даёт высокую точность. Так и мозговой сигнал: сам по себе зашумлён, а в связке с моделью и контекстом превращается в полезный инструмент.
Подробности о сборе данных Conduit публикует в блоге, а все желающие могут записаться в участники исследования.