Неповторяющийся характер работы с ИИ делает её более живой. Когда ты синтезируешь новое изображение с помощью A.I.‑инструмента, получаешь кучу похожих вариантов и выбираешь из них. Студент, который использует L.L.M., чтобы сжульничать с эссе, читает сгенерированные моделью варианты и выбирает один. Так технология, не повторяющаяся дважды, требует от человека маленького выбора.
Многие полезные применения A.I. построены на том, что компьютеры становятся менее жёсткими. Раньше цифровые интерфейсы вынуждали людей подстраиваться под них — вспомни, как кто‑то мучается перед экраном в регистратуре, не в силах сделать то, что от него ждёт программа. Лицо искажается, человечность уходит. Необходимость соответствовать дизайну создала фоновое ожидание подчинения. Но A.I. может покончить с этой пыткой, если использовать его правильно. Теперь можно представить сайт, который перестраивается на лету для дальтоника или подстраивается под чьи‑то когнитивные особенности. Гибкость возвращает человеку контроль.
Но волноваться, что новая технология начнёт нами манипулировать, более чем разумно. Недавно знакомые запустили петицию о паузе в разработке самых амбициозных A.I. — чтобы за время паузы подумать над политикой. Петицию подписали не все. Автору эта идея показалась слишком размытой: когда паузу снимать? Каждую неделю приходят туманные миссии от организаций, которые хотят разрабатывать A.I.‑политику. Раньше автор работал над политикой конфиденциальности ЕС и понял: мы не знаем, что такое privacy. Ближайшее определение — «право быть оставленным в покое» — кажется старомодным в эпоху цифровых сервисов. Для A.I. подходит «право не быть манипулируемым вычислениями», но и это не всё.
Обсуждение A.I.‑политики вертится вокруг «alignment» (совпадают ли «желания» ИИ с человеческими?), «safety» (можно ли предвидеть ограничители для плохого A.I.?) и «fairness» (можно ли предотвратить предвзятость?). Защиты работают, но люди пытаются их обойти — это игра в перехитрить хитрого джинна. В итоге сообщество A.I. предупреждает, что их творения могут скоро убить всё человечество, но предлагает всё более срочные и тяжёлые процедуры.
Автор провёл неформальный эксперимент: позвонил коллегам и спросил, есть ли хоть что‑то, в чём все согласны. Оказалось, есть. Все согласны, что deepfakes — ложные, но реалистичные изображения и видео — должны маркироваться программами, которые их создают. Коммуникации от искусственных людей и автоматические взаимодействия, манипулирующие человеком, тоже должны получать метку. И к меткам должны прилагаться действия: люди должны понимать, что видят, и иметь разумный выбор в ответ.