Несколько дней на Usenix Security в Балтиморе — и две постоянные темы разговоров: почему Балтимор не похож на The Wire, и что делать с ИИ. Тревожно от одного: ИИ сделает софт слишком защищённым, и американские спецслужбы и полиция внезапно потеряют огромную часть своих возможностей.
Началось всё давно. В сериале The Wire, снятом в 2002 году, полиция прослушивает наркоторговцев с таксофонами и одноразовыми телефонами — в основном голосовые звонки. Через десять лет всё изменилось: смартфоны и SMS дали полиции новый источник данных. Около 2010 года Apple начала шифровать данные iPhone ключом из пароля, Android — следом. Через год появился сквозной шифр для iMessage, а к 2016 WhatsApp с почти миллиардом пользователей включил E2E-шифрование по умолчанию. В 2014 директор ФБР Коми запустил инициативу Going Dark — «национальный разговор» о том, как сделать новые каналы связи читаемыми для спецслужб.
В 2016 ФБР потребовало от Apple открыть iPhone стрелка после теракта. Apple отказалась. Тупик разрушила внешняя компания, которая заявила, что взломает телефон сама. На следующее десятилетие спецслужбы продолжали просить «особый доступ», но уже без срочности: можно было купить целевые инструменты вроде GrayKey и Pegasus. Вендоры закрывали дыры, но коммерческие охотники за уязвимостями всегда были впереди.
Теперь всё меняется. В апреле Anthropic выпустила модель Mythos, заточенную под поиск багов. США временно запретили её экспорт, но это бессмысленно: OpenAI и китайские open-weight-лаборатории Z.ai и Moonshot показали, что монополии на поиск уязвимостей не будет. Модели находят серьёзные баги всё чаще. Защитники уже патчат всё подряд, перестраивают CI-конвейеры со сканерами на базе ИИ. Похоже, количество полезных багов скоро упрётся в потолок — и в ближайшие два года у крупного софта закончатся удалённо эксплуатируемые дыры. Для автора это отлично, для спецслужб — кошмар: впервые с 2010 они по-настоящему «ослепнут» на целой категории современных устройств.
Дебаты об «исключительном доступе» не прекращались. В Великобритании они переросли в худшее, в США затихли отчасти из-за критики экспертов, отчасти из-за рынка: доступ и так покупался. Когда лёгкие жертвы исчезнут, спрос на специально построенные бэкдоры вернётся с новой силой. Государства начнут давить на разработчиков, чтобы те переделывали архитектуру под особый доступ. Это может привести к тому, что не-американские страны уйдут от софта из США. Худшее: бэкдоры ударят только по тем, кто их требует, то есть ослабят собственные системы США и откроют их для иностранных атак — как раз когда с безопасностью наконец начали справляться. Что делать? Автор не знает. Это не призыв к плану, а констатация: мы на длинной скользкой дороге в другое место. Остаётся надеяться, что в этот раз выберем правильно, потому что это правильно.