Фразу «AI — это просто инструмент, важно, как его использовать» автор называет обманчиво наивной и вредной. Она звучит от исследователей, техно-предпринимателей и бизнесменов, но по сути ничего не объясняет. Сравнение с машиной: автомобиль повлиял на климат, безопасность и градостроительство, а «просто» водить его — явно не всё. Инструменты не нейтральны, они формируют политику, законы и культуру — это известно в HCI десятилетиями.
Вторая часть фразы тоже подводит. Сводить всю этику к тому, как один человек использует что-то — абсурд. Проблемы системные, и их не решить «правильным» использованием. Это приглашение к solutionism: слушатель думает, что он достаточно мудр, и проблема сводится к обучению. Но даже с молотком всё сложнее — он требует леса, руды, законов о труде и экологии. А с AI игнорируется всё: как его создают, распространяют, какие отходы и ущерб он приносит.
Инструменты используют нас. Хайдеггер называл это Gestell — технология задаёт, кем мы становимся. Стул командует: сиди смирно, лицом вперёд. AI делает то же самое, но масштабно: он программирует нас перестать критически мыслить, воображать и чувствовать боль. Главный соблазн автоматизации — убрать рутину. Но не всякая борьба — рутина. Гора и бордюр — разная борьба: гору стоит покидать, бордюр — барьер для доступности. Качалка в спортзале: робот не должен поднимать за нас штангу, но безопасные тренажёры — помощь нашему удовольствию от усилия. AI же забирает само усилие — писать письмо маме, аргументировать повышение, учиться ремеслу.
Автор называет AI опиатом и квинтэссенцией «инструмента-наркотика» с экономией бесконечности, где якобы нет издержек. Но цена — наша человечность. Три главные опасности: экологическая (ускорение климатического кризиса, истощение воды и энергии), экономическая (крупнейшая кража всех оцифрованных данных без компенсации) и экзистенциальная. Тина Хе пишет об онтологическом кризисе: тревога от AI подсказывает, что есть что-то неуловимо человечное, что сопротивляется оптимизации и рынку.
Выход — не отказ от инструментов, а их переосмысление. Нужна политика, экономическая справедливость и ограждения. Надо формировать технологии, пока они не сплющили нас в пустоту. Делать то, что не умеют машины: бороться за изменения, отказывать несправедливым системам, помнить предшественников и чувствовать правильную боль, которая придаёт форму и смысл.