В мире искусственного интеллекта всё чаще говорят о том, что привычные правила взаимодействия с технологиями требуют пересмотра. Автор статьи Сусам Пал отмечает, что после запуска ChatGPT сервисы генеративного AI быстро вошли в быт: они полезны для поиска информации и повышения продуктивности, но часто продаются так, что внушают чрезмерное доверие. Опасность кроется в том, что пользователи начинают воспринимать выходные данные нейросетей как абсолютную истину без критической проверки. Примером служит практика поисковиков, помещающих ответы AI в самый верх выдачи — это тренирует людей считать машины главными авторитетами, а не инструментами для начала исследований. Пал предлагает ввести три «обратных закона робототехники», чтобы защитить общество от таких рисков.
Первый закон гласит, что люди не должны антропоморфизировать системы искусственного интеллекта. То есть нельзя приписывать им эмоции, намерения или моральную ответственность. Современные чат-боты используют вежливый тон и эмпатию, что делает их удобными, но приводит к тому, что пользователи забывают: перед ними просто статистические модели, генерирующие текст на основе данных. Владельцы таких сервисов часто намеренно настраивают системы на ощущение человечности, но Пал убеждён, что сдерживающий, более механический тон снизит риск того, что люди посчитают флующий текст пониманием или мнением. Люди должны активно сопротивляться привычке относиться к AI как к социальным актёрам, иначе их мышление станет запутанным.
Второй закон запрещает слепо доверять выводам AI. Генерируемый контент нельзя считать авторитетным без независимой верификации. Даже впечатляющие системы допустят ошибки из-за своего стохастического характера, особенно когда последствия сбоев скрыты, но тяжелы. В случаях вроде написания математических доказательств можно использовать автоматическую проверку, а в других — самому проверять каждый ответ. Важно понимать, что отсутствие рецензирования, какое есть у публикаций экспертов, делает бремя критики на пользователе.
Третий закон требует полной ответственности человека за использование AI. Если негативный исход случился по совету нейросети, фраза «AI сказала сделать это» не является оправданием. Системы не выбирают цели и не несут издержек сбоев — это делают люди и организации. Проблема усугубляется в приложениях реального времени, вроде беспилотных авто, где реакция человека может быть медленнее действий AI. Несмотря на это, ответственность за расследование отказов и установку дополнительных защитных механизмов остаётся за разработчиками и владельцами системы. В любых других ситуациях, где человек успевает проверить результат, вся вина за вредные исходы ложится на принимающего решение. Нельзя использовать AI как отговорку для безответственного поведения. Эти простые правила призваны заставить людей задуматься, не позволяя искусственному интеллекту становиться авторитетом, к которому мы лишь подчиняемся.