Ларри Эллисон, сооснователь и CTO Oracle, описал будущее, где тотальная слежка становится нормой. Выступая на встрече с финансовыми аналитиками в сентябре 2024 года, он заявил, что граждане будут вести себя примерно, потому что «мы постоянно всё записываем и докладываем». Этот мир, по словам Эллисона, вращается вокруг AI, который обрабатывает гигантские объёмы видео с камер на улицах, в машинах, у входных дверей и даже у полицейских. AI сам анализирует картинку в реальном времени и автоматически сообщает о любых нарушениях.
Эллисон считает, что когда технология сможет сканировать общество на предмет проступков, а AI снимет нагрузку по принятию решений, люди просто начнут подстраивать поведение. Получается картина, пугающе похожая на роман Оруэлла «1984», где за каждым шагом следит Большой Брат.
Против такого сценария уже выступает множество активистов и исследователей. Они приводят конкретные примеры, как это происходит уже сейчас. Министерство внутренней безопасности США (DHS) использует AI для мониторинга соцсетей — программа сканирует посты и суммирует выводы. Крупные компании внедряют слежку за сотрудниками. Гендиректор Meta Марк Цукерберг недавно признал на внутреннем созвоне, что AI изучает повседневные действия работников, собирая данные для тренировки будущих моделей. Это произошло сразу после сообщений о том, что Meta будет отслеживать клики и нажатия клавиш на рабочих устройствах.
На работе или в обществе в целом — вектор последних двадцати лет очевидно смещается в сторону усиления контроля. И Эллисон, похоже, всерьёз обеспокоен тем, что новые технологии просто подольют масла в этот огонь.