Meta приостановила свою спорную программу отслеживания сотрудников. Причина — внутренний сбой в безопасности, из-за которого потенциально чувствительные данные, собранные через эту инициативу, стали видны другим работникам компании.
Представитель Meta Трейси Клейтон заявила, что программа разрабатывалась с защитой приватности, и пока нет доказательств, что кто-то неправомерно получил доступ к данным. Тем не менее, расследование идёт, а сбор информации приостановлен.
Речь идёт об инструменте Model Compatibility Initiative (MCI). Его запустили в апреле для сотрудников в США. MCI собирал движения мыши, клики, нажатия клавиш и содержимое экрана. Работники сразу начали протестовать, жалуясь на вторжение в приватность и угрозу безопасности. Изначально отказаться от участия было нельзя, но после протестов Meta немного ослабила требования.
Руководство Meta защищало проект. Утверждалось, что данные нужны для обучения ИИ — нейросети должны научиться управлять софтом как люди, а сотрудники — лучший пример для обучения.
В понедельник инженер Meta выпустил внутреннее уведомление о безопасности. Оказалось, что базы данных с информацией от MCI были доступны любому внутри компании. Бывший сотрудник, выступавший против программы, назвал ситуацию «бардаком», который работники предсказывали. По его словам, руководство игнорировало риски, создав «авторитарную среду».
После шквала критики во внутренних форумах Meta неожиданно для своих сотрудников полностью приостановила MCI. Стефан Касриэль, вице-президент Meta по исследованиям ИИ, объявил о паузе. Он рассказал, что проблему с безопасностью обнаружили 18 июня и исправили за четыре часа. Но первое исправление не сработало, и доступ к данным пришлось ограничивать снова. Из-за сбоя «некоторые данные MCI» стали доступны большему числу людей.
Meta пообещала возобновить программу только после того, как убедится в надёжности защиты данных. Касриэль добавил, что компания собрала «достаточно данных, чтобы оценить долгосрочную ценность инструмента» и вскоре расскажет о его будущем.