В судебных спорах об обучении Llama на пиратских книгах появились новые показания бывшего исследователя Meta Стивена Роллера. По версии правообладателей, он признал на допросе, что скачивал набор Books3 через BitTorrent и сознательно участвовал в его раздаче. Роллер работал в Meta с 2017 по 2023 год. Он не вспомнил точную дату загрузки, но подтвердил появление Books3 в 2020 году и отсутствие в тот период другой работы.
Books3 содержит почти 200 тысяч книг из закрытого трекера Bibliotik. Meta ранее признавала использование частей набора для обучения Llama 1 и Llama 2, однако способ получения оставался спорным. В августе компания сообщала Entrepreneur Media, что, по её мнению, пиратский набор не был получен через BitTorrent. Значение спора усилилось после прошлогоднего решения суда, признавшего обучение Llama на книгах добросовестным использованием: загрузка и распространение через торренты остались отдельным открытым вопросом.
Истцы также утверждают, что Роллер назвал двух исследователей, у которых могли быть собственные копии, и подтвердил наличие Books3 в Meta на момент его ухода из FAIR. Свою копию он удалил примерно за год до показаний, объяснив это судебными разбирательствами. Истцы намерены выяснить число копий и способы их получения.
Meta представляет показания иначе. По её словам, Роллер не знал, когда именно скачал The Pile, включающий Books3, и не утверждал, что сделал это для Meta или на её оборудовании: копия могла быть личной или относиться к другому работодателю. Файл находился на его личном компьютере, а удалён более чем через два года после ухода, поскольку больше не был нужен. Компания также оспаривает уверенность истцов в существовании дополнительных копий.
Отдельный спор касается папки ML Books, возможного книжного клуба с пиратскими изданиями и недостающей истории команд серверов, настраивавших торрент-загрузки. Meta заявляет, что продолжает искать резервные копии и передавать журналы, а оснований считать историю удалённой нет. Первый процесс по иску Entrepreneur запланирован на весну 2027 года.