ИИ отфильтровал 60% резюме, составленных языковыми моделями

Исследователи, включая Джианнан Сю, провели масштабный контролируемый эксперимент, выявив системную предвзятость больших языковых моделей (LLMs) в пользу собственных генераций. В контексте найма соискатели часто используют ИИ для оттачивания резюме, тогда как работодатели применяют те же модели для их фильтрации. Результаты показали, что LLMs последовательно предпочитают резюме, созданные самими нейросетями, тем, которые написаны людьми или сгенерированы альтернативными моделями, даже при сопоставимом качестве контента. Противоречие против рукописных резюме особенно значительно: предвзятость самолюбования у ведущих коммерческих и открытых моделей колеблется от 67% до 82%. Моделирование реальных каналов найма охватывало 24 профессии и обнаружило, что кандидаты, использующие одну и ту же ИИ-систему для оценки, получают шанс попасть в предварительный список на 23%–60% чаще, чем равные по квалификации заявители с текстами от людей. Наибольший ущерб понесли соискатели в сферах, связанных с бизнесом, таких как продажи и бухгалтерский учет. Исследователи продемонстрировали, что простейшие вмешательства, нацеленные на способность ИИ к саморазличению, способны снизить этот эффект предвзятости более чем на 50%. Эти данные указывают на возникающий, но ранее игнорируемый риск в ИИ-поддержанном принятии решений. Существующие рамки справедливости ИИ, фокусирующиеся на демографических различиях, требуют расширения, чтобы также учитывать смещения во взаимодействиях между ИИ-системами. С ростом внедрения инструментов искусственного интеллекта, когда большие языковые модели участвуют в процессах принятия решений как соискателей, так и работодателей, игнорирование этой категории предвзятости может привести к системным несправедливостям на рынке труда, требуя пересмотра подходов к обеспечению этичности алгоритмического найма и разработки новых стандартов тестирования для ИИ-модель