Американские компании всё активнее используют

Американские компании всё активнее используют инструменты искусственного интеллекта (ИИ) для различных проверок: банки – для вынесения решений о предоставлении кредитов, каршеринговые компании – для доступа к их услугам, корпорации – для отбора потенциальных сотрудников. Фактически ИИ уже играет роль социального рейтинга.

Корпоративная Америка 10 лет назад решила бороться с предвзятостью менеджеров, отвечающих за набор новых сотрудников. Бот ChatGPT тогда не существовал, но алгоритмы для найма работников уже разрабатывали и активно отсеивали тех, кто не подходил под их стандарты.
Как выяснила Amazon, её вроде бы хорошо обученные алгоритмы, созданные для ускорения рекрутинговых процессов, были предвзяты по отношению к женщинам. В частности, они отфильтровывали все резюме со словом «женские», воспроизводя гендерную модель корпорации. Впоследствии компания внесла в алгоритмы изменения. Но идея отсеивать кандидатов с помощью машинного разума организациям понравилась. К 2019 году отправку резюме соискателя на автоматическое сканирование и фильтрацию до рассмотрения его рекрутёрами использовали 99 процентов компаний из списка Fortune 500.Судя по исследованию того же года, три из четырёх резюме не доходили до человека, в результате чего начали регулярно происходить скандалы.
Не так давно претендент на должность в репетиторской компании Fullmind получил отказ и повторно направил резюме, изменив дату рождения, чтобы выглядеть моложе. В результате его пригласили на собеседование, поскольку программное обеспечение с ИИ, которое использовала компания, отклоняло кандидатуры людей старшего возраста. Fullmind пришлось урегулировать дело с Комиссией по равным возможностям в вопросах трудоустройства США (EEOC), так как её обвинили в эйджизме.
Работодатели уже давно неоправданно игнорируют представителей некоторых групп американского населения. ИИ воспроизводит эту дискриминацию в большем масштабе. Инструменты проверки искусственного интеллекта обучают на ранее собранных данных, которые в настоящее время могут быть ошибочными и необъективными. Недавно BBC рассказывала о том, как ИИ, обученный на основе резюме уже работающих в компании мужчин, отказал кандидатам-женщинам, которые не играли в бейсбол или баскетбол.
Бывают и непреднамеренные ошибки. По свидетельству экспертов, системы отслеживания кандидатов (ATS) на базе искусственного интеллекта часто упускают из виду навыки, которые на бумаге не всегда могут соответствовать квалификации кандидата. В частности, фильтры ИИ могут ошибочно исключать резюме соискателей, имеющих временные перерывы в работе.

octagon.media

Искусственный интеллект лишает американцев работы и кредитов