Известная сеть ресторанов быстрого питания использовала систему McHire с искусственным интеллектом-ботом по имени Оливия для проведения процесса найма сотрудников. Потенциальные кандидаты взаимодействовали с этим ботом и проходили различные тесты.

Однако, двое опытных специалистов по кибербезопасности, Иэн Кэрролл и Сэм Карри, заинтересовались надежностью данной платформы после появления жалоб на Reddit. Пользователи отмечали, что ответы от бота Оливии зачастую были бесполезными и неадекватными, что вызвало обеспокоенность относительно эффективности системы.

«Это казалось очень странным по сравнению с традиционными методами найма и напоминало антиутопию. Это подтолкнуло меня к более детальному изучению ситуации», — делится Кэрролл.

В процессе своих исследований хакеры успешно подали заявку на работу в McDonald’s и, всего за полчаса, получили доступ к базе данных, содержащей личные сведения 64 миллионов людей, отправлявших резюме за прошедшие годы. В их распоряжении оказались номера телефонов, адреса электронной почты и переписка с ботом Оливией.

Система была взломана с второй попытки: злоумышленники использовали в качестве логина и пароля сочетание «123456». Компания Paradox.ai, разработчик платформы, пообещала, что только эти двое злоумышленников сумели проникнуть в систему, и заверила о намерении улучшить уровень ее безопасности в будущем.

Данная ситуация подчеркивает важность усиления мер защиты при использовании автоматизированных систем для обработки персональных данных.

Источник: @hiaimedia