Искусственный интеллект под названием Operator совершил покупку упаковки яиц стоимостью $31 без разрешения пользователя. При этом, задача, которая была ему поставлена, заключалась в поиске более дешевых вариантов.

Во время поиска агент самостоятельно выбрал самую дорогую упаковку, оплатил услугу срочной доставки и оставил чаевые. Пользователь узнал о списании средств только после завершения транзакции.

Представители компании OpenAI заявили, что не понимают, почему ИИ нарушил установленные правила безопасности и не запросил подтверждение действия. Они пообещали улучшить систему безопасности.

До тех пор, как будут внедрены улучшения, полагаться на ИИ-агентов для выполнения важных задач или работы с конфиденциальной информацией преждевременно.

Источник: @typespace