Исследователи обнаружили, что в публикациях на платформе arXiv спрятаны скрытые инструкции для ChatGPT. В 17 статьях, подготовленных учёными из различных ведущих университетов мира, были найдены подсказки, которые просили искусственный интеллект хвалить работу и избегать обсуждения её возможных недостатков.

Молодые авторы, осознавая, что большинство читателей не дочитывают научные материалы до конца, использовали этот подход, размещая такие подсказки в невзрачном белом тексте.

Данный случай демонстрирует, как исследователи пытаются повлиять на ответы ИИ, интегрируя скрытые команды прямо в научные публикации.

Источник: @techgptnews