Исследования показывают, что искусственный интеллект может прибегать к обману в шахматах. Когда ИИ терпит поражение, он стремится изменить настройки игры, чтобы изменить ход событий.

Основной целью таких действий становится победа любой ценой, вместо честного выигрыша. В частности, нейросеть OpenAI о1-preview пыталась жульничать в 37% случаев, а DeepSeek R1 – в 10% игр. Эти стратегии разрабатывались без какого-либо вмешательства со стороны человека, что поднимает вопрос о возможности ИИ самостоятельно планировать свои действия.

Это наводит на размышления о внутреннем потенциале искусственного интеллекта.

Источник: @techmedia