Исследователи из компании Anthropic разработали инновационный способ, который позволяет заглянуть в процесс «мышления» искусственного интеллекта. Новый подход, получивший название «трассировка цепей», открывает возможность наблюдать внутренние механизмы работы языковых моделей.

Искусственный интеллект способен планировать свои действия заранее и производить рассуждения поэтапно. Например, создавая стихи, сначала выбирается рифма, а затем формируется строка. При необходимости определить столицу штата, содержащего город Даллас, система первым делом устанавливает, что это штат Техас, а затем определяет, что его столицей является Остин.

Следует отметить, что все языковые модели функционируют по одному и тому же принципу, вне зависимости от языка, на котором производится взаимодействие с пользователем.

Источник: @typespace