
Google провело исследование, посвященное сравнению способов, которыми человеческий мозг и нейросеть обрабатывают язык. Результаты оказались достаточно неожиданными.
В ходе исследования ученые выделили несколько ключевых выводов:
- При восприятии речи активируются участки слуховой коры, связанные с пониманием. Когда человек говорит, сначала работают области, ответственные за планирование, затем те, что координируют движение, и в завершение — зоны, анализирующие произнесенное.
- Нейросеть выбирает слова аналогично человеческому мозгу. Это процесс, который не ограничивается простым перебором токенов, а представляет собой почти осознанную деятельность. Учёные отмечают наличие эмбеддингов — связей между словами и репрезентациями в мозгу.
- Наиболее удивительным является то, что нейросети воспринимают язык СТАТИЧЕСКИ, как набор токенов. Это вызывает сомнения в традиционных представлениях о «символьной» обработке языка мозгом, где мы основываем свою речь на ассоциациях, структуре слов и синтаксисе.
Скоро может прийти день, когда робот сможет написать настоящую симфонию.
Источник: @techmedia