Современные чат-боты существенно повысили свои возможности благодаря использованию продвинутых методов хранения информации о пользователях. Раньше они воспринимали каждое обращение как новое, не учитывая предыдущие взаимодействия. Сегодня нейросети могут за короткое время найти релевантные сведения из прошлых разговоров, что позволяет делать диалог более персонализированным.
Недавно новая функция появилась у голосового помощника, основанная на использовании технологии векторного поиска в базе данных. Эта технология стала доступна для корпоративных клиентов и позволяет анализировать историю диалогов.
Как устроена память нейросетей?
Нейросети, как и человеческий мозг, имеют два типа памяти:
Долгосрочная память — область знаний, накопленная за время обучения модели, эти данные остаются неизменными после завершения обучения.
Краткосрочная память или контекст — информация, которую нейросеть держит в голове в рамках текущего взаимодействия для обработки задачи.
Ранее такие системы, как ChatGPT, не знали ничего о конкретных пользователях за пределами текущего диалога. Однако, с прошлого года появились инструменты, позволяющие сохранять факты о пользователе, такие как имя питомца или предпочтительный жанр кино. Эти сведения могут использоваться в дальнейшем.
Что изменилось недавно?
В чат-ботах начали внедрять технологию на базе векторного поиска. В ChatGPT её добавили к существующим функциям, а Алиса использует более развитую версию. Вот как это работает:
Этапы работы системы:
- Специальная нейросеть преобразует каждый диалог в вектор — так называемый эмбеддинг. Это сжатое представление содержания диалога, сохраняющее его смысл. Такие векторы можно сравнивать между собой: схожие диалоги о собаках, например, будут иметь похожие векторы, а разговоры на другие темы — значительно отличаться.
- При новом обращении помощник ищет в базе подходящие фрагменты прошлых диалогов в реальном времени, опираясь на сравнение векторов. Эта функция работает только с диалогами, начавшимися после активации функции.
- Релевантные фрагменты группируются по темам, например, семейные вопросы, домашние животные, работа или учеба.
- На основе найденных данных помощник использует факты о пользователе для повышения персонализации ответов. Например, если пользователь сообщает, что собирается купить корм для питомца, помощник может ответить по имени.
- Если помощник использует неверные или устаревшие сведения о пользователе, можно попросить его удалить или обновить эти данные. Эта возможность доступна для зарегистрированных пользователей в рамках платформы.
Данная функция уже реализована в чатах с голосовым помощником для зарегистрированных пользователей, за исключением режима рассуждения.
Поддержавшие наш канал пользователи могут продолжать следить за новостями и обновлениями.
Источник: @techno_yandex
