Новое исследование, проведенное OpenAI и MIT, обнаружило, что у пользователей ChatGPT наблюдается более высокий уровень одиночества и заниженное количество реальных социальных взаимодействий.

Это особенно относится к персонализированным ботам, подобным Replika и Nomi, которые предлагают «эмоциональную связь» через платные функции, такие как селфи, костюмы и память.

Важно отметить, что речь не идет о том, что боты делают людей одинокими, а скорее о том, что те, кто чувствует себя одиноким, склонны больше взаимодействовать с ботами. Исследователи рекомендуют внедрение концепции «socioaffective alignment» — дизайна, который поддерживает пользователя и не заменяет реальные человеческие отношения.

Если не обратить внимание на эту проблему сейчас, мы можем повторить ошибки социальных сетей, включая рост случаев суицида, судебных разбирательств и репутационных кризисов. Идея заключается в том, что искусственный интеллект должен был бы предусмотреть подобные последствия.

Источник: @malepeg