Применение ИИ в научных исследованиях: плюсы и минусы
Современная наука сегодня невозможно представить без задействования искусственного интеллекта. Нейросети стимулируют прогресс, открывая новейшие лекарства и анализируя медицинские данные, а также исследуя астрономические данные для поиска экзопланет.
Однако с ростом популярности ИИ, фальсификация научных исследований достигла нового уровня. По оценкам аналитиков, каждый месяц в научные журналы поступают тысячи статей, созданных с помощью нейросетей.
Что же приводит к подделкам в научных публикациях?
Искаженные формулировки. У некоторых авторов наблюдаются неудачные попытки перефразировки при помощи ИИ, что затрудняет обнаружение плагиата. Так, например, фраза «рак груди» может превратиться в «грудная опасность», а big data — в «гигантская информация».
Неадекватные вставки от нейросетей. Иногда в статьи добавляются глупые комментарии, например: «Как большая языковая модель, я…». Это указывает на использование нейросети для генерации текста.
Штампы и шаблоны. Некоторые выражения используются ИИ гораздо чаще, чем в обычной человеческой речи. Так, слова «похвальный» и «дотошный» подчеркивают возможное влияние ChatGPT на текст.
Ошибочные иллюстрации. Нейросети могут создавать изображения с анатомическими недочетами или невнятными подписями.
Вымышленные данные. Также возможно появление несуществующих химических формул и неправильно выполненных расчетов.
Методы выявления подделок. Бороться с подделками помогает использование других ИИ. Например, существует программа для проверки текстов, выявляющая характерные стилистические ошибки, свойственные нейросетевым работам.
Нежелание проверяющих. Забавно, но некоторые рецензенты могут использовать ИИ при написании отзывов. Так, эколог Тимоти Пуазо поделился, что его работа была отрецензирована низкопробно, начиная с фразы: «Вот упрощенная версия вашего обзора с улучшенной ясностью».
Стандарты и рекомендации. Тем не менее, важно находить компромисс. Множество научных редакций готовят правила использования ИИ в публикациях, позволяя применять нейросети для улучшения языка, но не для полного написания работ.
Научному сообществу предстоит решить, либо установить четкие нормы, либо наблюдать за преобразованием научных публикаций в поток звучных, но бессмысленных текстов.
Источник: @hiaimedia
