Исследование Nature: нейросети всё чаще создают фейковые ссылки в научных статьях

 

Искусственный интеллект активно используют при написании научных текстов, однако вместе с этим растёт и новая проблема: в публикациях всё чаще появляются ссылки на исследования, которых в реальности не существует. По данным исследования журнала Nature, в 65% проверенных научных статей обнаружили хотя бы одну недостоверную или полностью вымышленную ссылку.

Исследование проводилось совместно с Grounded AI
. Учёные проанализировали более 4000 научных публикаций, выпущенных в 2025 году крупными издательствами. Сначала специальная система отметила материалы с подозрительными источниками, а затем эксперты вручную проверили часть работ. Выяснилось, что многие упомянутые статьи отсутствуют в научных базах данных и никогда не публиковались.

Одной из главных причин называют использование нейросетей при подготовке материалов. ИИ способен генерировать ссылки автоматически, чтобы текст выглядел убедительным и академически оформленным. Такие ошибки сложно заметить сразу: вымышленные источники часто выглядят максимально реалистично и содержат привычные элементы научного описания — названия работ, имена авторов и номера публикаций.

Для дополнительной проверки исследователи протестировали модель GPT-4o, попросив её подготовить несколько научных обзоров. Результаты показали, что почти 20% ссылок оказались полностью выдуманными, а ещё около 45% реальных источников содержали серьёзные ошибки — например, неверные DOI или неточные библиографические данные.

По словам авторов исследования, проблема уже затрагивает десятки тысяч научных публикаций. Это усложняет проверку информации, снижает доверие к научным журналам и способствует распространению ошибок в последующих исследованиях. Редакция Nature призывает авторов внимательнее проверять списки литературы, а издательства — усиливать редакторскую и рецензентскую проверку материалов, созданных с использованием ИИ.