Когда появились языковые модели, многие ожидали идеального помощника: машина без усталости, эмоций и человеческих ошибок. Такой цифровой библиотекарь, который найдёт нужную работу за секунды, проверит источники и аккуратно соберёт знания человечества в один понятный ответ.
Похоже, где-то по дороге библиотекарь решил попробовать себя в жанре фантастики.
Новое исследование, опубликованное на сервере препринтов arXiv, показало тревожную тенденцию: только за 2025 год в научных публикациях могло появиться около 146 тысяч фиктивных ссылок — исследований, которых никогда не существовало. Не ошибочных. Не спорных. Просто выдуманных.
Исследователи проанализировали 111 миллионов цитирований из 2,5 миллиона научных работ, размещённых в крупных научных базах. Результат оказался неприятным: после массового распространения генеративного ИИ число «галлюцинированных» ссылок резко выросло, особенно с середины 2024 года.
Проблема в том, что современные модели ошибаются слишком убедительно. Они умеют создавать правдоподобные названия статей, фамилии авторов, журналы публикаций и даже DOI. Всё выглядит как настоящее научное исследование — пока кто-нибудь не попробует его найти.
Иногда DOI существует. Только ведёт совсем к другой работе.
И здесь начинается самое интересное.
Наука десятилетиями строилась вокруг принципа проверки: любое утверждение должно опираться на источник, который можно открыть, прочитать и перепроверить. Цитирование — это не бюрократия и не украшение списка литературы. Это система доверия. Если ссылка ломается, трещина проходит глубже — по механизму воспроизводимости знаний.
Авторы исследования подчёркивают: речь уже не о единичных случаях. Чаще всего фиктивные ссылки встречались у молодых исследователей и небольших научных групп, активно использующих ИИ при подготовке материалов. Вероятно, не всегда из злого умысла. Скорее из-за привычного человеческого желания ускориться.
Потому что дедлайн завтра. Публикации нужны сегодня. А чат-бот отвечает уверенно.
Любопытное наблюдение: люди обычно сильнее доверяют ошибке, если она оформлена профессионально. Аккуратная таблица, сложная терминология, ссылка на журнал — и мозг перестаёт задавать лишние вопросы. ИИ неожиданно оказался мастером именно такой упаковки.
Вторая деталь ещё неприятнее. Ложные ссылки начинают жить собственной жизнью. Один автор процитировал несуществующее исследование. Второй сослался на первого. Третий включил оба материала в обзор. Через несколько лет фантазия превращается в академический «факт», происхождение которого уже никто не проверяет.
Особое беспокойство вызывает медицина. Отдельная проверка выявила около 3000 медицинских публикаций с фиктивными ссылками. Некоторые работы уже используются при подготовке обзоров и рекомендаций. Если ошибка попадёт в клинические решения — последствия выйдут далеко за пределы университетов.
На этом фоне arXiv ужесточает правила: за публикацию материалов с очевидными ИИ-галлюцинациями авторы могут получить годичный бан.
Но ограничения — лишь временная заплатка.
Похоже, наука входит в эпоху, когда проверять придётся не только выводы исследования, но и сам факт существования исследования. Ирония почти литературная: хотели создать машину, опирающуюся на данные и факты, а получили очень убедительного фантазёра. С отличным оформлением библиографии.
Вывод здесь неприятно простой. Кризис доверия начинается не тогда, когда появляются ложные ответы. Он начинается тогда, когда ложные ответы выглядят профессиональнее настоящих.
#искусственныйинтеллект #ChatGPT #наука #исследования #ИИ #arXiv #технологии #научныестатьи #галлюцинацииИИ #медицина #нейросети #образование #цифровыериски #научнаяэтика #инновации
