Фальшивые научные публикации: на помощь ученым пришел неожиданный союзник
Ученые из Колорадского университета в Боулдере создали инновационную систему на базе искусственного интеллекта, предназначенную для выявления ненадежных научных изданий.
Это исследование, вышедшее 27 августа в журнале Science Advances, поднимает важный вопрос о качестве научных публикаций в современном мире.
Даниэль Акунья, доцент компьютерных наук и ведущий автор работы, часто сталкивается с нежелательными предложениями от малоизвестных журналов, которые требуют плату за публикацию без реальной проверки материалов. Такие издания известны как "хищнические" и могут вводить в заблуждение исследователей, предлагая быструю, но сомнительную видимость.
Акунья отметил, что борьба с ними похожа на игру в "Ударь крота": как только одно издание разоблачается, на его месте появляется новое под другим именем. Чтобы упростить этот процесс, команда разработала ИИ-инструмент, который анализирует веб-сайты журналов по ряду показателей, таких как наличие квалифицированной редакционной коллегии и уровень грамматических ошибок.
Хотя система не лишена недостатков и не может полностью заменить человеческий контроль, она помогает в предварительной оценке тысяч изданий. В эпоху, когда доверие к науке подрывается различными силами, timely вмешательство становится критически важным, подчеркивает Акунья, так как ненадежные данные могут подорвать фундамент научных знаний.
Проблема "хищнических" журналов не нова: термин ввел библиотекарь Джеффри Бил в 2009 году. Эти издания часто целят в ученых из развивающихся стран, где давление на публикации велико, и предлагают услуги без реального рецензирования. Организации вроде Directory of Open Access Journals (DOAJ) уже пытаются бороться с этим, но ручной подход не поспевает за ростом проблемы.
Команда Акуньи обучила ИИ на данных DOAJ и применила его к списку из почти 15 200 журналов с открытым доступом. Алгоритм выделил более 1400 потенциально проблемных случаев, из которых эксперты подтвердили около 1000. Ошибки были, но инструмент доказал свою полезность как вспомогательное средство.
Разработчики подчеркивают прозрачность системы, в отличие от некоторых "черных ящиков" вроде ChatGPT. Они выявили закономерности, такие как чрезмерное самоссылкание авторов или необычное количество публикаций, которые указывают на ненадежность.
Система пока не доступна для широкого использования, но ученые планируют предоставить ее университетам и издателям. Акунья сравнил это с обновлениями смартфонов: как и в технологиях, в науке стоит ожидать и исправлять ошибки со временем. Такой подход может стать "защитным барьером" для научного сообщества, предотвращая распространение дезинформации.
Уточнения
Иску́сственный интелле́кт или ИИ, Искусственный разум (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.