Як повідомляє The Conversation, неконтрольоване зростання обсягів текстів, створених штучним інтелектом, почало завдавати шкоди науковому середовищу. Алгоритми масово генерують публікації з неправдивими фактами, підробленими джерелами та псевдонауковими термінами. У результаті наукові бази заповнюються інформаційним шумом, який складно відрізнити від справжніх досліджень, пише Kreschatic.
Дослідники попереджають, що така «гіперпродукція» може знизити довіру до наукових видань, ускладнити рецензування та викривити статистику цитувань. Усе це загрожує фундаментальним принципам науки — перевірці, точності та об’єктивності.
Потік неякісних публікацій
З появою потужних мовних моделей кількість наукових текстів зросла у десятки разів. Проте значна частина з них — це автоматично створені статті, які не проходять реального рецензування. Такі матеріали часто містять помилки, вигадані цитати й некоректні висновки.
«Штучний інтелект може створювати тексти, які виглядають правдоподібно, але не мають жодного наукового змісту», — зазначають автори матеріалу.
Деякі журнали вже фіксують зростання кількості відхилених публікацій через використання штучного інтелекту без верифікації даних.
Вплив на рецензентів і наукові бази
Проблема ускладнюється тим, що автоматично створені тексти потрапляють у системи наукового пошуку та бази цитувань. Це створює ілюзію активності, але фактично знижує якість наукового обігу.
«Коли AI-контент змішується з реальними дослідженнями, відрізнити достовірне від фальшивого стає майже неможливо», — заявляють експерти у The Conversation.
Рецензенти витрачають дедалі більше часу на перевірку достовірності джерел, а це гальмує процес публікації справжніх робіт.
Етичні ризики та підміна авторства
Штучний інтелект не лише генерує контент, а й ставить під сумнів саме поняття авторства. У багатьох випадках наукові статті створюються з мінімальним втручанням людини, що порушує етичні норми академічного письма.
«Ми стоїмо перед ризиком, коли “наукова література” перетворюється на потік автоматизованих текстів без людської відповідальності», — йдеться у статті.
Відсутність прозорості щодо використання AI-інструментів робить науку вразливою до маніпуляцій і фальсифікацій.
Як захистити науку від інформаційного шуму
Експерти пропонують кілька способів боротьби з проблемою. Серед них: запровадження обов’язкової перевірки текстів на використання AI, посилення контролю за публікаціями та створення маркерів прозорості.
Також пропонують навчати дослідників етичному використанню штучного інтелекту — не як інструменту для підміни мислення, а як допоміжного засобу для аналізу.
«Якщо не розробити чіткі правила зараз, ми ризикуємо втратити довіру до всієї системи наукових знань», — попереджають автори дослідження.
Нагадаємо, раніше ми писали про те, як настільна гра S.T.A.L.K.E.R. отримала українську локалізацію та стартувала у передзамовленні.
