Про це повідомляє “Kreschatic” з посиланням на The Conversation
У найближчі роки штучний інтелект отримає здатність автоматично перевіряти достовірність наукових статей, і це суттєво змінить підхід до контролю наукових публікацій. Під тиском зростаючої кількості публікацій, появи “фабрик наукових робіт” і корпоративного впливу, зростає потреба у глобальному аудиті наукової інформації. Нові AI-системи зможуть виявляти фальсифікації, маніпуляції та навіть математичні помилки у дослідженнях, які раніше залишались поза увагою рецензентів.
Наразі існують лише фрагментарні ініціативи, спрямовані на виявлення помилок у публікаціях, як-от спільноти ретракцій чи платформи з аналізу цитувань. Але вони не здатні охопити весь обсяг світової наукової продукції. Саме тут AI обіцяє стати ефективним інструментом, що забезпечить масштабний аналіз, пришвидшить виявлення недостовірних даних і змінить правила гри в науці.
Помилки, які пропускає традиційна система рецензування
Рецензування наукових робіт залишається головним бар’єром на шляху публікації сумнівних досліджень, однак ця система має обмеження. Через високий тиск на вчених, кількість наукових журналів зростає, а якість перевірки падає. У гру вступають комерційні інтереси, що дозволяє компаніям просувати слабкі або упереджені дослідження через псевдонаукові канали.
Крім цього, останні розслідування демонструють, що навіть авторитетні публікації можуть бути написані сторонніми авторами в інтересах бізнесу. Приклади подібних практик вже були виявлені у сферах фармацевтики та агрохімії. Такі випадки не лише формують хибну наукову базу, а й стають елементами маніпуляції громадською думкою.
Як працює штучний інтелект у виявленні фальсифікацій
Сучасні AI-сервіси вже використовуються для виявлення плагіату, маніпуляцій з ілюстраціями та неприродних фраз, характерних для автоматично згенерованих текстів. Залучення машинного навчання дозволяє проводити сканування мільйонів публікацій на наявність шаблонів, типових для наукових фабрик або навмисної дезінформації.
Нові технології також можуть виявляти помилки в логіці математичних доведень, що не під силу навіть досвідченим рецензентам. Деякі ініціативи вже тестують системи, здатні масштабно перевіряти формули та статистичні викладки, виявляючи невідповідності або навмисні спрощення.
Зміна сприйняття науки широкою аудиторією
Попри користь від перевірок, результати таких аудитів можуть бути використані в антинаукових кампаніях. Громадськість часто не відрізняє випадкові помилки від навмисного обману. Знайдені AI-проблеми в дослідженнях можуть бути інтерпретовані як доказ недієздатності наукової спільноти, навіть якщо це частина здорового самоконтролю.
Особливо небезпечним є використання цих висновків у дезінформаційних стратегіях, які підривають авторитет науки. У такому випадку навіть об’єктивний аудит може слугувати аргументом у спробах делегітимізації науки як джерела знань і доказів.
Переосмислення ролі науковця та публікацій
Щоб уникнути криз довіри, науковій спільноті необхідно змінити підхід до комунікації своєї роботи. Потрібно відкрито визнавати, що більшість наукових праць — це не прориви, а рутинна і поступова робота. Акцент варто зміщувати з гучних відкриттів на системну побудову знань.
Більше того, переоцінка критеріїв успішності у науці дозволить знизити тиск, який спонукає до перебільшення результатів. Така зміна може стати запорукою стійкості наукової системи до майбутніх перевірок і зменшити ризик втрати довіри з боку суспільства.
Нагадаємо, раніше ми писали про майбутнє роботи в епоху штучного інтелекту.
