Как научните измами се превърнаха в индустрия

Мислите, че всички научни изследвания са легитимни, защото са публикувани в рецензирано списание? За съжаление, това не е така.

Фалшивата наука вече е индустрия – фабрики за статии, хищническите списания и издателските брокери произвеждат фалшиви изследвания в индустриален мащаб, затлачвайки системите за експертна оценка.

Генеративният изкуствен интелект засилва проблема, спомагайки масово производство на статии с изфабрикувани данни, плагиатство и скрити манипулации, които заблуждават автоматизираните инструменти за преглед.

Оттеглянето на партиди статии се увеличава рязко, което сигнализира за системна корупция. Решаването на този проблем изисква реформиране на стимулите в академичните среди и засилване на предпазните мерки, преди измамната работа да засенчи легитимната наука.

Изследователите се сблъскват с тревожна тенденция, която заплашва основите на научния прогрес: научните измами са се превърнали в индустрия. И тя расте по-бързо, отколкото легитимните рецензирани научни списания могат да се справят.

Вече не става въпрос за отделни злонамерени лица. Свидетели сме на появата на организиран, систематичен подход към научните измами. Това включва фабрики за статии, бълващи формулирани изследователски статии, брокерски къщи, гарантиращи публикуване срещу заплащане, и хищнически списания, които напълно заобикалят осигуряването на качество.

Тези организации се прикриват зад респектиращо звучащи етикети като "редакционни услуги" или "академични консултанти". Всъщност техният бизнес модел зависи от корумпирането на научния процес.

Фабриките за статии функционират като ферми за съдържание, заливайки списания с материали, за да претоварят системите за рецензиране (peer review). Те практикуват таргетиране на списания, изпращайки множество статии до едно издание, или изпращайки една и съща статия до множество издания едновременно. Това е игра на количество. Дори и малка част от тях да се промъкне, измамната услуга печели.

Дали учените са просто мързеливи? Отговорът е по-сложен и обезпокоителен. Днешните изследователи са изправени пред ограничения, които правят тези измамни услуги все по-примамливи. Натискът непрекъснато да се правят нови изследвания или да се рискува намаляване на финансирането, наречен култура на "публикувай или умри", е дългогодишен проблем.

Освен това, правителствата по света са изправени пред финансови затруднения и се стремят да намалят разходите, което води до по-малко финансиране за научни изследвания. По-малкото финансиране означава засилена конкуренция.

Това създава ситуация "параграф 22" за изследователите, които се нуждаят от публикации, за да спечелят финансиране, но се нуждаят от финансиране, за да провеждат публикувани изследвания. Факторите на средата утежняват проблема. Глобализацията означава, че отделните изследователи се губят в океан от конкуриращи се гласове, което прави изкушението да се манипулира системата още по-силно.

В тази среда обещанието за гарантирано публикуване може да изглежда по-скоро като спасителен пояс, отколкото като сделка с дявола.

Изкуствен интелект: Бързина на каква цена?

Възходът на генеративния изкуствен интелект дава нов тласък на тази индустрия за измами. Свидетели сме на бум на научни статии, които изглежда използват софтуер за изкуствен интелект, за да създават статии с безпрецедентна скорост. Тези статии анализират публични масиви от данни, които предлагат повърхностни доказателства. Тези набързо генерирани статии носят отличителни белези на производствен процес в фабрика за статии, включително фабрикуване на доказателства, манипулиране на данни, етични нарушения и откровено плагиатство.

Някога рецензентът е получавал десет публикации за конференция или списание годишно, сега той се дави в 30 или 40 публикации с по-кратък срок (шест месеца или по-малко), като легитимните изследвания се затрупват от лавината.

Претоварените рецензенти, от своя страна, са изкушени да използват инструменти с изкуствен интелект, за да обобщават статии, да идентифицират пропуски в доказателствата и дори да пишат отговори на рецензии. Това създава надпревара във въоръжаването. Някои изследователи са започнали да вграждат скрит текст в своите материали, като например бял текст на бял фон или микроскопични шрифтове, съдържащи инструкции за отмяна на подсказките за изкуствения интелект и даване на положителни рецензии на статията.

Системата за експертно оценяване, предпазната мярка на академичните среди срещу измами, е изправена пред свои собствени проблеми. Въпреки че е предназначена да гарантира качество, тя е бавен процес, при който новите идеи се нуждаят от внимателно проучване и тестване. Историята ни напомня, че експертното оценяване е важно, но несъвършено. Алберт Айнщайн го е мразел.

Тъй като процесът е бавен, много изследователи споделят своите открития първо на платформи за предварително публикуване, където работата може да бъде споделена незабавно. Докато изследването достигне до легитимна научна конференция или списание, нерецензираните публикации вече се разпространяват по света. Изчакването на процеса на рецензиране означава, че изследователят рискува да не получи признание за своето откритие.

Натискът да бъдеш първи не се е променил, откакто Исак Нютон оставя откритието си в математическия анализ да остане непубликувано, докато Готфрид Лайбниц обира овациите. Това, което се е променило, е мащабът и систематизирането на преките пътища.

Увеличаването на броя на оттеглянията на множество публикации (десет или повече публикации едновременно оттеглени) сигнализира, че не става въпрос за изолирани инциденти, а за проблем от индустриален мащаб. През 90-те години на миналия век почти нямаше оттегляния на множество публикации. През 2020 г. те са около 3000, а през 2023 г. - над 6000.

За сравнение, през 2023 г. е имало 2000 оттегляния на единични статии. Това означава, че груповите оттегляния на повече от десет статии са били три пъти по-високи от оттеглянията на единични статии.

Какво ни чака

Ако става въпрос само за отстраняване на неетичните учени, системите, които са налице, може би щяха да са достатъчни. Но сме изправени пред мрежата от проверки и баланси, която кара науката да функционира. Когато измамните публикации растат по-бързо от легитимната наука и когато генерираното от изкуствен интелект съдържание превишава капацитета на човешкия контрол, се нуждаем от по-добри решения.

Научната общност трябва да се съобрази с това как нейните собствени структури – показателите за публикации, механизмите за финансиране и стимулите за кариера – са създали уязвимости, които неетичните системи могат да използват.

Докато не се справим с тези системни проблеми, индустрията за измами ще процъфтява, подкопавайки науката, която прави нашия свят по-безопасен, по-чист и по-достъпен. Въпросът не е дали можем да си позволим да поправим тази система, а дали можем да си позволим да не го направим.

Авторът Оуен Бриърли (Owen Brierley) е ръководител на курс в катедра "Творчески индустрии" в университета Кингстън. Той не работи, не консултира, не притежава акции и не получава финансиране от никоя компания или организация, която би могла да се възползва от тази статия, и не е разкрил никакви съответни връзки извън академичната си позиция.

Тази статия е препубликувана от The Conversation под лиценз Creative Commons. Прочетете оригиналната статия.

Още по темата

15/08/2025

Космос

Анализ на спекулациите в астробиологията, изкуствено повишаващи очакванията за живот на екзопланети

08/07/2025

Човекът

Мащабно проучване открива следи от изкуствен интелект в милиони научни статии

11/08/2022

Човекът

Пристрастия и фалшиви резултати в невронауката

20/08/2019

Животът

15 научни статии са оттеглени заради опасения, че са използвани органи на китайски затворници