ЧОМУ ПІДРОБЛЕНІ СТАТТІ, СТВОРЕНІ ЗА ДОПОМОГОЮ ШІ, СТАНОВЛЯТЬ ЗАГРОЗУ ДЛЯ АКАДЕМІЧНИХ ПУБЛІКАЦІЙ
На сайті Times Higher Education опублікована стаття Сонджина Хонга «Підроблені статті, створені за допомогою штучного інтелекту, становлять нову загрозу для академічних публікацій».
У ній автор зазначає, що як редактор, він отримує від «підставних авторів» підроблені статті, що складаються з раніше опублікованих ними, текст яких змінено за допомогою ШІ. Сонджин задається питанням, чому це відбувається, а також ділиться своїми міркуваннями. За останні місяці йому довелося працювати з 20-ма рукописами, які на перший погляд були схожі на нові дослідження, але при детальному розгляді виявилися раніше опублікованими роботами, переписаними за допомогою ШІ. Структура, методи і навіть малюнки та таблиці були практично ідентичні оригіналам, але при цьому статті мають аномально низькі показники схожості тексту. У той час як справжні рукописи зазвичай показують близько 10-15% схожості в iThenticate, ці підробки показують лише близько 2-5%, ніби вони були навмисно створені для того, щоб уникнути детекції зловживань. Такі низькі оцінки, як правило, пояснюються розпливчастими формулюваннями, згенерованими ШІ, в яких загальноприйняті наукові терміни замінені менш точними виразами. Більше того, багато посилань, схоже, вставлені випадковим чином, а деякі взагалі не мають відношення до теми дослідження. Іноді статті приписуються неіснуючій людині із зазначенням афіліації відомого університету. І це не помилки через необережність, а навмисні дії. Але навіщо такій людині відправляти до журналу роботу під вигаданим ім’ям? Чим це йому допоможе? Це може бути скоординованою спробою наповнити журнали дезінформацією та псевдонауковими даними, посіяти плутанину і підірвати довіру до певних галузей знань або видавництв. Можливо, таким чином розробники програм на основі ШІ перевіряють їхню ефективність: чи зможе ШІ обдурити редакторів і рецензентів журналів, змусивши їх повірити, що стаття нова і справжня? Якщо рукопис складений з фрагментів декількох статей або оглядова стаття складена шляхом змішування матеріалів з десятків джерел, виявлення порушень стає набагато складнішим. Редактори та рецензенти володіють навичками оцінки наукової якості рукописів, а не виявлення фальшивок, створених штучним інтелектом. І без відповідної підготовки їм буде непросто, особливо в умовах високого редакційного навантаження та відсутності глибоких знань по темах, що розглядаються. Сонджин вважає, що редакторам потрібна допомога: упровадження більш ефективних інструментів для відсіювання рукописів на етапі подання робіт, включаючи інструменти визначення авторства та «чорні» списки відомих шахраїв, процедури перевірки осіб, (наприклад, запит ідентифікаторів ORCID), поліпшення навичок розпізнавання «тривожних сигналів». Підвищення обізнаності про підтверджені випадки шахрайства з використанням ШІ та активний обмін інформацією між редакторами, рецензентами й дослідниками матимуть вирішальне значення для формування культури протидії підриву основ наукової довіри.
Детальніше: https://qrpage.net/qr/FEUyI
Фото: pixabay.com
#НРАТ_Усі_новини #НРАТ_ШтучнийІнтелект #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини #НРАТ_НауковіВидання_новини
