На сайті Times Higher Education опубліковано статтю Розалінд Скіллен «Нові інструменти допомагають виявляти фальщовані зображення у наукових статтях».
У ній розглядаються можливості нових цифрових інструментів для виявлення підроблених, змінених або повторно використаних зображень у наукових публікаціях. Проблема стає все більш актуальною через поширення генеративного штучного інтелекту, здатного створювати переконливі зображення, які можуть видаватися за результати реальних експериментів. Мікробіолог і консультант з питань наукової доброчесності Елізабет Бік, яка раніше виявляла підозрілі зображення переважно вручну, нині використовує інструменти ImageTwin і Proofig. Вони дозволяють проаналізувати зображення, представлені у наукових статтях і порівнюють їх із базами, що містять мільйони раніше опублікованих зображень. Це допомагає знаходити повторне використання матеріалів й виявляти дублювання окремих елементів, які можуть залишитися непоміченими під час звичайної перевірки. Однак виявлення зображень, створених генеративним ШІ, залишається дуже складним завданням. Після публікації зображення часто стискають, через що втрачаються деталі, важливі для цифрової експертизи. Крім того, автоматичні системи можуть помилково позначати старі зображення низької контрастності або не виявляти штучно створені матеріали. Ситуацію ускладнює й часткове використання ШІ: наприклад, фотографія може бути справжньою, але окремий об’єкт або фрагмент фону в ній — згенерованим. Наразі дослідницька група під керівництвом професора Хайхун Е з Пекінського університету пошти та телекомунікацій розробляє інструменти для виявлення маніпуляцій із науковими зображеннями. Моделі навчають на прикладах наборів даних, а нові випадки підробок використовують для їх оновлення. Результати автоматичного аналізу зіставляються з оцінками фахівців. Такі інструменти можуть стати у нагоді для визначення випадків, що потребують додаткової перевірки, але жодним чином не як остаточний доказ порушення. Виявлення використання ШІ не тотожне виявленню шахрайства: розкрито створена ШІ-ілюстрація може бути цілком прийнятною, тоді як традиційно відредаговане зображення здатне істотно спотворювати результати дослідження. Отже, автоматизована перевірка розширює можливості редакторів і дослідників знаходити підозрілі зображення, але не замінює експертного аналізу. Для встановлення достовірності важливо перевіряти походження зображення, історію його обробки та відповідність наведених матеріалів реальному перебігу дослідження. Сам алгоритмічний сигнал не може бути достатньою підставою для звинувачення в науковому шахрайстві.
Детальніше: https://www.timeshighereducation.com/news/new-tools-help-detect-fraudulent-images-scientific-papers
Фото: pixabay.com
#НРАТ_Усі_новини #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини #НРАТ_ШтучнийІнтелект #НРАТ_TimesHigherEducation
