На сайті Times Higher Education опубліковано статтю Девіда Джойнера «Від колапсу моделей до колапсу цитування: ризики надмірної залежності від ШІ в академічному середовищі».
У ній автор розглядає потенційні негативні наслідки, які можуть виникати у науковій роботі через надмірну довіру до генеративного штучного інтелекту при написанні оглядів літератури та пошуку джерел для досліджень. Явище, відоме як колапс, характерне для генеративних моделей штучного інтелекту, коли вони дедалі частіше навчаються на власних матеріалах замість людських даних. Це призводить до втрати різноманітності відповідей, посилення помилок, упереджень і зниження якості генерації. Дослідники пишуть огляди літератури, причому дедалі частіше користуються сучасними інструментами штучного інтелекту, які знаходять джерела із великою кількістю цитувань, пропонувати передусім саме їх. У результаті посилюється так званий «ефект Матфея», коли вже відомі й цитовані роботи отримують ще більше уваги, незалежно від їхньої актуальності чи новизни. Як наслідок, посилюється ризик, що наукові огляди дедалі більше будуть спиратись на роботи, які були популярними на момент створення вихідних даних моделей (зазвичай це матеріали до 2022 року), і менше будуть враховувати сучасні відкриття та нові підходи. Це може призвести до «колапсу цитування» — ситуації, коли літературні огляди дедалі частіше посилаються на старі та широко цитовані джерела, створюючи замкнений цикл, який стримує розвиток нових ідей. Автор підкреслює, що контроль дослідника у цьому процесі є критично важливим: роль людини полягає не в тому, щоб просто приймати перші результати, які пропонує штучний інтелект, а фільтрувати їх, критично оцінювати їхню релевантність, перевіряти, піддавати сумніву, залучати нові публікації. Це стає важливою умовою для підтримки динамічного розвитку науки, а не застою в рамках минулого. Також автор звертає увагу на роль журнального рецензування і академічних видань у протидії цим трендам. Він наголошує, що процеси рецензування мають заохочувати використання актуальних і значущих джерел, а не лише покладатися на автоматизовані пошукові стратегії. Науковці можуть уникнути ситуації, коли надмірна залежність від технологій штучного інтелекту призводить не до розширення знань, а до закріплення домінування усталених джерел, що може гальмувати інновації і формування нових теоретичних підходів у науці.
Детальніше: https://qrpage.net/qr/YBgYT
Фото: pixabay.com
#НРАТ_Усі_новини #НРАТ_ШтучнийІнтелект #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини #НРАТ_Бібліотекарям #НРАТ_TimesHigherEducation
