На сайті Times Higher Education опубліковано статтю Цзе Чжана, Лілі Цзю та Ї Ло «Запобіжники проти галюцинацій генеративного штучного інтелекту під час підготовки оглядів літератури».
У ній розглядаються практичні підходи до відповідального використання генеративного штучного інтелекту при підготовці наукових оглядів без ризику втрати достовірності, відтворюваності та академічної доброчесності. Автори зазначають, що ГШІ дедалі активніше використовується дослідниками для пошуку наукових праць, ознайомлення з новими предметними галузями, узагальнення змісту публікацій й підготовки оглядів літератури. Водночас одним із найсерйозніших ризиків залишається так звана «галюцинація» — ситуація, коли система створює переконливі, але неіснуючі бібліографічні посилання, придумані цитати або наукові твердження, які є нісенітницею. При складанні огляду літератури, який має ґрунтуватися виключно на перевірених джерелах, це підіриває довіру до результатів дослідження. Перший спосіб запобігання галюцинацій – грамотне формулювання запитів до моделі. У такому запиті слід прямо визначати, що точність важливіша за повноту відповіді. Генеративний ШІ має посилатися лише на ті публікації, існування яких він може впевнено підтвердити, а у випадках невизначеності — повідомляти про це, а не вигадувати відсутні відомості. Особливу увагу рекомендується приділяти наданню повних бібліографічних описів, цифрових ідентифікаторів DOI, дослівних цитат із зазначенням сторінок або розділів, а також обмежувати пошук статтями, індексованими у Web of Science або Scopus. Після отримання відповіді всі запропоновані джерела необхідно самостійно перевіряти. Другий спосіб – розширення набору ключових слів. У різних наукових дисциплінах близькі за змістом явища можуть бути описані різною термінологією, отже при розумному поводженні людини ГШІ може допомогти виявити альтернативні назви понять, споріднені концепції та різні варіанти професійної лексики. Проте безпосередній пошук публікацій рекомендується здійснювати вже у спеціалізованих наукометричних базах даних, таких як Google Scholar, Scopus або Web of Science. Окрему увагу приділено академічним інструментам штучного інтелекту, які працюють на основі перевірених наукових баз даних. Платформи Elicit і Consensus поєднують можливості генеративного ШІ з доступом до реальних наукових публікацій. Такі системи допомагають знаходити релевантні дослідження, аналізувати методологічні підходи й узагальнювати результати, не втрачаючи зв’язку з першоджерелами. Ще одним гарним способом перевірки є інструменти візуалізації наукової літератури, зокрема Connected Papers і ResearchRabbit. Вони відображають публікації у вигляді мережі взаємопов’язаних досліджень, побудованої на основі реальних цитувань. Такий підхід допомагає визначити фундаментальні праці певної галузі, простежити розвиток наукових ідей та переконатися, що всі використані джерела представлені в реальному академічному інформаційному просторі. Використання ГШІ – це послідовний багатоступеневий процес: спочатку модель може допомогти сформувати систему ключових слів, потім дослідник виконує пошук у наукових базах даних, після цього аналізує взаємозв’язки між публікаціями за допомогою засобів візуалізації, а вже на завершальному етапі використовує інструменти ГШІ для узагальнення відібраних матеріалів. Саме така організація роботи, на думку авторів, є найбільш ефективною. Слід пам’ятати, що інструменти штучного інтелекту можуть суттєво прискорити наукову роботу, однак не мають повністю замінювати людську працю. Достовірність дослідження визначається не можливостями цифрових інструментів, а здатністю дослідника критично оцінювати інформацію та спиратися на верифіковані наукові докази.
Детальніше: https://www.timeshighereducation.com/campus/safeguards-against-genai-hallucination-literature-reviews
Фото: pixabay.com
#НРАТ_Усі_новини #НРАТ_TimesHigherEducation #НРАТ_ШтучнийІнтелект #НРАТ_ВідкритаНаука #НРАТ_ВідкритіДані #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини #НРАТ_НауковіВидання_новини #НРАТ_Бібліотекарям
