Artificial Intelligence

На сайті Times Higher Education опубліковано статтю Сухюн Ан ««Чим краще я вдосконалював інструкції, тим краще вони працювали як промпти для ШІ»».

У ній викладач філософії та керівник курсу критичного мислення описує «парадокс ясності»: біль чіткі та зрозумілі інструкції до освітніх завдань і їхній покроковий опис, покликані допомогти студентам зрозуміти мету, послідовність дій та критерії успіху, але вони одночасно стають ідеальними промптами для великих мовних моделей.  Викладач завантажив одне зі своїх ретельно опрацьованих завдань у чат-бот і надав команду «виконуй», після чого вже через хвилину отримав роботу, яка за критеріями оцінювання набрала 48,5 з 50 балів. Після детальної перевірки посилань виявилися вигадані назви джерел і неробочі лінки, тож оцінка впала до 79 %. Хоча критеріям, які оцінюють зміст самого тексту (структура, зв’язність, стиль, пояснення), модель легко задовольняє. А ось критеріям, які перевіряють валідність — ні. Автор статті пропонує зосередитися на обґрунтованості тверджень: студент має навчитись думати, пояснювати, перевіряти висновки, наводити аргументацію власної позиції та демонструвати хибні висловлювання, згенеровані ШІ. Саме це піддається перевірці без будь-яких ШІ-детекторів. Робити завдання менш чіткими — помилка. Краще розділити два питання: як зробити завдання зрозумілим і як отримати достовірні докази того, що навчання відбулося. При кожному оцінюванні варто перевіряти: 1) когнітивну роботу, яку дійсно виконали студенти; 2) чи може ШІ виконати призначену роботу, чи для якісного результату необхідна людська участь; 3) як зміцнити зв’язок між отриманим результатом і самим студентом.

Детальніше: https://www.timeshighereducation.com/campus/more-i-improved-my-instructions-better-they-worked-ai-prompts

Фото: pixabay.com

#НРАТ_Усі_новини #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини #НРАТ_ШтучнийІнтелект #НРАТ_TimesHigherEducation

На сайті Times Higher Education опубліковано статтю Френсіс Джонс «Королівське товариство закликають оголосити надзвичайний стан через ШІ».

У ній обговорюється відкрите звернення до президента Королівського товариства Великої Британії, підписане 42-ма членами цієї наукової академії. Математики висловили «надзвичайне занепокоєння» темпами розвитку штучного інтелекту та можливими наслідками цього для цивілізації. Після оприлюднення листа кількість його підписантів зросла майже до 200. Вони закликають Королівське товариство публічно визнати ситуацію надзвичайною та використати свій авторитет, щоб донести цю оцінку до уряду й засобів масової інформації. Причина – нещодавні досягнення систем ШІ у розв’язанні складних математичних задач. У зверненні згадується результат моделі, розробленої OpenAI, пов’язаний із проблемою Нав’є-Стокса – однією з семи задач тисячоліття, над якою математики працюють близько 90 років. Автори листа стверджують, що моделі OpenAI та Anthropic уже демонструють рівень провідних математиків у багатьох напрямах цієї дисципліни. Є значна ймовірність, що за порівняно короткий час такі системи зможуть перевершити людські можливості. Швидке зростання ШІ в математиці дає підстави серйозно поставитися до ризиків в інших технологічних сферах – кібербезпеці, керуванні автономними системами озброєння, розробленні біологічних і хімічних агентів, а також цілеспрямоване поширення дезінформації. В цих галузях можливості систем ШІ розвиватимуться швидкими темпами, тому попередження про потенційну загрозу не можна відкидати як перебільшення. Керівник Anthropic Д. Амодей закликав уповільнити розвиток технології ШІ, зі схожими застереженнями виступили С. Альтман та І. Маск. Якщо суспільство усвідомить масштаб небезпеки лише тоді, коли її наслідки стануть очевидними для широкого загалу, можливість своєчасно відреагувати буде втрачена. Але у зверненні немає конкретного плану регулювання ШІ або пропозиції щодо запровадження мораторію на розвиток великих мовних моделей. Настав час перевести дискусію про ризики штучного інтелекту з площини окремих попереджень у сферу суспільного й політичного реагування.

Детальніше: https://www.timeshighereducation.com/news/royal-society-urged-declare-ai-emergency

Фото: pixabay.com

#НРАТ_Усі_новини #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини #НРАТ_ШтучнийІнтелект #НРАТ_TimesHigherEducation

На сайті Inside Higher Ed опубліковано статтю Кетрін Палмер «Провізор Дартмута під вогнем критики через його залежність від ШІ».

У ній  розглядається скандальна ситуація навколо керівника Дартмутського коледжу Сантьяго Шнелла, якого звинувачують у широкому використанні генеративного штучного інтелекту для написання професійних текстів, зокрема – гостьової колонки в The Washington Post. Студенти і частина викладачів вважають це порушенням, свідченням подвійних стандартів та вимагають його звільнення. У серпні цього року Шнелл опублікував у The Washington Post колонку, де закликав університети чітко розрізняти, коли студенти робити свою роботу самостійно, а коли – за допомогою ШІ. Невдовзі видання Semafor, використовуючи детектор Pangram, віднесло цю колонку до розряду текстів, які щонайменше на 80 % згенеровані ШІ (у випадку Шнелла цей показник становить 100 %). В якості пояснення Шнелл каже, що написав есе на основі власних міркувань, а ChatGPT використав, щоб уточнити окремі аргументи, перевірити граматику і підготувати текст до подання. Студентська газета The Dartmouth провела власне розслідування, яке встановило: дев’ять цьогорічних статей Шнелла (колонка в Post і дві академічні праці з математики) на 96 % написані ШІ, причому в листуванні з газетою також використовувався ШІ для генерації листів. Шнелл захищається: великі мовні моделі є «допоміжними інструментами», які «не визначають проблему, не проєктують дослідницький проєкт, не гарантують валідність результатів, інтерпретацій, цитувань чи висновків і не замінюють моє дослідження, інтелектуальне судження чи авторство». Дартмутський коледж  позиціонує себе як місце, де зародився термін «штучний інтелект», він активно просуває інтеграцію генеративного ШІ, закликає до ширшого використання технологій та розвиває партнерство з Anthropic і Amazon Web Services. Разом із тим, відповідно до кодексу честі Дартмута, студенти зобов’язані розкривати використання генеративного ШІ при виконанні освітніх завдань. Петиція місцевого осередку American Association of University Professors запитує: «Як ми можемо вимагати від студентів і колег дотримуватися правил, коли академічний лідер Дартмута має право їх порушувати?» та закликає усунути Шнелла з посади. Студент Елі Мойз у колонці для The Dartmouth назвав це «залежністю від ШІ» і вказав, що адміністрація надто зосереджена на технологічному хайпі. Опитування Inside Higher Ed серед академічних посадовців 2026 року показало: 65 % використовують ШІ для чернеток комунікацій, а 71 % застосовують у поточній роботі щонайменше щотижня. Консультантка з освітніх технологій Тонія Мінс зазначила, що потрібні чіткіші розрізнення між допомогою і заміною, а формулювання «використовувався ШІ» саме по собі мало що говорить про реальний внесок автора. Звісно, детектори ШІ не ідеальні та можуть давати хибнопозитивні результати. Дискусія про застосування штучного інтелекту в академічному житті та політиках університетів є набагато ширшою за історію в  Дартмуті, де гостро проявилось протиріччя між  прагненням освітнього закладу демонструвати відкритість до нових технологій і підтримувати академічну доброчесність.

Детальніше: https://www.insidehighered.com/news/governance/executive-leadership/2026/09/29/dartmouth-provosts-ai-dependency-sparks-backlash

Фото: pixabay.com

#НРАТ_Усі_новини #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини #НРАТ_ШтучнийІнтелект #НРАТ_TimesHigherEducation

На сайті Times Higher Education опубліковано статтю Еллі Джендл «Ми ставимо неправильне запитання про ШІ в дослідженнях».

У ній керівниця політики щодо журналів видавничої групи Springer Nature пропонує змістити увагу з питання, чи використовувався штучний інтелект під час дослідження або підготовки публікації, на те, як саме його застосовували, які ризики це створює та чи забезпечено належний людський контроль. На думку авторки, підходи, побудовані переважно на переліках дозволених і заборонених інструментів, швидко застарівають по мірі розвитку технологій. ШІ вже використовують для пошуку наукової літератури, аналізу даних, написання програмного коду, підготовки й редагування текстів. Проте різні способи його застосування мають різний рівень ризику. Допомога з перекладом, упорядкуванням інформації або читабельністю тексту не тотожна використанню ШІ для формування наукових інтерпретацій, оцінок чи рішень, які безпосередньо впливають на зміст дослідження. Відповідно, відрізнятися мають і заходи контролю. Однією з перешкод для відповідального використання технологій Джендл називає небажання дослідників повідомляти про застосування ШІ. Частина науковців побоюється, що таке розкриття інформації саме по собі викличе сумніви в якості їхньої роботи; інші не розуміють, коли й наскільки докладно потрібно декларувати використання ШІ-інструментів. У результаті суттєвий вплив штучного інтелекту на дослідницький процес може залишатися поза належною перевіркою. Автор наголошує на кількох основних принципах: відповідальності, прозорості, конфіденційності, редакційній незалежності та науковому судженні. Дослідники мають відповідати за точність і доброчесність своїх робіт, а редактори — за ухвалені редакційні рішення. Передавати цю відповідальність системам ШІ не можна. Водночас декларування використання технологій не повинно автоматично сприйматися як ознака порушення. Важливою умовою є узгодженість вимог до ШІ на різних етапах дослідницького процесу — від планування проєкту й подання заявки на фінансування до інституційної перевірки та публікації результатів. Якщо університети, фінансові установи, дослідники й видавці застосовуватимуть несумісні правила, науковцям буде складніше відкрито повідомляти про використання технологій і розуміти наслідки такого розкриття. Отже, неприйнятним є як безумовний дозвіл на використання ШІ, так і відмова від оцінювання конкретних ризиків його застосування. Необхідне прозоре декларування використання ШІ та збереження людської відповідальності. Для наукового видавництва ключовим стає не сам факт застосування цієї технології, а те, чи не підриває її використання достовірність дослідження, конфіденційність і незалежність наукового судження.

Детальніше: https://www.timeshighereducation.com/opinion/were-asking-wrong-question-about-ai-research  

Фото: pixabay.com

#НРАТ_Усі_новини #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини #НРАТ_ШтучнийІнтелект #НРАТ_TimesHigherEducation

На сайті Times Higher Education опубліковано статтю Розалінд Скіллен «Нові інструменти допомагають виявляти фальщовані зображення у наукових статтях».

У ній розглядаються можливості нових цифрових інструментів для виявлення підроблених, змінених або повторно використаних зображень у наукових публікаціях. Проблема стає все більш актуальною  через поширення генеративного штучного інтелекту, здатного створювати переконливі зображення, які можуть видаватися за результати реальних експериментів. Мікробіолог і консультант з питань наукової доброчесності Елізабет Бік, яка раніше виявляла підозрілі зображення переважно вручну, нині використовує  інструменти ImageTwin і Proofig. Вони дозволяють проаналізувати зображення, представлені у наукових статтях і порівнюють їх із базами, що містять мільйони раніше опублікованих зображень. Це допомагає знаходити повторне використання матеріалів й виявляти дублювання окремих елементів, які можуть залишитися непоміченими під час звичайної перевірки. Однак виявлення зображень, створених генеративним ШІ, залишається дуже складним завданням. Після публікації зображення часто стискають, через що втрачаються деталі, важливі для цифрової експертизи. Крім того, автоматичні системи можуть помилково позначати старі зображення низької контрастності або не виявляти штучно створені матеріали. Ситуацію ускладнює й часткове використання ШІ: наприклад, фотографія може бути справжньою, але окремий об’єкт або фрагмент фону в ній — згенерованим. Наразі дослідницька група під керівництвом професора Хайхун Е з Пекінського університету пошти та телекомунікацій розробляє інструменти для виявлення маніпуляцій із науковими зображеннями. Моделі навчають на прикладах наборів даних, а нові випадки підробок використовують для їх оновлення. Результати автоматичного аналізу зіставляються з оцінками фахівців. Такі інструменти можуть стати у нагоді для визначення випадків, що потребують додаткової перевірки, але жодним чином  не як остаточний доказ порушення. Виявлення використання ШІ не тотожне виявленню шахрайства: розкрито створена ШІ-ілюстрація може бути цілком прийнятною, тоді як традиційно відредаговане зображення здатне істотно спотворювати результати дослідження. Отже, автоматизована перевірка розширює можливості редакторів і дослідників знаходити підозрілі зображення, але не замінює експертного аналізу. Для встановлення достовірності важливо перевіряти походження зображення, історію його обробки та відповідність наведених матеріалів реальному перебігу дослідження. Сам алгоритмічний сигнал не може бути достатньою підставою для звинувачення в науковому шахрайстві.

Детальніше: https://www.timeshighereducation.com/news/new-tools-help-detect-fraudulent-images-scientific-papers

Фото: pixabay.com

#НРАТ_Усі_новини #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини #НРАТ_ШтучнийІнтелект #НРАТ_TimesHigherEducation