Штучний інтелект Архіви

ДЕТЕКТОРИ ТЕКСТУ ШІ НЕ ПРАЦЮЮТЬ

На сайті Times Higher Education опублікована стаття Тома Вільямса «Детектори тексту ШІ не працюють.

Чи є регулювання відповіддю?». Автор розмірковує над питанням: оскільки інструменти, розроблені для викорінення неправомірних дій з інструментами ШІ виявились неточними, чи потрібно більш суворе регулювання використання генеративного штучного інтелекту в академічному середовищі? З появою ШІ університети в усьому світі підтримали використання відповідних детекторів задля протидії недобросовісним діям студентів під час навчання. Але наразі стає все більше доказів того, що «доступні інструменти виявлення не є ані точними, ані надійними та в основному схильні класифікувати результати як написані людиною, а не виявляти текст, згенерований штучним інтелектом». Дослідження, проведене вченими з Університету Меріленда, підтвердило побоювання з приводу неточності роботи детекторів: студенти можуть легко їх перехитрити, використовуючи інструменти перефразування для переписування тексту, створеного за допомогою великих мовних моделей. Один з авторів цього дослідження, Сохейл Фейзі, доцент кафедри комп’ютерних наук, сказав, що недоліки в інструментах уже проявили себе і мали негативний вплив (несправедливе звинувачення студентів у неправомірній поведінці). «Зростає визнання того, що нам необхідна можливість розрізняти текст, написаний штучним інтелектом, і текст, написаний людиною з низки етичних та юридичних причин. У довгостроковій перспективі на користь кожного знати, чи створено щось ШІ чи ні», вважає професор Дрейпер. Модель детектора, створена OpenAI, нещодавно була відкладена, що багато хто розцінив як доказ того, що виявлення ГШІ неможливе. Turnitin, чий детектор загалом отримав більш високі оцінки, ніж більшість інших та був використаний 65 мільйонів разів, теж не став непогрішимим. Нещодавно у США великими компаніями, що працюють над великими мовними моделями, було прийнято добровільне зобов’язання щодо розробки «надійних технічних механізмів, які гарантують, що користувачі знають, коли контент є штучним інтелектом». «Дехтокаже, що виявлення ніколи не йтиме в ногу з часом. Це вірно, коли незалежна компанія намагається передбачити, що відбудеться далі, але коли у вас є зобов’язання створити засоби виявлення ГШІ від самих компаній-розробників штучного інтелекту, ви перебуваєте на набагато сильнішій позиції».

Детальніше: https://is.gd/1W6VSS, https://arxiv.org/ftp/arxiv/papers/2306/2306.15666.pdf, https://arxiv.org/pdf/2303.11156.pdf

Фото: pixabay.com

#НРАТ_Усі_новини #НРАТ_АкадемДоброчесність #НРАТ_ШтучнийІнтелект #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини

2023-08-29

ВИЩА ОСВІТА У ВЕЛИКІЙ БРИТАНІЇ ПІД ЗАГРОЗОЮ

На сайті Times Higher Education опублікована стаття анонімного автора «Кругова порука з приводу нестримного списування іноземних студентів не може зберігатися вічно».

Автор попереджає: тільки-но стане загальновідомим той факт, що ступінь магістра, здобутий у Великій Британії, не має цінності, освітня галузь країни опиниться у великій біді. Він наводить статистичні дані щодо кількості іноземних студентів, які прибули на навчання до Британії з країн, що знаходяться за межами Європейського Союзу. Ця кількість за період 2018-2022 років (особливо – у розпал пандемії COVID-19) зросла зі 162 тис. до 320 тис. і цей тренд поки що зберігається. Багато хто з британських освітян сприйняв це як добру новину, яка підтверджує привабливість та репутацію британських університетів. Очевидно, що без плати за навчання, яку вносять іноземні студенти, доходи університетів не могли бути стійкими. Отже, університети з радістю набирають іноземних студентів на різні програми, переважно – у галузі бізнесу та менеджменту, оскільки вони є дешевими у навчанні та можуть бути швидко масштабовані. Однак ЗВО почали нехтувати рівнем підготовки іноземних абітурієнтів та рівнем володіння ними англійською мовою. У результаті численними стали випадки шахрайства під час іспитів: половина опитаних студентів зізналися, що їхні есе написані на замовлення. І це було ще до того часу, як масовим стало використання інструментів генеративного штучного інтелекту. Звісно, університети не бажають виносити на широкий загал ці факти порушення академічної етики, оскільки вони можуть спаплюжити їхню репутацію. Тому публічно доступні відомості про масштаби шахрайства під час навчання сильно відрізняються від фактичних. Частковим рішенням проблеми могло б стати суворе дотримання вимог до абітурієнтів під час вступу, наведення ладу у термінах та умовах вступу, покращення співвідношення викладачів до студентів. Останнє, зокрема, забезпечить більшу прозорість у навчанні, уможливить застосування творчих методів оцінювання, дозволить надавати пріоритет науковим творчим завданням над письмовими опитуваннями.

Детальніше: https://is.gd/JXjneI

Фото: pixabay.com

#НРАТ_Усі_новини #НРАТ_ШтучнийІнтелект #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини #НРАТ_АкадемДоброчесність

2023-08-25

ЧОТИРИ НАПРЯМКИ ЗМІНИ ДИЗАЙНУ ОЦІНЮВАННЯ В ЕПОХУ ГЕНЕРАТИВНОГО ШІ

На сайті Times Higher Education опублікована стаття Джулії Чен «Чотири напрямки зміни дизайну оцінювання в епоху генеративного ШІ».

У ній наголошується, що зростання генеративного ШІ змусило університети переосмислити кількісну оцінку навчання. Пропонується чотири варіанти зміни дизайну оцінювання, які можна застосовувати у різних дисциплінах. Доступність інструментів генеративного штучного інтелекту, таких як ChatGPT, зробила ряд традиційних інструментів оцінювання (наприклад, курсові роботи, огляд наукової літератури) практично зайвими. Гонконзький політехнічний університет прийняв ГШІ та переосмислив як цілі навчання, так і дизайн оцінювання. Замість того, щоб забороняти використання ГШІ для перевірки знань студентів, університет з вересня цього року дозволяє його використання. Викладачі відповідно мають внести зміни до навчальних програм та завдань таким чином, щоб ГШІ залучався як допоміжний засіб, а не для виконання завдання замість студента. Двома основними керівними принципами, що визначають зміну дизайну оцінки, є наступні: оцінювання не може бути виконано в основному або повністю ГШІ; студенти повинні продемонструвати своє розуміння концепцій/навичок, які вони вивчали. Відповідно до цього пропонується застосовувати чотири напрямки змін. Перший – від письмового опису до мультимодального пояснення та застосування (студентам пропонується пояснити поняття або навички в конкретному контексті; бажано – локальному). Другий – від одного огляду літератури до посилань на лекції (від студентів вимагають посилатися у своїх курсових роботах не лише на літературу, але й на дискусії, які були організовані на лекціях та практичних заняттях). Третій – від представлення ідей до захисту поглядів (замість усної презентації та слайдів, згенерованих ШІ – сеанс питань та відповідей, коли студенти-доповідачі мають захищати свої погляди, методологію та висновок). Четвертий – від роботи поодинці до партнерства студентів і викладачів (залучити студентів як педагогічних партнерів для розгляду матеріалів, представлених ШІ). Джулія Чен зазначає, що поява ГШІ надала вищій освіті багато можливостей переглянути мету оцінювання і те, як вони збирають докази успішності навчання студентів. Модернізація системи оцінювання дозволить студентам більш повно використовувати всі доступні ресурси, включно з ГШІ, убезпечитись від повторення інформації та зробивши акцент на демонстрації студентами їхнього розуміння питання шляхом застосування знань у відповідних контекстах, використання критичного мислення та комунікативних навичок.

Детальніше: https://is.gd/TGFuIw, https://is.gd/yA83SH

Фото: pixabay.com

#НРАТ_Усі_новини #НРАТ_ШтучнийІнтелект #НРАТ_Освітянам_новини

2023-08-23

ТЕМНА СТОРОНА ОБІЦЯНОЇ ЕФЕКТИВНОСТІ ШІ

На сайті Times Higher Education опублікована стаття Верн Глейзер «Темна сторона обіцяної ефективності ШІ».

Автор наголошує, що штучний інтелект може використовувати дані та алгоритми таким чином, щоб підтримувати цінності справедливості та якості освіти. Штучний інтелект безумовно стане потужним чинником трансформації університетської освіти. Він може допомогти університетам знаходити абітурієнтів; посилити утримання студентів під час навчання та допомагати їм успішно пройти весь курс підготовки; забезпечити персоналізоване викладання та навчання за допомогою віртуальних наставників; адаптувати навчальну програму до вимог ринку; оптимізувати операції для підвищення ефективності та зниження витрат. Ці можливості ШІ надзвичайно привабливі, отже адміністрація університетів та викладачі почали реалізовувати такі ініціативи. Разом із тим не можна ігнорувати «темну сторону» ШІ. Верн Глейзер звертає увагу на проблемні моменти реалізації описаних вище ініціатив. ШІ ставить раціональність та ефективність вище за людські цінності (так звана «механізація цінностей»). Пом’якшити проблеми може стратегія включення людини, створення спеціальних оціночних систем з багатьма різноплановими критеріями, критичний підхід до результатів роботи ШІ та його алгоритмів.

Детальніше: https://www.timeshighereducation.com/campus/dark-side-ais-promised-efficiencies, https://is.gd/7McqzE

Фото: pixabay.com

#НРАТ_Усі_новини #НРАТ_ШтучнийІнтелект #НРАТ_Освітянам_новини

2023-08-23

ЯК ВИМІРЮВАТИ РЕЗУЛЬТАТИ НАВЧАННЯ ТА ЗАХИЩАТИ АКАДЕМІЧНУ ДОБРОЧЕСНІСТЬ В ЕПОХУ CHATGPT

На сайті Times Higher Education опублікована тематична добірка статей «Велика оцінка переосмислення: як вимірювати навчання та захищати академічну доброчесність в епоху ChatGPT».

Поява ChatGPT та інших генеративних систем ШІ поставила під сумнів класичні способи аналізу результатів навчання та способів їх вимірювання. Системи оцінювання мають докорінно змінитись, щоб забезпечити академічну доброчесність, бути гнучкими і при цьому дозволяти студентам використовувати технологію ШІ для досягнення більш високого рівня когнітивних здібностей, отримання корисних навичок для майбутньої кар’єри. Ресурс містить дев’ятнадцять статей із порадами щодо переосмислення освіти в умовах стрімкого розвитку ШІ. Зокрема, автори розмірковують, чи є розвиток критичного мислення відповіддю на широке застосування генеративного ШІ; які можна застосувати ефективні методи оцінювання; редизайн оцінювання; як навчати та оцінювати за допомогою ChatGPT; як розробити автентичне оцінювання з низькими ставками, яке сприяє академічній доброчесності; дизайн оцінювання для перешкоджання шахрайству; які оціночні завдання мінімізують мотивацію учнів до списування тощо.

Детальніше: https://is.gd/9EToAk

Фото: скріншот

#НРАТ_Усі_новини #НРАТ_ШтучнийІнтелект #НРАТ_Освітянам_новини

2023-08-15

НЕ МАЄ ЗНАЧЕННЯ, ХТО ЗРОБИВ ЗА СТУДЕНТА ЙОГО РОБОТУ – ЛЮДИНА ЧИ ШТУЧНИЙ ІНТЕЛЕКТ

На сайті Times Higher Education опублікована стаття Тома Вільямса «Turnitin стверджує, що кожне десяте університетське есе частково написане за допомогою ШІ».

У ній наводяться дані кампанії з «антиплагіатної» перевірки щодо використання детектору ШІ: за перші три місяці від запуску цієї послуги нею скористались для аналізу понад 65 мільйонів документів. Кожне десяте есе, перевірене спеціальним програмним забезпеченням Turnitin для детекції ШІ, містило значну кількість текстів, згенерованих штучним інтелектом. Причому у 3,3% частка роботи, виконаної ШІ, дорівнювала або перевищувала 80%; у 10,3 % таких фрагментів було понад 20%. Отже, «генеративний ШІ увійшов до навчальних аудиторій». Старший директор Turnitin по роботі з клієнтами вбачає цінність детектора ШІ не виключно як інструмента визначення походження, а скоріше – як відправної точки дискусії між викладачами і студентами з питань «належного використання інструментів написання текстів, правильного цитування та оригінального мислення». 98% установ, з якими співрацює Turnitin, відразу підписались та активно використовували цей детектор. Університети, які хочуть дозволити використання штучного інтелекту, мають заохочувати студентів до прозорості. Можна, наприклад, включивши питання, що ставляться штучному інтелекту, в додаток до есе. В університетах, де використання ШІ в освітньому процесі не дозволене, розуміють, що «есе, написане чат-ботом, так само неприйнятне з академічної точки зору, як і есе, написане приватним репетитором… В обох випадках студент звернувся до третьої сторони щоб вона зробила за нього значну частину роботи. І не має жодного значення, чи є ця третя сторона людиною або ШІ».

Детальніше: https://is.gd/vHrncU

Фото: pixabay.com

2023-08-14

ДЕТЕКТОР ТЕКСТУ CHATGPT НЕДОСТУПНИЙ ЧЕРЕЗ НИЗЬКУ ТОЧНІСТЬ РЕЗУЛЬТАТІВ

На сайті Times Higher Education опублікована стаття Тома Вільямса «OpenAI відключає детектор тексту чат-бота через проблеми з точністю».

У ній зазначається, що автори ChatGPT визнають: інструмент, покликаний допомогти викладачам у встановленні факту використання студентами штучного інтелекту для написання есе, не працює належним чином. «Класифікатор» OpenAI було запущено півроку тому як один із низки нових продуктів для розпізнавання фрагментів тексту, згенерованих ChatGPT або іншими чат-ботами. З моменту запуску цього інструменту він широко використовувався в університетах. Після оголошення компанії Turnitin про те, що її версію цього інструменту за три місяці використали для перевірки 65 мільйонів есе (98% клієнтів компанії підписались на цей детектор), OpenAI заявила, що її класифікатор може бути корисним при перевірці на академічну доброчесність. Проблеми, які виникли під час використання детектору, змусили кампанію публічно визнати, що цей інструмент більше недоступний через його низьку точність. На відміну від засобів перевірки на плагіат, пропонованих Turnitin та іншими, ChatGPT не має вихідного матеріалу, який можна використовувати для порівняння і підтвердження того, що учень використовував ШІ. Отже, проблема з визначенням походження тексту (оригінальний, написаний людиною чи згенерований ШІ) наразі залишається відкритою.

Детальніше: https://is.gd/aaPuSv, https://is.gd/C2gOpq

Фото: pixabay.com

2023-08-11

GOOGLE ЗВИНУВАЧУЮТЬ У НЕПРАВОМІРНОМУ ВИКОРИСТАННІ ДАНИХ КОРИСТУВАЧІВ ДЛЯ НАВЧАННЯ ШІ

На сайті CNN Business опублікована інформація про судовий позов до федерального суду Каліфорнії, поданий юридичною фірмою Clarkson від своїх восьми клієнтів проти Google, її материнської компанії Alphabet і дочірньої компанії у сфері штучного інтелекту DeepMind.

Його причиною стало збирання технічним гігантом для цілей розробки продуктів штучного інтелекту даних мільйонів користувачів без їхньої на те згоди, внаслідок чого були порушені авторські права. Раніше ця фірма подавала аналогічний позов проти компанії-розробника ChatGPT OpenAI. Головний юридичний консультант Google назвав претензії, викладені у позові, безпідставними. Він пояснив, що упродовж багатьох років компанія використовує дані із загальнодоступних джерел – інформацію, опубліковану у відкритій мережі та загальнодоступні набори даних – для навчання своїх моделей ШІ у повній відповідності до американського законодавства. Він вважає, що судовий позов спричинений безпрецедентним зростанням суспільної уваги до інструментів штучного інтелекту і тим, що великі мовні моделі, які лежать в основі цієї технології, навчаються саме на великих масивах даних, доступних онлайн. Натомість Тім Джордано, один з адвокатів Clarkson, пояснює позицію юрфірми: «Google має зрозуміти, що «загальнодоступний» ніколи не означав безоплатного використання з будь-якою метою… Наша особиста інформація та наші дані є нашою власністю, вони цінні і ніхто не має права просто взяти їх і використовувати у будь-яких цілях». У позові містяться наступні вимоги: судової заборони у вигляді тимчасового припинення комерційного доступу та комерційного розроблення інструментів генеративного штучного інтелекту Google, таких як Bard; відшкодування збитків і здійснення виплат в якості фінансової компенсації людям, чиї дані були ймовірно незаконно присвоєні Google. Раян Кларксон, партнер юридичної фірми, наголошує, що Google має «створити можливість для людей відмовитися від використання їхніх даних для навчання штучного інтелекту, зберігаючи при цьому можливість використовувати інтернет для повсякденних потреб».

Детальніше: https://is.gd/LGYuST, https://is.gd/ybkEH8, https://is.gd/80icGu

Фото: Alvarez Roseli, Frederick Douglass Blvd

#НРАТ_Усі_новини #НРАТ_ШтучнийІнтелект #НРАТ_ВідкритаНаука #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини

2023-08-11

ОЕСР: CHATGPT І ПРОГРАМИ МІЖНАРОДНОГО ОЦІНЮВАННЯ УЧНІВ

На сайті Організації економічного співробітництва та розвитку у розділі «Освіта та навички сьогодні» опублікована стаття Андреаса Шлейхера з директорату ОЕСР з питань освіти та навичок «ChatGPT і PISA: щоб наші освітні системи не відставали».

Наголошується, що в умовах швидкого розвитку технологій штучного інтелекту, коли ChatGPT та йому подібні інструменти дозволяють легко оцифрувати та автоматизувати викладання ряду предметів, не можна навчати школярів і студентів для минулого, – навчати потрібно з орієнтацією на майбутнє. Фахівці ОЕСР відстежують, наскільки добре системи ШІ справляються із завданнями Програми міжнародного оцінювання учнів (PISA), яка надає глобальний критерій успішності опанування знань і навичок у 80 країнах. Наразі ми спостерігаємо швидкий прогрес штучного інтелекту. У березні 2022 року ChatGPT міг відповісти на 28% набору завдань з математики PISA, у березні 2023 року GPT успішно відповів на 46% завдань. У науковій сфері відповідні відсотки становили 65% і 85%. Отже, у сучасному світі освіта має змінюватись, має перейти від навчання студентів відтворенню загальновизнаної мудрості до її вивчення та розширення. Коли мова йде про наукову освіту, потрібно приділяти набагато більше уваги інтелектуальним методам, які дозволяють розвиватись, а не просто поверхнево сприймати науковий зміст. Люди мають залучались до ймовірнісного мислення, яке дуже важливе в умовах численних викликів, – як зміна клімату або пандемія. Потрібно навчитися знаходити сигнал у шумі, розуміти відносну ймовірність і мислити в категоріях альтернативного майбутнього. Докорінно змінюється навіть така базова складова, як грамотність: сучасні заклади освіти повинні допомогти учням навчитися бути автономними у своєму мисленні. Необхідно докладати безперервних зусиль для створення «з’єднуючого соціального капіталу», завдяки якому ми всі можемо обмінюватись досвідом, ідеями та інноваціями.

Детальніше: https://is.gd/1DG8rY, https://www.oecd.org/pisa/

Фото: скріншот

#НРАТ_Усі_новини #НРАТ_OECD #НРАТ_ШтучнийІнтелект #НРАТ_Освітянам_новини

2023-08-10

ОЕСР: ЦИФРОВА ОСВІТА

Організація економічного співробітництва та розвитку оприлюднила книгу «Формування цифрової освіти: фактори, що сприяють підвищенню якості, рівності та ефективності».

У ній наголошується, що за останнє десятиліття інвестиції в освітні технології в усьому світі зросли і тепер цифрові освітні технології стали одним з ключових ресурсів систем освіти та професійної підготовки у країнах ОЕСР. За умов ефективного використання вони здатні змінити практику викладання та навчання, зменшити нерівність у навчанні, забезпечити створення більш інклюзивних освітніх систем. Однак «ковідний» досвід виявив недоліки використання цифрових технологій, що проявились у якості викладання та навчання. Можливості технологій штучного інтелекту, що стрімко розвиваються, також змушують по-новому поглянути на роль освітньої політики у підготовці учнів до майбутнього. У книзі аналізуються чинники, що сприяють підвищенню якості, справедливості та ефективності використання цифрових технологій у системах освіти, розглядаються поточні тенденції, можливі стратегії щодо шкільної, професійно-технічної та вищої освіти та заходи, які сприятимуть формуванню цілісної та комплексної освітньої бази, містяться рекомендації для урядів та політиків щодо формування цифрової освіти.

Детальніше: https://is.gd/n1HCse, https://is.gd/XsASZG, https://doi.org/10.1787/bac4dc9f-en

Фото: скріншот

#НРАТ_Усі_новини #НРАТ_OECD #НРАТ_ШтучнийІнтелект #НРАТ_Освітянам_новини

2023-08-08