21-22 вересня 2021 року відбудеться друге засідання експертної групи з штучного інтелекту та даних в освіті та навчанні. Планується обговорення проміжних результатів роботи експертної групи та змісту підсумкового звіту.
Експертна група об’єднує дослідників та науковців європейського рівня у галузі штучного інтелекту (ШІ), даних, етики та освіти, а також представників ЮНІСЕФ, ЮНЕСКО та ОЕСР. Вона підтримує діяльність комісії зі штучного інтелекту та даних в освіті та навчанні щодо розробки етичних принципів у цій сфері. Зокрема, просувається План дій з цифрової освіти («Digital Education Action Plan – Action 6. Artificial intelligence and data usage in education and training»), який сприятиме впровадженню нових технологій в освітню діяльність, вироблення етичних керівних принципів стосовно ШІ та використання даних у викладанні та навчанні для викладачів і підтримку науково-дослідної та інноваційної діяльності, який, зокрема, буде імплементовано через «Horizon Europe».
Вже розроблені «Керівні принципи етики для надійного ШІ», який має бути законний, етичний, надійний. Керівні принципи висувають набір з семи ключових вимог, яким системи ШІ повинні відповідати, щоб вважатися такими, що заслуговують довіри. Це:
– нагляд, – системи ШІ повинні розширювати можливості людей, дозволяючи їм приймати усвідомлені рішення та захищаючи їх основні права. При цьому необхідно забезпечити належні механізми нагляду, які можуть бути досягнуті за допомогою підходів «людина в циклі» та «людина в команді»;
– технічна надійність і безпека, – системи штучного інтелекту повинні бути стійкими і безпечними, передбачати запасний варіант на випадок непердбаченого перебігу подій, а також бути точними, надійними і відтворюваними;
– конфіденційність та управління даними, – окрім забезпечення повної поваги до конфіденційності та захисту даних, необхідно забезпечити адекватні механізми управління даними з урахуванням якості та цілісності даних й легітимний доступ до них;
– прозорість, – бізнес-моделі даних, системи та ШІ повинні бути прозорими, у т.ч. завдяки механізмам простежуваності, люди повинні знати, що вони взаємодіють з системою ШІ та поінформовані про можливості та обмеження системи;
– різноманітність, недискримінація та справедливість, – слід уникати несправедливою упередженості, оскільки вона може мати безліч негативних наслідків, від маргіналізації вразливих груп до загострення дискримінації;
– благополуччя суспільства і навколишнього середовища, – системи штучного інтелекту повинні приносити користь всім людям, включаючи майбутні покоління, бути стійкими та екологічними;
– підзвітність, – необхідно створити механізми, що забезпечують відповідальність і підзвітність за системи ШІ та їх результати, аудит задля оцінювання алгоритмів, даних та процесів проектування.
Детальніше: https://bit.ly/3EwKO67, https://bit.ly/3hRTB90, https://bit.ly/3hRCBzz
Фото: ЄК