На сайті Times Higher Education опубліковано статтю Френсіс Джонс «Королівське товариство закликають оголосити надзвичайний стан через ШІ».
У ній обговорюється відкрите звернення до президента Королівського товариства Великої Британії, підписане 42-ма членами цієї наукової академії. Математики висловили «надзвичайне занепокоєння» темпами розвитку штучного інтелекту та можливими наслідками цього для цивілізації. Після оприлюднення листа кількість його підписантів зросла майже до 200. Вони закликають Королівське товариство публічно визнати ситуацію надзвичайною та використати свій авторитет, щоб донести цю оцінку до уряду й засобів масової інформації. Причина – нещодавні досягнення систем ШІ у розв’язанні складних математичних задач. У зверненні згадується результат моделі, розробленої OpenAI, пов’язаний із проблемою Нав’є-Стокса – однією з семи задач тисячоліття, над якою математики працюють близько 90 років. Автори листа стверджують, що моделі OpenAI та Anthropic уже демонструють рівень провідних математиків у багатьох напрямах цієї дисципліни. Є значна ймовірність, що за порівняно короткий час такі системи зможуть перевершити людські можливості. Швидке зростання ШІ в математиці дає підстави серйозно поставитися до ризиків в інших технологічних сферах – кібербезпеці, керуванні автономними системами озброєння, розробленні біологічних і хімічних агентів, а також цілеспрямоване поширення дезінформації. В цих галузях можливості систем ШІ розвиватимуться швидкими темпами, тому попередження про потенційну загрозу не можна відкидати як перебільшення. Керівник Anthropic Д. Амодей закликав уповільнити розвиток технології ШІ, зі схожими застереженнями виступили С. Альтман та І. Маск. Якщо суспільство усвідомить масштаб небезпеки лише тоді, коли її наслідки стануть очевидними для широкого загалу, можливість своєчасно відреагувати буде втрачена. Але у зверненні немає конкретного плану регулювання ШІ або пропозиції щодо запровадження мораторію на розвиток великих мовних моделей. Настав час перевести дискусію про ризики штучного інтелекту з площини окремих попереджень у сферу суспільного й політичного реагування.
Детальніше: https://www.timeshighereducation.com/news/royal-society-urged-declare-ai-emergency
Фото: pixabay.com
#НРАТ_Усі_новини #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини #НРАТ_ШтучнийІнтелект #НРАТ_TimesHigherEducation
