На сайті Times Higher Education опублікована стаття Джека Гроува «ШІ має визнавати наукову невизначеність, вважає Нобелівський лауреат».
На сайті Times Higher Education опублікована стаття Джека Гроува «ШІ має визнавати наукову невизначеність, вважає Нобелівський лауреат».
У ній автор посилається на позицію лауреата Нобелівської премії з хімії 2004 року Аврама Гершко, який вважає за необхідне розширити функціонал ChatGPT за рахунок додавання коректних посилань на джерела інформації та вказування на рівень невизначеності у згенерованих відповідях. Наразі вчені повинні остерігатися використання штучного інтелекту в дослідженнях, оскільки технологія могла бути навчена з використанням помилкових чи упереджених наборів даних, зазначив він. На науковій конференції у Німеччині Гершко заявив, що його турбує некритичне ставлення науковців до результатів, отриманих за допомогою великих мовних моделей, таких як ChatGPT. «Ми повинні знати, які набори даних він використовує – це має бути прозоро», – сказав професор Гершко з Ізраїльського технологічного інституту Техніо. Майкл Левітт, біолог зі Стенфордського університету, який у 2013 році також отримав Нобелівську премію з хімії, говорить: «Ми очікуємо, що дані будуть постійно помилковими – наука дуже добре відфільтровує ці [погані результати]». Він вважає, що найбільш комерційно успішними моделями ШІ будуть ті, які забезпечать прозорість даних, які вони зчитують, тому що споживачі вважають за краще більше розуміти свої процеси. «Це – одна з причин, через яку прийде прозорість…», робить він свій висновок. Група з оцінювання ймовірного впливу ШІ на дослідження також висловила стурбованість щодо «односторонньої» передачі потоків даних з академічних кіл та наукової літератури у великі мовні моделі, що належать приватним компаніям, які допомагають зробити моделі ШІ більш потужними. Навпаки, промисловість не зробила свої дані відкритими. Аарон Чехановер – партнер професора Гершко, який розділив з ним Нобелівську премію з хімії за спільну роботу з деградації клітин, висловив свої сумніви: «Я хотів би, щоб дані були відкритими, але це буде [неможливо] …адже фармацевтичні компанії та медичні страхові компанії будуть побоюватися, що їхні дані, якщо вони будуть оприлюднені, стануть предметом захоплення з боку їхніх комерційних конкурентів».
Фото: pixabay.com
#НРАТ_Усі_новини #НРАТ_ШтучнийІнтелект #НРАТ_Науковцям_новини #НРАТ_Освітянам_новини