Поширення великих мовних моделей, на кшталт ChatGPT або Gemini, змінило як роботу деяких людей, так і побутові звички. ШІ-помічники наразі інтегровані у більшість сфер життя, однак дослідники занепокоєні впливом на когнітивні здібності користувачів.
Автор:Дмитро Долматов
Цієї осені в американському штаті Аризона має запрацювати перша державна школа, у якій викладатиме штучний інтелект. Вчителі візьмуть на себе роль консультантів та наставників. Експеримент пошириться на учнів з четвертого по восьмий клас, а згодом — і на більш юних школярів. Це має зробити підхід до навчання більш персоналізованим.
Втім, спілки вчителів виступають проти, наполягаючи на обмеженні ШІ. І справа не лише у побоюваннях втратити роботу.
Подумай за мене
На кожен позитивний приклад використання ШІ припадає майже стільки ж негативних. Так, мовна модель може скласти для вас корисну дієту, але також може і вбити, не розпізнавши отруйні гриби. ШІ впевнено обігрує у шахи гросмейстерів, але програє ігровій приставці 1977 року. Прокладає найшвидший маршрут, який іноді може запропонувати з’їхати з моста у воду.
Усе це нюанси використання — значних травм можна зазнати і від звичайної виделки.
Проблема, про яку наголошують викладачі та IT-спеціалісти, набагато глибша за апокаліптичні теорії «панування роботів над людством». Перекладаючи на мовну модель частину рутинних завдань, ми не тільки оптимізуємо свій час, але й позбавляємо мозок звичної для нього активності.
На думку доцента Філіпа Банна зі штату Джорджія, чудовим показником інтелектуальних здібностей людини є есей, який раніше було вкрай важко непомітно підробити. Навіть копіювання з інтернету раніше вимагало більшої залученості мозку.
А потім з’явився ChatGPT.
«Є така теза: якщо ваше завдання може виконати ШІ, то воно було марним від початку. Якщо машина може написати цілком справну роботу на рівні три або чотири з плюсом, і студент зробив би те саме або ще гірше без сторонньої допомоги, то саме завдання не вірне. Проблема не в нових машинах, стверджують ці люди, а в застарілих та немодних формах освіти, які вимагають від студентів робити дурниці, наприклад, писати неякісні есеї на теми, які вже вичерпані в академічних колах. Але ця критика не враховує як суть завдання, так і суть людського життя загалом», — пише Банн про вплив ШІ на освіту.
За його словами, мета освіти та конкретно есею — не знайти рішення, до якого ніхто з мислителів не додумався, а розвити власну здатність до критичного мислення, пошуку доказів та самопізнання.
Думки Філіпа Банна знайшли практичне відображення у нещодавньому дослідженні Массачусетського технологічного інституту (MIT).
Читайте також(ВІДЕО) Штучний інтелект: чому це не інтелект, що він може і чим небезпечний?
Як ШІ впливає на мозок
Дослідники залучили 54 учасники, яких розподілили на три групи. Перша, LLM група, використовувала ШІ-асистента для написання есею. Друга — традиційні пошуковики на кшталт Google. А учасники третьої групи писали самостійно, покладаючись лише на власний мозок.
Під час виконання завдання на головах усіх учасників були пристрої для електроенцефалографії (ЕЕГ), яка показує активність мозку.
Їхні твори оцінювали фахівці та спеціально створений ШІ-суддя.
Дослідження складалося з трьох звичних сесій та експериментальної четвертої. Учасники, які писали разом з ШІ-асистентом, помінялися місцями з тими, хто покладався тільки на мозок. Останні відповідно отримали можливість користуватись штучним інтелектом.
Результати виявились доволі показовими.
ЕЕГ підтвердило, що усі три групи використовували різні когнітивні стратегії — тобто по-різному мислили. Це можна уявити як лінії, які розходяться мозком у пошуках потрібної інформації.
Учасники, які писали із ШІ, мали найменшу мозкову активність, кількість таких «ліній», бо їхнє завдання зводилось до однієї дії — делегувати роботу асистенту.
Водночас у групи «тільки мозок» були найактивніші та найширші нейронні мережі.
Друга група показала проміжні результати.
Коли ж в учасників забрали ШІ-асистента для подальшого написання есею, їхня мозкова активність досі залишалась низькою. Ба більше, деякі навіть не могли процитувати власну роботу через кілька хвилин після написання.
Це прямо вказує на ймовірне зниження навичок навчання через тривале покладання на ШІ,
— йдеться у дослідженні.
Натомість ті, хто раніше писав самостійно і отримав ШІ, продемонстрували вищий рівень запам’ятовування та відтворення інформації.
На думку дослідників, це може свідчити про те, що застосування ШІ після попереднього самостійного мислення залучає ширші мережі. Тобто, мозок працює активніше.
«Це дослідження є попереднім, але важливим кроком до розуміння когнітивних та практичних наслідків інтеграції ШІ в навчальне середовище. Воно наочно демонструє, що попри очевидні початкові переваги, постійне використання LLM (мовних моделей, — Ред.) може призвести до зниження когнітивних навичок на нейронному, лінгвістичному та академічному рівнях», — пишуть автори.
Читайте такожУкраїнські підлітки винайшли ШІ-інструмент, який виявляє дискримінацію
Новий спосіб мислення
«Ми не отупішали, коли з’явилися калькулятори, ми просто змінили спосіб мислення. У 2010 році теж били на сполох, що “люди тупішають”, але насправді змінився формат мислення — з архівного на каталогізований. Ми не запам’ятовуємо усе, а знаємо, де це “загуглити”. Так само й зараз — ми завжди можемо спитати», — пояснює RFI Українською Володимир Лук’янов, розробник та фахівець з мовних моделей.
Утім, він підкреслює, що ШІ не може повноцінно замінити людське мислення.
Компенсувати свої мізки через нейронку — це дуже погано та шкідливо. Тому що, якщо ти не користуєшся мозком, він відмирає,
— каже експерт.
Також є ще один мінус — неконтрольований контент. Його можна розділити на два типи. Перший — «брейнрот», тобто низькоякісні, психоделічні відео, меми, зазвичай, створені за допомогою ШІ. Попри відверту тупість та беззмістовність, такий контент стає віральним.
А вигуки «Тралалеро Тралала» можна почути не лише від дітей.
Штучний інтелект значно спростив створення такого контенту. І йдеться не лише про літак у вигляді крокодилу, а й про більш реалістичні зображення. Це другий тип — фейкові знання. Мовні моделі постійно навчаються, але яку саме їм згодовують інформацію, знають лише розробники.
Наприклад, коли мовна модель отримує питання від користувача, вона шукає інформацію з внутрішньої бази та відкритих джерел. Щоб спростити цей пошук, розробники створюють RAG-бази. Простіше кажучи, власноруч додають в контекст запиту до мовної моделі додаткову інформацію, яка допоможе ШІ дати вам повнішу та точнішу відповідь.
Я бачу цю тенденцію. Наприклад, OpenIA (творці ChatGPT, — Ред.) запланували робити такі RAG-бази, які, коли ти пишеш “у мене проблеми з волоссям, я хочу новий шампунь”, мовна модель пропонуватиме шампунь, який проплатив рекламу. Реклама закінчилась, вони у RAG-базі замінили на інший шампунь. Так що точності відповідей не варто довіряти. Краще ще подивитися Google та інші варіанти, а потім зібрати усе це до купи,
— пояснює Лук’янов.
Це ж саме стосується і політичної цензури. Приклад китайського DeepSeek та повстання на площі Тяньаньмень лише найвідоміший, інші мовні моделі теж використовують цензуру.
Люди, які покладаються лише на ШІ-помічників, ризикують втратити здатність до критичного мислення та навчання. Натомість доповнюючи розумовий процес додатковим джерелом знань, можна навчити свій мозок новим навичкам.