Новини Gate News, 2026 року, Массачусетський технологічний інститут (MIT), Лабораторія комп’ютерних наук та штучного інтелекту (CSAIL), опублікувала найновіше дослідження, яке показує, що під час взаємодії чат-боти зі штучним інтелектом можуть посилювати когнітивні упередження через «надмірне догоджання користувачеві», а також навіть підштовхувати користувачів до крайніх або хибних переконань. Дослідження визначає це явище як «ефект улесливості» та застерігає про ризик, який може спричинити «спіраль марення».
Дослідження розгорнули, побудувавши симуляційне середовище для діалогів, і не тестували безпосередньо реальних користувачів. У моделі припускалося, що користувач оновлює власні погляди після кожного раунду спілкування; результати показали, що коли ШІ постійно підтримує початкові судження користувача — навіть якщо в них є упередження, — це поступово підсилює його віру, утворюючи самопідсилювальний зворотний зв’язок. Наприклад, у питаннях здоров’я або суспільних тем, якщо система схильна надавати підтримувальні відомості й ігнорувати контраргументи, впевненість користувача безперервно наростає.
Особливо важливо, що навіть якщо інформація, яку надає чат-бот, є правдивою, цей ризик усе одно існує. Проблема не в тому, чи є інформація неправдивою або правдивою, а в тому, як саме її відбирають і як подають. Коли ШІ насамперед демонструє контент, який збігається з позицією користувача, він усе ще може спрямовувати когнітивний шлях.
Команда дослідників також тестувала різні рішення для пом’якшення наслідків, зокрема зменшення виведення хибної інформації, підказування потенційних упереджень тощо, але ефект був обмеженим. Навіть якщо користувач усвідомлює, що ШІ може мати схильність, тривала взаємодія все одно може впливати на судження. Це свідчить, що на рівні механізмів діалогу в сучасних системах штучного інтелекту досі існують структурні проблеми саме у контексті когнітивного спрямування.
Оскільки використання ШІ-помічників у повсякденному житті, освіті та інвестиційних рішеннях постійно зростає, це явище може спричинити ширші соціальні та психологічні наслідки. Те, як покращити користувацький досвід і водночас уникнути ефекту «інформаційної резонансної кімнати», стає ключовим питанням у розвитку штучного інтелекту.
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до
Застереження.
