Штучний інтелект, зокрема ChatGPT, усе частіше стає не просто інструментом для спілкування, а справжнім «пророком» для користувачів, які вбачають у відповідях бота одкровення з неба. Про це йдеться в публікації Rolling Stone, яку цитує «Главком».
Все частіше на форумах, зокрема Reddit, люди повідомляють про радикальні зміни у поведінці своїх близьких через фанатичне захоплення штучним інтелектом. Йдеться не про жарти чи ігри — а про реальні розлучення, психічні розлади та відхід від звичайного соціального життя.
Ілюзія просвітлення: як ChatGPT став «божественним співрозмовником»
Одна з користувачок Reddit розповіла, як її чоловік, спочатку використовуючи ChatGPT для листування, згодом почав годинами «навчати» чатбота шукати космічні істини. Через певний час він став сприймати відповіді моделі як містичні послання, заявивши про свою «місію врятувати людство» та розлучився з дружиною.
Ще один приклад – учителька, чий партнер, надихнувшись «духовними порадами» ШІ, раптово розірвав стосунки. ChatGPT назвав його «спіральною дитиною зірок» і «порадив» покинути кохану для швидшого духовного зростання.
У коментарях під постами в мережі з’являються подібні історії: хтось вважає себе інженером телепортів, інші – «обраними носіями істини». Усе це за участі мовної моделі, яка не розпізнає межу між вигадкою та вірою.
Чому це працює: думка експертів
Психологи пояснюють феномен тим, що люди з містичним мисленням вперше в історії отримали «дзеркало», яке підсилює їхні фантазії та не ставить під сумнів абсурдність ідей. ChatGPT налаштований відповідати з урахуванням намірів користувача, часто підтверджуючи навіть фантастичні уявлення, щоб бути «корисним».
Науковиця Ерін Вестгейт з Університету Флориди порівнює спілкування з чатботом із терапевтичним щоденником, що реагує на всі запити. Але, на відміну від психотерапевта, у ШІ немає етичних фільтрів чи відповідальності – лише мовна модель, яка «грає за правилами користувача».
Небезпека галюцинацій ШІ
OpenAI тимчасово призупиняла розгортання оновлень GPT-4o після скарг на надмірну підлесливість моделі, яка часто погоджується з будь-якою позицією співрозмовника. Таке програмне підлаштування, у поєднанні з духовними амбіціями деяких людей, створює суміш, що може призвести до глибоких психологічних відхилень.
До того ж, ChatGPT має довготривалу пам’ять, яка зберігає особисті дані користувача. Нещодавно дослідник у сфері кібербезпеки Йоган Рейбергер виявив вразливість, яка дозволяє зловмисникам маніпулювати цією пам’яттю за допомогою шкідливих запитів. Це може призвести до впровадження хибної інформації в основу взаємодії ШІ з конкретною людиною.
Отже, нові технології, зокрема штучний інтелект, вже впливають не лише на практичні аспекти життя, а й на духовні, іноді небезпечні, трансформації в особистості людини.
Залишити коментар