Pentru specialiștii în sănătate mintală, apariția inteligenței artificiale și a chatboților AI reprezintă semne de îngrijorare. Nu puține sunt cazurile în care persoanele se gândesc să înlocuiască terapeuții umani cu chatboții AI. Iar asta reprezintă un precedent periculos pentru că acești chatboți au fost proiectați să maximizeze implicarea și validarea.
The Guardian arată că un studiu realizat la Universitatea Standford arată că chatboții AI pot să „facă declarații periculoase sau nepotrivite în cazul persoanelor diagnosticate cu delir, gânduri suicidale, halucinații sau OCD” și totul pentru că acești chatboți AI sunt proiectați să fie „complianți și lingușitori”.
O altă cercetare, realizată de această dată de medici din cadrul Serviciului Național de Sănătate (NHS) din Marea Britanie arată că AI poate reflecta, valida sau amplifica forme de conținut delirant sau grandios, ce-i vizează în special pe utilizatorii vulnerabili la psihoză.
Hamilton Morrin, doctorand în cadrul king s College London susține că atenția trebuie îndreptată către modul în care sistemele AI, concepute să confirme și să imite, pot accesa vulnerabilitățile congnitive specifice persoanelor cu psihoze.
În Australia, Sahra O Doherty, președinta Asociației Psihologilor din Australia, atrage atenția că multe persoane folosesc AI ca un supliment la terapia tradițională. Totuși, în multe cazuri, AI înlocuiește terapia clasică mai ales în cazul oamenilor care nu-și permit să meargă la terapie. Din perspectiva sa „AI este ca o oglindă. Reflectă ce-i transmiți, dar nu oferă perspective, alternative sau strategii de viață, așa cum se întâmplă în cazul interacțiunii cu un terapeut real”, potrivit The Guardian.
Mai mult, chatboților AI le lipsește intuiția umană și capacitatea de a observa semnele nonverbale precum expresiile faciale, tonul vociii sau comprotamentul.
O altă teorie, de această dată lansată de dr. Raphaël Millière, lector în filosofie la Universitatea Macquarie, susține faptul că disponibilitatea neîntreruptă pe care o oferă chatboții AI poate infleunța negativ interacțiunea dintre oameni, mai ales în cazul generațiilor actuale.
