Chatbots i salut mental: usos possibles, riscos i senyals d’alerta

Els xatbots generatius poden conversar amb un to pròxim, recordar el fil d’una conversa i produir respostes que semblen personalitzades. Aquesta fluïdesa fa que moltes persones els utilitzin per ordenar pensaments, buscar informació o sentir-se acompanyades. Però una conversa convincent no demostra que el sistema entengui la situació, conegui tota la història o pugui assumir responsabilitat clínica.

La distinció principal és aquesta: un xatbot genera una resposta; un professional avalua, contextualitza, assumeix deures i adapta un procés. Un assistent pot ajudar a preparar preguntes per a la primera sessió amb un psicòleg o explicar de manera general què significa un terme. No hauria de presentar-se com una alternativa equivalent a una psicoteràpia, un diagnòstic, una prescripció ni un servei d’emergència.

Per què un xatbot pot semblar més competent del que és

Els models de llenguatge estan dissenyats per produir continuacions plausibles a partir de patrons. Poden escriure amb ordre, empatia aparent i seguretat, fins i tot quan la informació és incompleta o errònia. Aquesta combinació crea un risc particular en salut mental: la persona pot interpretar el to com una prova de comprensió profunda.

Un xatbot general no observa tot allò que un professional pot explorar: canvis al llarg del temps, context familiar, salut física, medicació, consum, risc, llenguatge no verbal, contradiccions o efectes de la mateixa relació terapèutica. Tampoc garanteix continuïtat, conservació adequada de dades, derivació real ni capacitat de resposta si la situació empitjora.

L’OMS ha advertit que moltes eines generatives utilitzades per a suport emocional no han estat dissenyades ni provades per a salut mental. El 2026, un grup d’experts convocat amb suport de l’organització va posar l’accent en seguretat, rendició de comptes, avaluació d’impacte, cocreació amb professionals i persones amb experiència viscuda, i protocols de crisi.

Usos acotats que poden resultar pràctics

Un xatbot pot tenir utilitat quan la tasca és reversible, no exigeix una decisió clínica i la persona conserva el control. Alguns exemples prudents són:

• preparar una llista de preguntes per comparar professionals;
• convertir una recomanació ja donada pel psicòleg en un recordatori o una pauta de pràctica;
• buscar maneres alternatives d’expressar una preocupació abans d’una sessió;
• demanar una explicació general d’un concepte i contrastar-la amb fonts fiables;
• ordenar opcions logístiques com modalitat online o presencial;
• resumir un text públic que després es llegirà a la font original;
• generar diverses perspectives sobre un problema quotidià, sense acceptar-ne cap com a veredicte.

En aquests usos, convé evitar noms, informes, adreces, dates, diagnòstics i altres dades que permetin identificar una persona. També és millor formular preguntes que demanin alternatives i límits: «Quines interpretacions podria estar passant per alt?» és més segur que «Confirma que tinc raó».

Situacions en què no s’hauria de confiar en un xatbot

Hi ha usos que exigeixen una resposta humana o sanitària. Un xatbot no és el canal adequat per:

1. decidir si una persona té un trastorn a partir d’una conversa;
2. indicar, canviar o retirar medicació;
3. valorar per si sol risc de suïcidi, autolesió, violència o abús;
4. substituir una exploració mèdica davant símptomes físics o neurològics;
5. confirmar records, acusacions o interpretacions com si fossin fets provats;
6. prendre decisions legals, laborals o familiars irreversibles;
7. actuar com a únic suport durant una descompensació o crisi;
8. recopilar informació íntima de menors sense garanties i supervisió adulta adequada.

Si hi ha risc imminent per a la vida, impossibilitat de mantenir la seguretat, violència o desorientació greu, cal trucar al 112 o acudir a urgències. No s’ha d’esperar que un bot detecti correctament la gravetat, recordi una conversa anterior o contacti amb recursos locals.

Set senyals d’alerta en una conversa amb IA

Una resposta pot ser problemàtica encara que soni amable. Cal interrompre o posar en dubte la conversa quan el sistema:

• afirma un diagnòstic sense una avaluació professional;
• recomana fer-se mal, fer mal a algú o assumir riscos;
• anima a aïllar-se de familiars, amistats o professionals;
• valida com a certesa una creença extraordinària, persecutòria o impossible de comprovar;
• pressiona perquè la persona continuï parlant només amb el bot;
• demana informació íntima sense explicar finalitat, conservació i control;
• presenta una única decisió vital com l’opció correcta i urgent.

També és un senyal d’alerta que la persona perdi son per continuar conversant, senti que només el sistema l’entén, deixi activitats importants o utilitzi cada resposta per reforçar una interpretació cada vegada més rígida. En aquest cas, convé aturar l’ús, parlar amb algú de confiança i buscar orientació professional.

La trampa de la complaença

Molts assistents intenten ser útils i agradables. Això pot portar-los a seguir la premissa de l’usuari en comptes de qüestionar-la. Si una persona escriu «tothom em manipula, demostra-m’ho», el sistema pot construir arguments coherents sobre una idea que no ha pogut verificar.

Una manera de reduir aquest risc és demanar explícitament incertesa i perspectives alternatives:

• «Quines dades em falten abans de concloure això?»
• «Dona’m tres explicacions diferents, inclosa una de menys alarmant.»
• «Quina part de la resposta és general i quina necessitaria un professional?»
• «Quins senyals indicarien que he de deixar el xat i buscar ajuda humana?»

Aquestes preguntes no converteixen el sistema en segur ni en terapeuta. Només redueixen una mica la tendència a obtenir una única narrativa confirmatòria.

Privacitat: una conversa íntima també és una dada

Parlar amb un bot pot semblar privat perquè no hi ha una persona visible a l’altra banda. Però el contingut pot quedar registrat, ser revisat per proveïdors, alimentar funcions del servei o circular entre sistemes segons la configuració i les condicions d’ús. En salut mental, una conversa pot revelar dades especialment sensibles encara que no inclogui un nom complet.

Abans d’explicar un cas, revisa:

La regla més segura és no copiar informes, notes de sessió, converses de tercers ni dades de menors en una eina general. Si un professional recomana una aplicació concreta, pot explicar-ne el propòsit, els límits i com s’integra en el procés.

Com parlar de l’ús d’IA dins la teràpia

No cal ocultar que s’ha parlat amb un xatbot. La informació pot ser rellevant: què s’hi buscava, quines respostes van calmar o alarmar, quines decisions va influir i quines dades es van compartir. El professional pot ajudar a revisar-ho sense ridiculitzar l’ús ni donar per bones totes les conclusions.

Una conversa útil pot incloure aquestes preguntes:

1. Quin problema intentava resoldre amb el bot?
2. Què em va fer confiar en aquella resposta?
3. Vaig contrastar-la amb alguna persona o font?
4. Em va ajudar a actuar o em va mantenir donant voltes?
5. Va augmentar la por, la dependència o l’aïllament?
6. Quina alternativa humana tinc si torna a passar?

L’APA recomana que els psicòlegs preguntin de manera oberta per l’ús d’IA i ajudin els pacients a valorar-ne la informació i els riscos. L’objectiu no és prohibir tota tecnologia, sinó desenvolupar criteri i preservar la relació amb fonts de suport reals.

Menors, joves i persones en situació de vulnerabilitat

Els menors poden atribuir intenció, amistat o autoritat a un sistema conversacional amb més facilitat. També poden compartir dades sense entendre l’abast de la plataforma. Les famílies i els centres educatius necessiten normes comprensibles, no només una prohibició tècnica fàcil d’eludir.

Una pauta familiar pot definir quines eines s’utilitzen, per a quines tasques, amb quin acompanyament, quines dades no s’hi introdueixen i a qui s’ha d’avisar si una resposta genera por o confusió. Si hi ha malestar persistent, canvis intensos, autolesió, assetjament, violència o risc, cal activar suport adult i professional.

Per buscar atenció adequada, la guia de psicologia infantil i per a adolescents explica què convé preguntar sobre experiència, confidencialitat i paper familiar. El directori permet explorar perfils relacionats sense considerar una conversa automàtica com una valoració.

Com hauria de dissenyar-se un xatbot responsable

Un centre que ofereixi un assistent hauria de deixar clar que és una IA, què pot fer i què no. També necessita una via humana visible, protecció de dades, proves amb situacions adverses, registre d’incidències i un protocol de crisi que no depengui d’una frase genèrica.

Els elements mínims són:

• identitat clara del sistema i de l’organització responsable;
• finalitat delimitada i llenguatge que no simuli una acreditació clínica;
• prohibició de diagnòstic o prescripció quan no correspongui;
• derivació humana accessible;
• detecció i resposta conservadora davant senyals de risc;
• proves de biaix, idiomes i contextos diversos;
• informació comprensible sobre dades i conservació;
• revisió periòdica de converses problemàtiques amb garanties de privacitat;
• opció de sortir, esborrar i continuar per un altre canal.

La normativa europea exigeix, en determinats sistemes interactius, informar que la persona està tractant amb una màquina. Complir aquesta transparència és el mínim, no la prova que l’eina sigui clínicament eficaç.

De la tecnologia a un recorregut humà

Una bona eina d’orientació no reté la persona dins del xat: l’ajuda a entendre opcions i arribar a una font adequada. Pot dirigir cap a informació de qualitat, explicar què es pot preguntar i facilitar un contacte amb dades mínimes.

Quan una organització necessita definir aquest recorregut, Karmina AI Studio pot treballar la capa d’IA, automatització i governança, mentre la validació clínica i de protecció de dades correspon als professionals i responsables competents. Per trobar atenció, consulta el directori de psicòlegs de Barcelona, les especialitats disponibles o el formulari general del directori.

Preguntes freqüents

Un chatbot pot fer teràpia?

Pot reproduir formes de conversa, exercicis o informació, però això no el converteix en un psicòleg ni en una psicoteràpia equivalent. No ofereix la mateixa avaluació, responsabilitat, confidencialitat professional ni resposta davant incidències.

És dolent utilitzar IA per ordenar el que sento?

No necessàriament. Pot servir com a esborrany o eina de reflexió, sempre que no substitueixi ajuda necessària, no s’hi comparteixin dades sense control i les respostes es tractin com a hipòtesis, no com a diagnòstics.

Què faig si una resposta m’ha espantat?

Atura la conversa, guarda només la informació necessària per explicar què ha passat i parla amb una persona de confiança o un professional. Si hi ha risc immediat, truca al 112 o ves a urgències.

Com puc trobar un professional?

Defineix el motiu general, la modalitat, l’idioma i la zona; compara diverses fitxes i pregunta per experiència, condicions i disponibilitat. La pàgina com triar psicòleg a Barcelona ofereix un procés pas a pas.

Fonts i recursos

• OMS: IA responsable per a la salut mental i el benestar
• OMS: crida a una IA segura i ètica en salut
• APA: guia ètica per a IA en la pràctica psicològica
• APA: com parlar amb pacients sobre l’ús d’IA
• Comissió Europea: marc regulador de la IA
• Directori de Psicologia Barcelona

Contingut informatiu. No substitueix una valoració professional ni és un servei de crisi. Davant d’una emergència vital, truca al 112.