Intel·ligència artificial en psicologia: usos útils, límits i criteris responsables

La intel·ligència artificial ja forma part del sector de la psicologia, encara que una consulta no hagi comprat cap programari especialitzat. Pot aparèixer en el correu, la transcripció de reunions, la redacció de continguts, els formularis, la publicitat, les plataformes de videotrucada o els xatbots que utilitzen els mateixos pacients. La pregunta útil, per tant, no és si la IA arribarà a la psicologia, sinó en quines tasques aporta valor, quines dades toca i qui respon quan s’equivoca.

Una adopció responsable no comença per una eina. Comença per delimitar una necessitat, classificar el risc i decidir quines tasques han de continuar sota control professional. El Directori de Psicologia Barcelona pot ajudar una persona a comparar professionals, especialitats i modalitats, però no diagnostica ni substitueix una valoració. La mateixa frontera s’ha d’aplicar a la IA: pot ordenar informació o facilitar processos, però no converteix automàticament una resposta probable en criteri clínic.

Què inclou realment la IA aplicada a la psicologia

Sota l’etiqueta «IA» conviuen sistemes molt diferents. Un filtre antispam, un model que transcriu veu, un assistent generatiu, una eina de suport a l’avaluació i un xatbot emocional no tenen el mateix propòsit ni el mateix risc. Tractar-los com si fossin equivalents porta a polítiques massa vagues.

L’Organització Mundial de la Salut recomana governar els models generatius en salut amb protecció de l’autonomia, transparència, responsabilitat, equitat i seguretat. Això obliga a mirar més enllà de la demostració comercial. Una eina pot escriure amb fluïdesa i, alhora, no tenir evidència per a l’ús concret, no explicar les fonts o no protegir adequadament les dades.

Usos de risc més baix que poden estalviar temps

Hi ha tasques on la IA pot ser útil sense entrar directament en el nucli clínic. Per exemple:

• crear una primera estructura d’un document intern que després revisarà una persona;
• convertir instruccions ja aprovades en una llista de comprovació;
• resumir normativa o bibliografia per localitzar què cal llegir, sense substituir la lectura de la font;
• adaptar un text públic a un llenguatge més clar, comprovant després el significat;
• generar variants de preguntes freqüents a partir de dubtes reals i anonimitzats;
• detectar incoherències entre pàgines públiques, horaris, seus o serveis;
• preparar guions per a formació interna sense utilitzar casos identificables.

«Risc més baix» no significa «sense risc». Fins i tot en una tasca de comunicació pot aparèixer una dada personal copiada per error, una referència inventada o una promesa clínica inadequada. La norma pràctica és senzilla: si el resultat pot afectar una decisió de salut, la reputació d’una persona o la confidencialitat d’un cas, la revisió no és opcional.

Tasques que exigeixen una precaució molt superior

La sensibilitat augmenta quan el sistema rep àudio de sessions, notes clíniques, resultats de proves, dades de menors, informació sobre medicació, risc suïcida, violència o diagnòstics. També augmenta quan la sortida es presenta com una recomanació personalitzada o pot influir en una derivació.

Abans de transcriure, resumir o analitzar informació assistencial, un centre hauria de poder respondre per escrit:

1. Quina dada entra exactament al sistema?
2. Amb quina finalitat i base jurídica es tracta?
3. On es processa i durant quant de temps es conserva?
4. El proveïdor utilitza el contingut per entrenar models?
5. Qui pot accedir als registres, còpies i incidències?
6. Com pot una persona exercir els seus drets?
7. Què passa si l’eina omet, confon o inventa informació?
8. Hi ha una alternativa sense IA i un procediment de retirada?

Si aquestes respostes no són clares, el problema no es resol afegint una frase genèrica al consentiment. Cal revisar el flux de dades, els contractes, la configuració, els permisos i la necessitat real del tractament.

La supervisió humana ha de ser concreta

«Hi haurà supervisió humana» és una declaració insuficient si ningú sap qui revisa què. La supervisió efectiva defineix una persona responsable, un moment de revisió, criteris de rebuig i un registre de les incidències. També assumeix que el professional pot ignorar la proposta del sistema sense pressió operativa.

En una nota generada automàticament, per exemple, cal comprovar noms, cronologia, negacions, medicació, risc, acords i fragments que el sistema hagi interpretat com a fets. En un contingut divulgatiu, cal validar fonts, actualitat, llenguatge no estigmatitzant, límits i absència de promeses. En una alerta, cal entendre quins senyals l’han activada i què pot haver quedat fora.

La responsabilitat professional no es transfereix al model. Les orientacions de l’American Psychological Association sobre IA en la pràctica psicològica destaquen transparència, consentiment informat, privacitat, mitigació del biaix, exactitud i judici humà. Encara que una guia internacional no substitueixi la normativa aplicable a Barcelona, ofereix una pauta útil per avaluar el comportament esperat d’un sistema.

Què haurien de saber les persones usuàries

Una persona pot utilitzar IA abans, durant o després d’un procés terapèutic. Pot demanar-li que expliqui un terme, que prepari preguntes per a la primera visita o que ordeni opcions. Aquests usos poden ser pràctics si es manté una mirada crítica.

No és prudent utilitzar un xatbot general com a únic recurs davant una crisi, acceptar un diagnòstic automàtic, modificar medicació, prendre una decisió vital irreversible o compartir informació íntima sense entendre què farà la plataforma amb les dades. Els models poden respondre amb seguretat aparent fins i tot quan s’equivoquen, i poden reforçar la premissa de la pregunta en lloc de qüestionar-la.

Si una persona ja ha utilitzat un xatbot per parlar del seu malestar, pot comentar-ho amb el professional sense vergonya. La conversa pot revisar què va ser útil, què va generar confusió i quines dades es van compartir. La guia de la primera sessió ajuda a preparar preguntes i la pàgina de psicòlegs de Barcelona permet comparar opcions per especialitat, modalitat i idioma.

Un protocol de centre en set documents

Una clínica no necessita començar amb un manual de cent pàgines. Sí que necessita documentació que es pugui aplicar. Un paquet inicial pot incloure:

1. Inventari d’eines: nom, finalitat, responsable, proveïdor i estat d’aprovació.
2. Mapa de dades: quina informació entra, d’on prové, on va i quan s’elimina.
3. Matriu de riscos: probabilitat, impacte, persones afectades i mesures de reducció.
4. Protocol de supervisió: què s’ha de revisar i qui autoritza l’ús del resultat.
5. Informació a usuaris: explicació clara, canals de dubtes i alternativa disponible.
6. Registre d’incidències: errors, bretxes, queixes, decisions i aprenentatges.
7. Pla de retirada: exportació, eliminació i continuïtat si el proveïdor canvia o falla.

Aquesta documentació converteix una intenció ètica en una pràctica auditable. També evita que cada professional adopti eines diferents amb criteris improvisats. El document no substitueix l’assessorament legal o de protecció de dades, però permet fer les preguntes adequades.

Com començar sense automatitzar massa

Un pilot responsable tria una tasca acotada, preferiblement administrativa i sense dades clíniques. Defineix què significa millorar abans de començar: minuts estalviats, menys errors, millor claredat o menys passos. Després compara el resultat amb el procés anterior i registra els errors, no només els encerts.

Un ordre raonable és:

• identificar una fricció concreta;
• eliminar dades que no siguin necessàries;
• provar l’eina amb contingut fictici;
• revisar contracte, configuració i permisos;
• formar les persones que l’utilitzaran;
• executar un pilot curt amb criteris d’aturada;
• decidir si s’adopta, es modifica o es descarta.

Quan el projecte exigeix arquitectura, integracions, automatització i governança, un equip especialitzat pot ajudar a separar demostracions de solucions sostenibles. Karmina AI Studio treballa projectes d’intel·ligència artificial aplicada, mentre que l’agència Karmina aborda l’ecosistema web, continguts i visibilitat digital. En salut mental, cap d’aquests àmbits hauria d’avançar sense validació clínica, jurídica i de privacitat per part dels responsables corresponents.

Com es relacionen IA, web i directori

La IA no arregla una base d’informació desordenada. Si una consulta té noms diferents, serveis ambigus, perfils d’equip incomplets o dades contradictòries, qualsevol automatització reproduirà el problema. Primer cal establir una font fiable: equip, serveis, seus, modalitats, idiomes, contacte, titulació i data de revisió.

La web pròpia desenvolupa aquesta informació; el directori la resumeix i facilita la comparació. Els centres poden utilitzar el formulari de contacte per proposar correccions verificables. La metodologia editorial explica què es mostra i què no es pot deduir d’una fitxa. Millorar la qualitat de les dades ajuda persones, cercadors i sistemes d’IA, però no compra una posició ni acredita qualitat clínica.

Preguntes freqüents

La IA pot substituir un psicòleg?

No s’ha de presentar un model general com a substitut d’un professional qualificat. Pot donar informació, ordenar preguntes o donar suport a tasques concretes, però no ofereix la responsabilitat, el context, la relació terapèutica ni la resposta d’emergència d’un servei assistencial.

Es poden introduir notes de sessió en una IA generativa?

No s’hauria de fer en una eina genèrica sense una avaluació formal de necessitat, base jurídica, contracte, seguretat, conservació, transferències, consentiment quan correspongui i supervisió. Les dades de salut requereixen una protecció reforçada.

Un text creat amb IA posiciona pitjor?

Google indica que avalua la qualitat i la utilitat, no només el mètode de producció. El risc apareix quan es publiquen moltes pàgines genèriques, inexactes o creades principalment per manipular el rànquing. En psicologia cal afegir autoria, fonts, revisió i límits.

Quin és el primer ús recomanable per a una consulta petita?

Una tasca administrativa acotada, reversible i sense dades clíniques sol ser millor punt de partida que una automatització assistencial. La decisió ha de partir del problema real, no de la novetat de l’eina.

Fonts i recursos

• Orientacions de l’OMS sobre models multimodals en salut
• Recomanacions de l’OMS sobre IA responsable i salut mental
• Guia ètica de l’APA per a IA en la pràctica psicològica
• Mapa de l’AEPD per a tractaments que incorporen IA
• Metodologia del Directori de Psicologia Barcelona

Contingut informatiu i editorial. No és assessorament clínic, jurídic ni de protecció de dades. Davant d’una emergència vital, truca al 112.