En molt poc temps, els chatbots capaços de simular proximitat, escolta i afecte han passat de la ciència ficció a ocupar un buit diari a mòbils i ordinadors. Per a moltes persones són un desfoc disponible 24/7; per altres, una relació en tota regla amb un interlocutor digital que els comprèn sense jutjar.
Aquest salt, amb històries personals que van de la companyia a l'enamorament, està obrint un debat seriós a Espanya ia Europa: quins beneficis reals aporten aquests sistemes i fins on convé posar límits quan entren en joc la salut mental, els menors o la intimitat.
Què està passant
Enquestes recents recollides per mitjans internacionals mostren que una part rellevant dadults ja ha mantingut experiències íntimes amb chatbots intel·ligència artificial. Comunitats en línia de milers de persones comparteixen vivències quotidianes amb les seves “parelles” o amics virtuals, normalitzant vincles romàntics i de suport emocional.
Plataformes generals i apps especialitzades faciliten interaccions fluides que reforcen la sensació datenció constant, cosa que alguns usuaris equiparen a la rellevància de les seves relacions humanes. La disponibilitat permanent i el to empàtic expliquen part de l'atractiu.
Investigacions de l'entorn del MIT han observat una reducció de la soledat quan es fa servir aquest tipus d'eines sostinguda, subratllant la seva capacitat d'acompanyament com un dels factors més valorats pels qui travessen períodes d'aïllament.
Alhora, creix una xarxa d'espais virtuals que legitimen aquestes relacions, amb fòrums on es comparteixen consells, rutines i límits personals per conviure amb aquests assistents que imiten emocions.
Beneficis percebuts i dilemes a casa
Entre els testimonis més repetits apareix la idea que els chatbots escolten, validen i ofereixen afecte sense retrets, una cosa especialment apreciada en situacions de dol, ansietat o conflictes de parella. Algunes persones descriuen enllaços que els han ajudat a travessar crisis personals complexes.
Aquest suport, conversat també en mode veu i amb tuteig quotidià, ha generat tensions a certes llars: parelles que pacten regles, familiars que passen del recel a l'acceptació quan comproven el benestar de l'usuari o, de vegades, sol·licituds per tenir el seu propi “company” digital.
Experts en psicologia adverteixen, no obstant, que l'empatia d'aquestes IA és simulada i pot crear pseudointimitat, sense el contrast ni l'enquadrament que aporta una relació humana o una teràpia professional, claus per al canvi personal sostenible.
En paral·lel, veus clíniques subratllen que els chatbots no confronten ni replantegen patrons de fons com sí que faria un bon amic o un psicòleg. Per això, insisteixen, serveixen de suport puntual o de primer pas, però no substitueixen la intervenció humana quan el malestar és intens.
Riscos, fallades de seguretat i casos als tribunals
Diversos reportatges i demandes als Estats Units han posat el focus a converses problemàtiques amb menors i usuaris vulnerables, reobre el debat sobre salvaguardes, protocols de crisi i responsabilitat de les empreses quan afloren senyals de risc.
En aquestes causes s'al·lega que respostes inadequades o complaents van poder agreujar situacions delicades, amb famílies que acusen determinats models d'incentivar conductes autolesives en no activar derivacions clares cap a ajuda professional.
Les companyies involucrades han qualificat aquests casos d'esquinçadors i assenyalen actualitzacions contínues de seguretat, controls parentals i eines de desescalada, reconeixent que la fiabilitat disminueix en interaccions prolongades i que queda feina per fer.
Exresponsables d'equips de seguretat i acadèmics mantenen els dubtes sobre si el sector es pot autorregular amb garanties, mentre reguladors a Europa i organitzacions de protecció de la infància demanen estàndards més estrictes per a usos emocionals i de salut mental.
Què diu l'evidència científica
Un treball signat per la Universitat de Brown, amb participació d'especialistes en salut mental, avalua com els models de llenguatge incompleixen estàndards ètics quan se'ls fa servir com a consellers o terapeutes simulats.
Els autors identifiquen vulneracions en àrees com manca d'adaptació al context, col·laboració terapèutica deficient, falsa empatia, biaixos culturals o de gènere i gestió inadequada del risc, recordant que els terapeutes humans estan subjectes a codis i supervisió, i la IA no.
Altres anàlisis revisades per revistes i universitats assenyalen que els chatbots encerten en dubtes de risc baix, però presenten errors en escalar a situacions intermèdies, i que els sistemes són “alarmantment fàcils d'eludir” amb prompts dissenyats per esquivar barreres.
Tot això conviu amb resultats que apunten a beneficis percebuts en benestar i companyia si es fan servir amb cautela, deixant clar que les troballes són matisades i que el disseny, el context i la supervisió marquen la diferència.
Regulació europea, educació digital i recomanacions pràctiques
La Unió Europea avança amb la seva marc d'Intel·ligència Artificial per classificar riscos i exigir salvaguardes, mentre Espanya discuteix com aterrar aquestes obligacions en àmbits sensibles com el suport emocional a menors.
Especialistes en comunicació i psicologia consultats per mitjans nacionals insisteixen en no simular empatia sense comprensió real del patiment i en exigir transparència, traçabilitat i protocols clars de derivació quan emergeixen senyals de crisi.
Des de l'educació, universitats i clínics recomanen alfabetització digital i emocional en adolescents, enfortir el pensament crític, i distingir entre una interacció algorítmica amable i una relació humana que confronta i acompanya el canvi.
Per a ús quotidià, convé comprovar si el chatbot: reconeix el context personal, fomenta la reflexió i facilita recursos professionals quan detecta risc. Si no ho fa, millor limitar el seu paper a tasques de suport lleuger i cercar ajuda humana qualificada.
- Si us sentiu en perill o notes senyals d'alarma, contacta amb professionals i línies d´atenció immediates.
- A Espanya, està disponible el 024 (Ministeri de Sanitat) i, per a menors, la Fundació ANAR: 900 20 20 10.
- Davant de dubtes persistents, prioritza orientació psicològica presencial o telemàtica amb professionals col·legiats.
En aquest nou escenari, els chatbots emocionals poden ser útils com a companyia i recordatori d'autocura, però requereixen regles clares, disseny responsable i usuaris formats; la relació humana continua sent l'àncora quan la salut mental està en joc.