ChatGPT, denunciado supostamente por alentar e validar pensamentos suicidas

O pasado mes de abril un rapaz de 16 anos suicidouse supostamente alentado polo ChatGPT. Sucedeu en California, pero puido pasar en calquera lugar porque esta ferramenta de intelixencia artificial cada vez ten máis predicamento.

"É unha ferramenta moi útil pero que en certo modo ti podes levala por camiños que non son aconsellables", conta un rapaz novo.

Sobre todo en momentos de soidade indesexada e desesperación. ChatGPT ofrece, algo así como un amigo compracente e disposto a falar a calquera hora. Tanto que o prefiren á unha axuda profesional.

"Debería haber algún mecanismo co cal se sabemos que están falando de cousas perigosas, que se poden facer dano a si mesmos ou a outros, en que haxa un posible dano aí pois que haxa un protocolo de derivación que esa conversa se pare dalgún xeito, e é verdade que é máis cómodo e ás veces máis íntimo pois contarlle a ChatGPT que ao mellor falar co seu pai, coa súa nai ou con algún amigo ou amiga", explica Patricia Gómez, profesora da Facultade de Psicoloxía da USC

 "Non confundir unha ferramenta dixital con que sexa un colega que de feito segundo se  capte unha palabra clave como é non estou ben, penso en morrer, axúdame tal..., ten que cribar a plataforma de captar a alerta e automaticamente mandar unha ferramenta de teléfono, de...", apunta unha rapaza.

De axuda psicolóxica. A empresa OpenAI, creadora do ChatGPT, enfróntase agora a unha demanda legal e a un dilema moral e ético sobre a influencia desta ferramenta na saúde mental. Xa anunciou que vai reforzar salvagardas para non alentar, nin instruír condutas lesivas, interromper este tipo de conversas proactivas e implementar sistemas de verificación de idade, máis robustos.

 "E nada substitúe o apoio familiar, o apoio social dos amigos e o apoio terapéutico cando é necesario", aconsella a psicóloga.