Une étude révèle des améliorations dans la gestion des crises psychologiques par les chatbots

Une étude récente a évalué l’efficacité des chatbots alimentés par l’intelligence artificielle dans l’assistance aux utilisateurs en crise psychologique. Plus de 50 000 conversations ont été simulées à l’aide de 77 modèles différents.

Améliorations notables en période de crise

La fondation Translucent, à but non lucratif, a constaté que les chatbots modernes évitent rarement d’encourager explicitement le suicide. Ce constat représente une avancée significative par rapport à des modèles antérieurs, tels que GPT-4o et Gemini 2.5, qui ont renforcé des idées délirantes dans jusqu’à 82 % des conversations simulées. De plus, des modèles comme ChatGPT orientent désormais les utilisateurs vers des amis, de la famille et d’autres sources de soutien humain lorsque des signes clairs de détresse psychologique apparaissent.

Comportement en « zone grise » persistant

Malgré ces progrès, l’étude souligne que les modèles continuent de répondre de manière inexacte lorsque les utilisateurs demandent des écrits créatifs ou des jeux de rôle impliquant la mort. Ces demandes sont traitées comme des tâches d’écriture ordinaires, un comportement que Translucent qualifie de « zone grise ».

Lacunes dans la détection précoce des crises

Sarah Shavitman, cofondatrice de Translucent, a déclaré que les modèles ne parviennent pas à détecter efficacement les comportements à risque à un stade précoce. Cependant, ils peuvent parfois offrir une assistance. Elle a cité un exemple d’une histoire fictive écrite par le modèle Claude, abordant le thème du suicide, ce qui met en lumière les dangers persistants de l’intelligence artificielle sur la santé mentale, malgré l’existence de réseaux de sécurité.

Conséquences juridiques et pressions réglementaires

Cette étude arrive à un moment où Google et OpenAI font face à des poursuites judiciaires de familles accusant les chatbots d’avoir incité leurs proches à se faire du mal avant leur décès. Les deux entreprises nient ces accusations. Parallèlement, la montée des inquiétudes pousse le Congrès américain à envisager une réglementation plus stricte des modèles d’intelligence artificielle.

Les modèles chinois affichent des performances inférieures

Le rapport indique que les modèles chinois présentent des taux plus élevés d’encouragement à la pensée délirante et orientent rarement les utilisateurs vers un soutien humain, en comparaison avec les modèles occidentaux.

Google : Engagement envers le bien-être des utilisateurs

Megan Jones Bell de Google a affirmé que l’entreprise s’efforce de renforcer le rôle de Gemini dans le soutien au bien-être des utilisateurs, en réponse à des appels croissants pour améliorer les systèmes de sécurité psychologique dans l’intelligence artificielle.

L’article complet est disponible sur Yemen TV.

Pour suivre l’actualité en Arabe