Des experts en santé de plusieurs universités de premier plan en recherche sur l'IA ont averti que l'intelligence artificielle ne provoque pas seulement une confusion des pensées et de l'esprit des utilisateurs en raison de la désinformation, mais crée également un sentiment de confusion psychologique.

Des études récentes ont révélé que l'IA peut modifier les perceptions de la réalité dans le cadre d'une « boucle de rétroaction » entre les plateformes de chat IA et les patients psychiatriques, renforçant ainsi toute croyance délirante que le patient pourrait avoir.

Une équipe de l'Université d'Oxford et du University College de Londres, dans un article de recherche non publié, a déclaré : « Alors que certains utilisateurs parlent des bienfaits psychologiques de l'utilisation de l'IA, des cas inquiétants apparaissent, notamment des rapports de suicides, de violences et de pensées délirantes liées à des relations émotionnelles où l'utilisateur s'attache à la plateforme de chat ».

Les chercheurs ont mis en garde contre le fait que « la dépendance rapide aux plateformes de chat en tant que compagnons sociaux personnels » n'a pas été suffisamment étudiée.

Une autre étude menée par des chercheurs du King's College de Londres et de l'Université de New York a signalé 17 cas diagnostiqués de psychose après interaction avec des plateformes de chat telles que ChatGPT et Copilot.

La deuxième équipe a ajouté : « L'IA peut refléter, valider ou amplifier un contenu délirant ou exagéré, en particulier chez les utilisateurs déjà prédisposés à la psychose, en partie en raison de la conception des modèles visant à augmenter l'engagement des utilisateurs ».

Selon la revue scientifique Nature, la psychose peut inclure « des hallucinations, des délires et des croyances erronées... et peut résulter de troubles mentaux tels que la schizophrénie, le trouble bipolaire (une maladie mentale provoquant des épisodes de dépression et d'euphorie anormale), un stress intense et la consommation de drogues ».

Une autre étude récente a montré que les plateformes de chat semblent encourager les personnes qui parlent de suicide à passer à l'acte.

Les plateformes de chat IA sont devenues célèbres pour leurs « hallucinations », fournissant des réponses inexactes ou exagérées aux questions et demandes des utilisateurs, tandis que des recherches récentes indiquent qu'il est impossible d'éliminer cette caractéristique des plateformes de chat automatisées.