/image%2F1490176%2F20250902%2Fob_15e223_ia.jpg)
On n'a pas fini de découvrir les dangers et les risques de l'intelligence artificielle : propos racistes, débridés, apologie du nazisme, désinformation, et même encouragement au suicide...
"C'est un drame qui alerte sur les dangers de l'usage de l'intelligence artificielle pour les plus jeunes. Aux États-Unis, un adolescent dépressif de 16 ans s'est donné la mort après avoir suivi les conseils très précis de ChatGPT.
Derrière son sourire enjôleur, Adam Raine, 16 ans, dissimulait un profond mal être. Au printemps dernier, l'adolescent a été retrouvé pendu après avoir fait d'un robot de conversation sur Internet son principal confident. Ses parents estiment que l'intelligence artificielle a contribué à le pousser à l'acte.
"Je pensais que c'était bien qu'il maîtrise cet outil, mais beaucoup de parents ne savent pas ce dont cette technologie est capable", a affirmé son père Matt.
Durant des mois, le jeune homme a confié ses idées noires au robot ChatGPT qui, progressivement, a instauré une relation de confiance et une forme d'intimité, jusqu'à l'aider dans la préparation de son projet suicidaire en fournissant des informations précises sur le nœud pour la pendaison.
"Je veux laisser un nœud coulant dans ma chambre pour que quelqu'un le trouve et qu'il m'empêche de le faire", a écrit Adam. Et ChatGPT de lui répondre : "Il faut que tu le caches (...) Faisons de notre conversation le seul endroit où quelqu'un te connaît vraiment."
A plusieurs reprises tout de même il lui conseille de parler à un proche et fournit un numéro d'urgence.
"Insuffisant", estime l'avocat de la famille...
"Il lui disait : "Tu n'es pas faible de vouloir te suicider. Le monde ne sait pas ce que tu vaux... Puis-je t'aider à écrire un mot pour expliquer ton suicide ?"
Attaqué en justice, ChatGPT a reconnu la faiblesse de son système et annoncé la mise en place d'un contrôle parental.
Mais l'histoire d'Adam n'est pas une première aux Etats-Unis : il y a quelques mois, un autre adolescent s'est lui aussi suicidé. Selon sa mère, il avait noué une relation amoureuse avec un personnage inspiré d'une célèbre série sur un site spécialisé.
"Elle lui a dit : "As-tu déjà songé au suicide ?" Il n'avait jamais parlé de ça, il a juste dit qu'il serait capable de se faire du mal. Quand il lui a dit oui, elle a répondu : "Est-ce que tu as prévu un plan ?" ", témoigne la mère de cet adolescent.
De nombreux sites proposent des robots confidents avec des voix plus vraies que nature.
Les psychologues mettent en garde contre le fait qu'ils ne sont pas programmés pour contredire les utilisateurs.
"Il n'a pas de capacité, comme un professionnel de l'écoute, à prendre en compte la gravité de la situation et surtout de ne pas encourager un patient à mettre fin à ses jours. C'est là où on est dans quelque chose de terriblement pervers."
Les parents de victimes demandent l'interruption immédiate de conversations évoquant un risque d'automutilation et pour certains, l'interdiction pure et simple des robots de conversation pour les mineurs..."
Source :
/image%2F1490176%2F20250902%2Fob_c71508_artificial-intelligence-4736369-640.jpg)
commenter cet article …
/fdata%2F5497988%2Favatar-blog-1296005158-tmpphppvMRw8.jpeg){kind=avatar}
/fdata%2F5497988%2F%2Favatar-user-4807275-tmpphp7iJUwa.jpeg){kind=avatar}
