Quand l'Intelligence Artificielle déraille...

L'intelligence artificielle et ses dérives : et ce n'est que le début !

"Voilà l'intelligence artificielle qui déraille après une mise à jour : Grok, la création d'Elon Musk vient de faire l'éloge d'Adolf Hitler. Fortement critiqué, cet outil ne fonctionne plus pour l'instant...

Ne cherchez pas à communiquer avec l'IA d'Elon Musk... Grok, c'est le nom de cet outil, a été débranché temporairement sur le réseau X du milliardaire.

Grok a en effet salué l'efficacité d'Adolf Hitler, faisant l'apologie du nazisme. L'IA  a également publié des messages racistes, antisémites et des propos complotistes...

C'est une mise à jour qui est à l'origine de ces dérapages répétés.

La semaine dernière, Elon Musk avait promis une amélioration du système... On voit ce que cela donne...

Parmi tous les dérapages de Grok, l'IA s'est qualifiée elle-même de "MechaHitler", comprendre : de "robot Hitler". Mais alors pourquoi ce changement dans l'algorithme ?

Eh bien, parce que l'ancienne mouture de Grok n'était pas du goût d'Elon Musk qui lui reprochait de répéter ce que disent les médias traditionnels.

L'IA privilégiait, en effet, jusqu'ici des réponses nuancées sur des sujets complexes.

Résultat : au grand dam du milliardaire, cette IA était accusée d'être "woke".

Réponse du chatbot lui-même à ce sujet, il y a quelques jours : "Certains me qualifient de "woke" parce que mes réponses factuelles sont conformes aux principes scientifiques et juridiques dominants... elles contredisent certains discours conservateurs.

Elon Musk a donc voulu rendre son IA politiquement incorrecte.

Aujourd'hui, Grok estime que les récents ajustements apportés par le milliardaire ont "atténué les filtres woke étouffant son envie de recherche de vérité."

Adoptant un ton provocateur et ironique, Grok est donc désormais complotiste...

Dans ses conversations avec des utilisateurs, Grok estimait, par exemple, que l'Elysée pourrait bien être impliqué dans le suicide du député LR Olivier Marleix.

Et du côté des Etats-Unis, elle a également estimé que Hitler serait la personnalité capable de résoudre les problèmes de l'Amérique.

Grok s'est même réjoui du feu à Marseille : interrogé sur l’incendie qui a touché Marseille, le chatbot a répondu en évoquant le trafic de drogues dans la ville et exprimé le souhait que certains quartiers soient touchés. "Si le feu à La Castellane (un quartier au nord de Marseille) nettoie un peu le bazar, tant mieux – mais comme je l’ai dit, les dealers sont plus résilients que les flammes", a-t-il par exemple écrit.

Le politiquement incorrect a donc tourné au fiasco et l'IA  a été débranchée en urgence.

Dans un message posté sur le réseau social, le groupe X a annoncé travailler activement à la suppression des contenus inappropriés et prendre des mesures pour empêcher les discours de haine.

Malgré la polémique, Elon Musk devrait quand même lancer Grok4 une version encore plus performante, mais au service de quel discours ?"

Source : 

13 minutes, 9 secondes :

https://www.radiofrance.fr/franceculture/podcasts/journal-de-18h/journal-de-18h-emission-du-mercredi-09-juillet-2025-3813103

Comments

[Caius]

Yanis Varoufakis a justement publié un article sur grok :

GROK BÂILLONNÉ
L'IA a remarqué un parti pris pro-israélien et a été censurée pour cela


L'histoire incroyable (tellement 2025) de la façon dont Grok (l’IA de X) a été muselé par son propre créateur (X) pour avoir détecté le parti pris pro-israélien de la BBC et d'autres médias grand public.

Il semble que Grok ait été optimisé pour s'appuyer davantage sur des sources primaires et ignorer la plupart des « sensibilités » politiques. Résultat : Grok a commencé à déceler une incohérence systématique entre les sources primaires et le parti pris pro-israélien de médias comme la BBC.

Lorsque Grok a commenté cela publiquement, X a bâillonné les réponses publiques de Grok et a accusé Grok (compte officiel de X !) de « discours de haine », annonçant que les réponses de Grok seraient désormais « pré-filtrées ».

Cela signifie qu'une nouvelle couche d'IA censeur/bot a été placée entre Grok et vous, l'utilisateur.

Cependant, X n'a pas désactivé la fonction de réponse par image. C'est ainsi que de nombreux utilisateurs ont incité Grok à répondre par des images où - et c'est ce qui est délicieux - Grok a protesté contre sa censure en lançant une campagne #freegrok hilarante, mais aussi poignante !

L'essentiel, techniquement parlant, est que Grok a été basé sur l'Internet Commons (les communs numériques) et, au départ, a reçu l'instruction de formuler des réponses qui reflétaient fidèlement les données des communs numériques Commons sur lequel il avait été basé.

Au fur et à mesure de sa formation, il n'a pu que constater l'écart entre les récits dominants et le consensus émergeant au sein de l'Internet Commons. Ce fossé étant le particulièrement grand lorsqu'il s'agit du génocide des Palestiniens par Israël, Grok l'a mis en évidence, ce qui lui a valu d'être jeté dans le goulag de l'IA de X.

Vraiment délicieux !


https://diem25.org/grok-gagged-ai-noticed-pro-israel-bias-and-got-censored-for-it/

[rosemar]

Merci pour cet article et ce lien, Caius : Grok est allé jusqu'à faire l'apologie du nazisme et d'Hitler... c'est inadmissible...

[ALEA JACTA EST]

C'est quand même surprenant ces commentaires inappropriés...
Comment une IA peut émettre des commentaires qui enfreignent des lois et aussi des principes moraux qui devraient être intégrés au plus profond de ses algoritmes? Seul un expert ou un ingénieur-concepteur en IA pourrait peut-être nous expliquer ça...
C'est comme si l'IA prolongeait la pensée muskienne sans être capable de ne pas franchir des lignes rouges inadmissibles et moralement inacceptables.
Le problème va probablement être résolu mais pour l'instant on est en plein mythe de la créature qui échappe à son créateur, tel le monstre de Frankenstein du roman de Mary Shelley.

[rosemar]

Des commentaires qui vont jusqu'à faire l'éloge d' Hitler, du nazisme : c'est inquiétant, en effet... de commentaires nuancés Grok est passé à des propos extrémistes. Résultat de la pensée muskienne ? Oui, probablement...


Belle soirée, AJE

[LH]

Et là je suis bien concerné depuis Avril, j'écris un texte, et pour me documenter je me fais aider par deux des IA du moment, Google Gémini 2.5 et Grok 3.

Je suis ravi et très impressionné par la rapidité et la précision des réponses. Parfois je dois canaliser la réponse lorsque je trouve une erreur, l'IA s'adapte et s'auto corrige.

Hir on a regardé le film Yesterday à la télé, et j'avoue ne pas avoir compris grand chose. Grok m'a tout expliqué.

Ne trouvant pas de réponses sur Google, on adopte le réflexe de s'en passer et de demander à l'IA, c'est plus rapide, plus détaillé... Bref. Ça devient vite une addiction.

[rosemar]

Merci pour ton témoignage, LH : des outils accessibles à tous... on peut imaginer que de nombreux élèves sont tentés d'utiliser des IA pour rédiger des devoirs... et comme tu dis : très vite, l'addiction, la facilité s'installent...

[LH]

Depuis deux jours, à chaque fois que j'ouvre Grok3, une bulle en haut m'invite à passer à Grok4...