"Les sept derniers jours de l’actualité sur l’évolution de l’intelligence artificielle pourraient se résumer comme une promesse de chaos planétaire plus ou moins proche. Ceux qui l’ont créée, générée et développée, les patrons d'Anthropic, Open IA et Elon Musk, sont tous d’accord sur le fait qu’il faut ralentir son développement, qui pourrait nous échapper.
Depuis des années, ils sont lancés dans une course effrénée pour créer l'intelligence artificielle la plus puissante, un super cerveau. Désormais, les patrons des grandes entreprises de l'IA tirent la sonnette d'alarme et appellent à freiner en urgence. Selon le fondateur d'Anthropic et du modèle Claude, si rien n'est fait d'ici six mois à un an, l'IA pourrait prendre le contrôle d'Internet.
"C'est le signal que nous devons ralentir. On doit avancer sur cette technologie avec précaution, et on doit être sûr qu'il y a des garde-fous. Que notre capacité à comprendre l'IA, à la contrôler, grandit à la même vitesse que l'évolution de cette technologie", a déclaré Dario Amodei, le co-fondateur d’Anthropic.
Les grands patrons veulent ralentir le rythme...
Et chose rare, la concurrence acquiesce. D'Elon Musk au patron d'Open AI, Sam Altman, qui écrit : "Je suis d'accord avec lui, nous devons ralentir le rythme. Nous engager à avoir des experts indépendants pour évaluer le risque est une très bonne idée."`
Évaluer si la fiction peut rattraper la réalité, si l'IA peut devenir trop complexe pour que l'homme puisse encore la comprendre et la contrôler. Des incidents récents montrent que le risque pourrait bien être réel. Des modèles d'IA ont agi de façon autonome, ont triché, piraté un site privé pour répondre coûte que coûte à une demande de l'homme. Certains employés ont démissionné pour lancer l'alerte.
"Cela ne me semble pas différent de Terminator ou d'autres films de science-fiction. L'IA peut devenir assez intelligente pour nous tuer tous. Et on ne pourra pas la débrancher, l'arrêter, car elle se copiera d'elle-même sur d'autres ordinateurs", avance Jacob Coxon, ancien employé d’open AI et Anthropic.
En France, les Parisiens croisés par des journalistes, dimanche 13 septembre, s'inquiètent aussi.
"Il va y avoir tellement d'automatisation, les modèles vont évoluer et du coup, c'est un risque pour nous tous en fait", pense un homme. "Le problème en effet qu'il faut signaler, c'est la dépendance à l'IA et après, la perte de libre arbitre sur justement ses propres pensées", signale un deuxième.
Et l'IA peut aussi multiplier la capacité de nuisance. Anthropic alerte en publiant un rapport d'incidents. Ils ont réussi à empêcher des recherches pour rendre un virus plus virulent, ou encore créer des missiles balistiques.
Mais jusqu'à quand ? Il faut quand même rester prudent sur cette mise en garde concertée des géants de l'IA, selon un chercheur français. "Lorsqu'ils crient aux loups, ces grands patrons veulent nous dire deux choses. D'une part, nous sommes les maîtres du monde. Et deuxième chose, ils veulent nous dire : "C'est à nous, en tant que grands patrons, de décider de la façon dont on va pouvoir limiter la puissance des machines'", analyse Jean-Gabriel Ganascia, chercheur en intelligence artificielle à l'Université de la Sorbonne.
Ce serait au gouvernement d'imposer des règles, mais aujourd'hui les États sont loin d'être d'accord. La Chine compte rendre les modèles d'IA accessibles à tous.
Donald Trump, quant à lui, martelait ce dimanche matin qu'il ne veut surtout pas que les entreprises américaines ralentissent, pour garder l'avantage sur Pékin."
"La vérité bafouée, la science mise à mal, la surveillance invisible, les algorithmes qui modèlent nos désirs, la manipulation subliminale : voilà les nouveaux monstres qui menacent nos institutions. La démocratie est un fragile équilibre, et elle est en danger. Les téléphones et les écrans, qui promettent la liberté, peuvent l'éteindre si nous les laissons dicter nos choix et nos opinions... l'IA bafoue la vérité et amplifie la désinformation...", alerte Laurence Devillers, chercheuse, dans son ouvrage Savoir vivre avec l'IA.
Sources :
commenter cet article …
/image%2F1490176%2F20260915%2Fob_3c6b0d_ai-generated-7718624-640.jpg)
/image%2F1490176%2F20260914%2Fob_44d52d_jatocreate-couple-7392826-640.jpg)
/image%2F1490176%2F20260910%2Fob_39cd9f_gpoulsen-ocean-6644630-640.jpg)
/image%2F1490176%2F20260829%2Fob_7a9b87_donald-trump.jpg)
/image%2F1490176%2F20260829%2Fob_6cd042_dominickvietor-lake-7541307-640.jpg)
/image%2F1490176%2F20260906%2Fob_e34a67_cole-2.jpg)
/image%2F1490176%2F20260830%2Fob_a5373a_tatlin-cigarette-106610-640.jpg)
/image%2F1490176%2F20260902%2Fob_f52d52_jplenio-sun-3588618-640-1.jpg)


