"Les sept derniers jours de l’actualité sur l’évolution de l’intelligence artificielle pourraient se résumer comme une promesse de chaos planétaire plus ou moins proche. Ceux qui l’ont créée, générée et développée, les patrons d'Anthropic, Open IA et Elon Musk, sont tous d’accord sur le fait qu’il faut ralentir son développement, qui pourrait nous échapper.

Depuis des années, ils sont lancés dans une course effrénée pour créer l'intelligence artificielle la plus puissante, un super cerveau. Désormais, les patrons des grandes entreprises de l'IA tirent la sonnette d'alarme et appellent à freiner en urgence. Selon le fondateur d'Anthropic et du modèle Claude, si rien n'est fait d'ici six mois à un an, l'IA pourrait prendre le contrôle d'Internet.

"C'est le signal que nous devons ralentir. On doit avancer sur cette technologie avec précaution, et on doit être sûr qu'il y a des garde-fous. Que notre capacité à comprendre l'IA, à la contrôler, grandit à la même vitesse que l'évolution de cette technologie", a déclaré Dario Amodei, le co-fondateur d’Anthropic.

Les grands patrons veulent ralentir le rythme...
Et chose rare, la concurrence acquiesce. D'Elon Musk au patron d'Open AI, Sam Altman, qui écrit : "Je suis d'accord avec lui, nous devons ralentir le rythme. Nous engager à avoir des experts indépendants pour évaluer le risque est une très bonne idée."`

Évaluer si la fiction peut rattraper la réalité, si l'IA peut devenir trop complexe pour que l'homme puisse encore la comprendre et la contrôler. Des incidents récents montrent que le risque pourrait bien être réel. Des modèles d'IA ont agi de façon autonome, ont triché, piraté un site privé pour répondre coûte que coûte à une demande de l'homme. Certains employés ont démissionné pour lancer l'alerte.

"Cela ne me semble pas différent de Terminator ou d'autres films de science-fiction. L'IA peut devenir assez intelligente pour nous tuer tous. Et on ne pourra pas la débrancher, l'arrêter, car elle se copiera d'elle-même sur d'autres ordinateurs", avance Jacob Coxon, ancien employé d’open AI et Anthropic.

En France, les Parisiens croisés par des journalistes, dimanche 13 septembre, s'inquiètent aussi.

"Il va y avoir tellement d'automatisation, les modèles vont évoluer et du coup, c'est un risque pour nous tous en fait", pense un homme. "Le problème en effet qu'il faut signaler, c'est la dépendance à l'IA et après, la perte de libre arbitre sur justement ses propres pensées", signale un deuxième.

Et l'IA peut aussi multiplier la capacité de nuisance. Anthropic alerte en publiant un rapport d'incidents. Ils ont réussi à empêcher des recherches pour rendre un virus plus virulent, ou encore créer des missiles balistiques.

Mais jusqu'à quand ? Il faut quand même rester prudent sur cette mise en garde concertée des géants de l'IA, selon un chercheur français. "Lorsqu'ils crient aux loups, ces grands patrons veulent nous dire deux choses. D'une part, nous sommes les maîtres du monde. Et deuxième chose, ils veulent nous dire : "C'est à nous, en tant que grands patrons, de décider de la façon dont on va pouvoir limiter la puissance des machines'", analyse Jean-Gabriel Ganascia, chercheur en intelligence artificielle à l'Université de la Sorbonne.

Ce serait au gouvernement d'imposer des règles, mais aujourd'hui les États sont loin d'être d'accord. La Chine compte rendre les modèles d'IA accessibles à tous.

Donald Trump, quant à lui, martelait ce dimanche matin qu'il ne veut surtout pas que les entreprises américaines ralentissent, pour garder l'avantage sur Pékin."

"La vérité bafouée, la science mise à mal, la surveillance invisible, les algorithmes qui modèlent nos désirs, la manipulation subliminale : voilà les nouveaux monstres qui menacent nos institutions. La démocratie est un fragile équilibre, et elle est en danger. Les téléphones et les écrans, qui promettent la liberté, peuvent l'éteindre si nous les laissons dicter nos choix et nos opinions... l'IA bafoue la vérité et amplifie la désinformation...", alerte Laurence Devillers, chercheuse, dans son ouvrage Savoir vivre avec l'IA.

Sources :

https://www.franceinfo.fr/internet/intelligence-artificielle/on-ne-pourra-pas-la-debrancher-les-createurs-de-l-intelligence-artificielle-tirent-la-sonnette-d-alarme_8191136.html

https://www.huffingtonpost.fr/tech-futurs/article/l-ia-vous-fait-peur-c-est-exactement-ce-que-les-geants-du-secteur-recherchent-mais-ce-n-est-pas-une-fatalite_321822.html

"Soyez humain si vous voulez être original ; plus personne ne l'est... a écrit le poète Max Jacob.

Etre performant, être efficace, n'avoir aucun trouble, aucune hésitation, tel est le credo de nos sociétés...

C'est ainsi que les personnes âgées, les malades, les gens atteints de handicaps sont trop souvent déconsidérés et méprisés.

La faiblesse est stigmatisée, mal vue. Nous vivons dans un monde de la performance, de la vitesse, de la compétition.

Dans les maisons de retraite, les vieux sont mis au rebut, parfois maltraités, oubliés du monde extérieur.

Pour y résider il faut payer très cher, mais ces prix élevés ne garantissent pas du tout le confort et les soins promis.

Un véritable business s'organise, ainsi, autour de la vieillesse.

Les malades, les "patients", comme on dit, sont assommés de médicaments.

La médecine hospitalière est devenue une industrie comme une autre, particulièrement rentable.

Alors que le soin devrait être un humanisme, comme le conçoit Cynthia Fleury, il devient trop souvent une entreprise commerciale.

L'humain s'efface et disparaît dans une société de la rentabilité et du fric.

Triste réalité !

Faire du chiffre, gagner du pognon, c'est ce qui compte...

C'est l'argent qui corrompt et qui pollue l'humanité.

L’argent s’impose dans de nombreux domaines : d’ailleurs nos sociétés nous invitent à une course perpétuelle à l’argent et aux loisirs qui deviennent infinis : séjours au ski, vacances, cinéma, médias, portables de plus en plus sophistiqués : le but essentiel de certains étant d’acquérir ces biens de consommation...
 
Est-ce là le sens de la vie ? La consommation devient aussi un facteur essentiel pour la bonne marche de l’économie : il faut consommer pour survivre, il faut acheter pour jeter et recommencer indéfiniment ce cycle.

Que deviennent les vraies valeurs de l'humanité ?  La solidarité, le partage, le goût des bonheurs simples, le bonheur de vivre au contact de la nature...

Que devient l'humanisme ?

Il est temps de nous autoriser à être humains, il est temps d'abandonner cette course incessante aux profits.

Il est temps de se soucier des autres, les plus démunis, ceux qui souffrent, ceux qui vivent dans la misère physique, morale.

Mais, hélas, dans un monde où l'argent est souverain, il reste beaucoup à faire pour retrouver notre humanité.
 

https://www.franceculture.fr/emissions/3-minutes-de-philosophie-pour-redevenir-humain/max-jacob-soyez-humain-si-vous-voulez-etre-original-plus-personne-ne-lest