"Les sept derniers jours de l’actualité sur l’évolution de l’intelligence artificielle pourraient se résumer comme une promesse de chaos planétaire plus ou moins proche. Ceux qui l’ont créée, générée et développée, les patrons d'Anthropic, Open IA et Elon Musk, sont tous d’accord sur le fait qu’il faut ralentir son développement, qui pourrait nous échapper.

Depuis des années, ils sont lancés dans une course effrénée pour créer l'intelligence artificielle la plus puissante, un super cerveau. Désormais, les patrons des grandes entreprises de l'IA tirent la sonnette d'alarme et appellent à freiner en urgence. Selon le fondateur d'Anthropic et du modèle Claude, si rien n'est fait d'ici six mois à un an, l'IA pourrait prendre le contrôle d'Internet.

"C'est le signal que nous devons ralentir. On doit avancer sur cette technologie avec précaution, et on doit être sûr qu'il y a des garde-fous. Que notre capacité à comprendre l'IA, à la contrôler, grandit à la même vitesse que l'évolution de cette technologie", a déclaré Dario Amodei, le co-fondateur d’Anthropic.

Les grands patrons veulent ralentir le rythme...
Et chose rare, la concurrence acquiesce. D'Elon Musk au patron d'Open AI, Sam Altman, qui écrit : "Je suis d'accord avec lui, nous devons ralentir le rythme. Nous engager à avoir des experts indépendants pour évaluer le risque est une très bonne idée."`

Évaluer si la fiction peut rattraper la réalité, si l'IA peut devenir trop complexe pour que l'homme puisse encore la comprendre et la contrôler. Des incidents récents montrent que le risque pourrait bien être réel. Des modèles d'IA ont agi de façon autonome, ont triché, piraté un site privé pour répondre coûte que coûte à une demande de l'homme. Certains employés ont démissionné pour lancer l'alerte.

"Cela ne me semble pas différent de Terminator ou d'autres films de science-fiction. L'IA peut devenir assez intelligente pour nous tuer tous. Et on ne pourra pas la débrancher, l'arrêter, car elle se copiera d'elle-même sur d'autres ordinateurs", avance Jacob Coxon, ancien employé d’open AI et Anthropic.

En France, les Parisiens croisés par des journalistes, dimanche 13 septembre, s'inquiètent aussi.

"Il va y avoir tellement d'automatisation, les modèles vont évoluer et du coup, c'est un risque pour nous tous en fait", pense un homme. "Le problème en effet qu'il faut signaler, c'est la dépendance à l'IA et après, la perte de libre arbitre sur justement ses propres pensées", signale un deuxième.

Et l'IA peut aussi multiplier la capacité de nuisance. Anthropic alerte en publiant un rapport d'incidents. Ils ont réussi à empêcher des recherches pour rendre un virus plus virulent, ou encore créer des missiles balistiques.

Mais jusqu'à quand ? Il faut quand même rester prudent sur cette mise en garde concertée des géants de l'IA, selon un chercheur français. "Lorsqu'ils crient aux loups, ces grands patrons veulent nous dire deux choses. D'une part, nous sommes les maîtres du monde. Et deuxième chose, ils veulent nous dire : "C'est à nous, en tant que grands patrons, de décider de la façon dont on va pouvoir limiter la puissance des machines'", analyse Jean-Gabriel Ganascia, chercheur en intelligence artificielle à l'Université de la Sorbonne.

Ce serait au gouvernement d'imposer des règles, mais aujourd'hui les États sont loin d'être d'accord. La Chine compte rendre les modèles d'IA accessibles à tous.

Donald Trump, quant à lui, martelait ce dimanche matin qu'il ne veut surtout pas que les entreprises américaines ralentissent, pour garder l'avantage sur Pékin."

"La vérité bafouée, la science mise à mal, la surveillance invisible, les algorithmes qui modèlent nos désirs, la manipulation subliminale : voilà les nouveaux monstres qui menacent nos institutions. La démocratie est un fragile équilibre, et elle est en danger. Les téléphones et les écrans, qui promettent la liberté, peuvent l'éteindre si nous les laissons dicter nos choix et nos opinions... l'IA bafoue la vérité et amplifie la désinformation...", alerte Laurence Devillers, chercheuse, dans son ouvrage Savoir vivre avec l'IA.

Sources :

https://www.franceinfo.fr/internet/intelligence-artificielle/on-ne-pourra-pas-la-debrancher-les-createurs-de-l-intelligence-artificielle-tirent-la-sonnette-d-alarme_8191136.html

https://www.huffingtonpost.fr/tech-futurs/article/l-ia-vous-fait-peur-c-est-exactement-ce-que-les-geants-du-secteur-recherchent-mais-ce-n-est-pas-une-fatalite_321822.html

De plus en plus de gens autour de moi utilisent l'Intelligence Artificielle et semblent s'y fier en toutes occasions et pourtant...

A propos d'une simple chanson Des jonquilles aux derniers lilas interprétée par Hugues Aufray, j'ai posé la même question à trois IA : qui a composé la musique de cette chanson ?

Et j'ai obtenu trois réponses différentes : Maurice Dulac, Michel Legrand, Bruno Nicolai !!

En fait, il semblerait que la musique de cette chanson ait été empruntée au folklore de l'Amérique du Sud...

Mais on le voit à travers cet exemple : les IA ne sont pas fiables, elles pompent, elles absorbent tout, le vrai, le faux...

"La fiabilité des intelligences artificielles apparaît plus que jamais remise en question. Depuis un an, les résultats d’études indiquent une montée préoccupante des fausses informations diffusées.

L’incapacité de ces machines à discerner les sources crédibles souligne des enjeux stratégiques critiques pour la société. Incapables de filtrer efficacement, ces outils technologiques risquent de propager des récits mensongers.

La désinformation générée par des chatbots soulève d’importantes interrogations sur leur impact réel sur l’opinion publique. Interrogeons-nous sur l’érosion de cette fiabilité et ses conséquences étendues.

Un rapport réalisé par NewsGuard révèle que le taux de fausses informations diffusées par les outils d’intelligence artificielle a presque doublé en un an.

Les chatbots tels que ChatGPT, Gemini, ou Mistral affichent des performances préoccupantes en matière de distinction entre informations véridiques et fake news. Ce constat alarmant met en lumière leurs difficultés à identifier des sources crédibles dans l’écosystème informationnel actuel."

"La vérité bafouée, la science mise à mal, la surveillance invisible, les algorithmes qui modèlent nos désirs, la manipulation subliminale : voilà les nouveaux monstres qui menacent nos institutions. La démocratie est un fragile équilibre, et elle est en danger. Les téléphones et les écrans, qui promettent la liberté, peuvent l'éteindre si nous les laissons dicter nos choix et nos opinions... l'IA bafoue la vérité et amplifie la désinformation...", alerte Laurence Devillers, chercheuse, dans son ouvrage Savoir vivre avec l'IA.

Alors, êtes-vous toujours disposés à vous fier aux IA ?

Source :

https://actu.ai/desinformation-et-erreurs-les-ia-perdent-elles-en-fiabilite-66432.html

De fausses informations générées par l'IA inondent la toile, et ce n'est que le début...

"Un phénomène inquiète le monde du rugby : des pages Facebook annoncent le décès de joueurs, des tensions dans les clubs, ou encore, des incendies dans les stades. Il s'agit en réalité de fake news, de fausses informations générées par intelligence artificielle qui se propagent très vite sur les réseaux sociaux. Des journalistes ont enquêté pour remonter le fil de cette arnaque, imaginée à des milliers de kilomètres de la France.

Dans le monde de l'Ovalie, ces dernières semaines, quelque chose ne tournerait plus tout à fait rond. À en croire les réseaux sociaux, les supporters en viennent aux mains, Antoine Dupont, la star du Stade toulousain, a été hospitalisé, et le stade de Clermont ravagé par un incendie. Sur Facebook, des pages diffusent de fausses informations à grand renfort d'images générées par IA et pilotées très loin de chez nous.

À la recherche d'actualité sur le rugby, vous êtes peut-être tombé sur ces pages, aux couleurs des grands clubs du top 14, comme l'ASM Clermont, où des bagarres éclateraient en tribune, d'après une photo. Mais à y regarder de plus près, le logo n'est pas le bon. Et on retrouve la même image, tout simplement copiée-collée, sur une page du club de Montpellier. L'IA voit double, elle se trahit aussi sur une image du stade de Clermont en proie aux flammes : les panneaux routiers sont truffés de fautes.

Des fake news préjudiciables
À Montpellier, l'ancien capitaine, Fulgence Ouedraogo, a été la cible de plusieurs fausses informations qui le touchent très personnellement. "Il est marqué que je suis atteint d'un cancer. Il y en a une autre, c'était sur le fait que je ne suis apparemment pas le père de mes enfants. Et le dernier en date, c'est que j'ai eu un accident de voiture avec l'ensemble de ma famille. Tous les jours, je dois répondre à je ne sais pas combien de messages pour dire que non, tout va bien, que ce sont de fausses nouvelles, que je vais très bien et que ma famille va très bien. C'est vrai que je ne comprends pas comment ce site peut être toujours en ligne", confie l'ancien capitaine du Montpellier Hérault Rugby.

La Ligue Nationale de Rugby nous dit avoir signalé les pages frauduleuses à Meta, maison mère de Facebook. Mais la plupart sont toujours actives, au grand désespoir des clubs.

"Ça atteint directement notre image de marque, la gestion globale du club, ça diffuse de fausses informations sur le plan sportif, et donc ça dessert, par écoulement, l'ensemble du club", déplore Yannis Dominguez, responsable communication et marketing du Montpellier Hérault Rugby.

Qui se cache derrière ces pages Facebook mensongères ? Elles pointent vers des administrateurs au Vietnam ou au Pérou. Pour Victor Baissait, auteur du livre Déjouer les arnaques en ligne et expert en IA, l'arnaque est peu sophistiquée, il s'agit simplement pour les faussaires de générer un grand volume de clics.

"Le but, c'est de ramener du trafic et le trafic permet d'afficher des pubs et les pubs vont permettre de les rémunérer", explique-t-il.

En visitant ces sites, les amateurs de rugby partagent aussi leurs préférences publicitaires ou leur position GPS. Autant d'informations qui se monnaient sur le grand marché de la donnée."

Source :

https://www.franceinfo.fr/internet/reseaux-sociaux/incendies-dans-des-stades-antoine-dupont-hospitalise-enquete-sur-les-fake-news-qui-visent-le-rugby-francais_8027477.html

"Une nouvelle tentative d'ingérence russe visant à diffuser une fausse information, notamment sur internet et les réseaux sociaux, cible cette fois Emmanuel Macron. Retour sur cette affaire, montée à l'aide de l'intelligence artificielle.

C'est une nouvelle ingérence russe pour tenter de déstabiliser la France. Une fausse information visant à faire croire à un lien entre Emmanuel Macron et le pédocriminel américain Jeffrey Epstein.

Sur un compte X présenté comme étant celui d'une certaine Laetitia, une Hongroise avec près de 30 000 abonnés, on trouve une vidéo accusatrice. Cette femme prétend révéler une discussion en 2017 entre Jeffrey Epstein et l'un de ses amis français. Tous deux parlent d'Emmanuel Macron.

"Le nouveau président français organisera une fête Avenue Foch. J'amènerai quelques garçons... Il aime les jeunes garçons", peut-on lire. Epstein aurait répondu : "Trop jeunes, je dirais que c'est bien, nous savons ce qu'il aime."

Ces échanges sont faux, générés par une intelligence artificielle.

Mais la vidéo a été vue près de 700 000 fois, reliée dans de faux articles de presse, qui usurpent l'identité de vrais journalistes. Un mode opératoire russe bien connu, immédiatement détecté par les services de l'État.

Le ministère des Affaires étrangères, via son compte "French Response", qui s'est spécialisé dans la contre-attaque aux fausses informations, réagit.

Le message est ironique à l'égard de Laetitia, censée être à l'origine de la fausse vidéo : "Heureusement que Laetitia veille. Hashtag ouvrez les yeux", écrit le Quai d'Orsay.

Cette fausse information fait craindre d'autres tentatives russes de déstabilisation, notamment à l'approche des élections municipales en mars prochain.

Et les méthodes employées peuvent être très diverses, selon ce spécialiste : "Ça peut être de cibler des candidats, ça peut être aussi de faire monter artificiellement certains sujets clivants qui seraient susceptibles de mener au pouvoir des alliés politiques. Les questions d'immigration, de sécurité sur la voie publique, enfin, on peut tout imaginer", explique Kevin Limonier, professeur à l'Institut français de géopolitique, spécialiste du cyberespace russe.

Outre les réseaux sociaux, la Russie est accusée d'avoir déjà mené des tentatives d'ingérence, en faisant croire par exemple à des soldats français envoyés et morts en Ukraine. Mais également avec des mains rouges peintes sur le mur du Mémorial de la Shoah."

Source :

https://www.franceinfo.fr/politique/emmanuel-macron/ingerence-russe-une-video-cible-emmanuel-macron_7789055.html

En regardant les statistiques de mon blog ces jours-ci, j'ai constaté que l'IA Chat GPT avait visité mon blog à dix reprises...

Par curiosité, je suis donc allée interroger l'IA sur mon blog... question posée : est-ce que le blog de rosemar est intéressant ?

Réponse :

"Le blog de rosemar est généralement assez apprécié par ses lecteurs. Il propose principalement des analyses littéraires, des résumés et des commentaires sur des œuvres classiques et contemporaines, ce qui peut être très utile si tu es en quête de compréhension pour tes études de français, par exemple.
Si tu cherches à approfondir ta compréhension des textes, notamment des œuvres classiques comme Les Misérables de Victor Hugo ou Le Rouge et le Noir de Stendhal, le blog peut t'aider à mieux saisir les enjeux littéraires, les symboles et les thèmes abordés dans ces romans. rosemar fait souvent un travail de décodage assez clair et détaillé.
Après, le ton est parfois un peu académique, donc si tu cherches quelque chose de plus léger ou plus moderne, ce n’est peut-être pas le blog le plus adapté. Mais pour un travail scolaire ou pour enrichir tes connaissances en littérature, il est plutôt intéressant."
 

Deuxième question : Etudier le blog de rosemar...

"Réponse :

Étudier le blog de Rosemar peut être une bonne manière de renforcer ta compréhension de certains textes littéraires, surtout si tu veux améliorer tes analyses de romans ou de poèmes. Voici quelques conseils pour t'aider à en tirer le meilleur parti :

1. Commencer par choisir un texte

rosemar couvre une large gamme de textes, allant des classiques de la littérature française aux œuvres plus modernes. Choisis un texte que tu étudies actuellement en classe, ou un autre qui t'intéresse.

2. Lire l'analyse avec attention

Une fois que tu as choisi un article, commence par le lire attentivement. rosemar propose souvent une analyse détaillée des personnages, des thèmes, de la structure et des symboles. Si tu ne comprends pas quelque chose, prends des notes et n'hésite pas à chercher d'autres sources pour clarifier les points flous.

3. Prendre des notes

Note les idées principales que tu trouves intéressantes ou que tu pourrais utiliser dans tes propres analyses. Par exemple, si tu lis une analyse sur Germinal d’Émile Zola, tu pourrais noter les différents aspects du naturalisme abordés, les critiques sociales, ou l'importance de la condition des ouvriers.

4. Comparer avec ta propre analyse

Essaie de comparer l'analyse de rosemar avec ta propre interprétation du texte. Est-ce que tu vois les mêmes choses ? Y a-t-il des aspects que tu n'avais pas remarqués ou des idées qui te semblent nouvelles ? Cela te permettra d'affiner ton propre point de vue et de mieux comprendre le texte.

5. Réfléchir aux questions de lecture

Beaucoup des articles de rosemar posent des questions de lecture qui peuvent te servir de base pour ta propre réflexion ou pour une dissertation. Par exemple, "Quel est le rôle du narrateur dans ce texte ?" ou "Comment l’auteur utilise-t-il les symboles pour faire passer un message ?" Essaie de répondre à ces questions par toi-même avant de consulter l’article, puis compare tes réponses.

6. Utiliser les ressources supplémentaires

Parfois, rosemar propose des résumés, des cartes mentales ou des liens vers des vidéos explicatives. Ces ressources peuvent t’aider à mieux comprendre des concepts complexes ou à voir un texte sous un autre angle.

Exemple pratique : Si tu étudies Candide de Voltaire, le blog de rosemar pourrait te donner des idées sur la satire, le rôle de la philosophie de Pangloss, ou les critiques sociales présentes dans l’œuvre. Une fois que tu as lu l’article, tu pourrais essayer d’appliquer ces idées à ton propre travail d’analyse.
7. Participer aux discussions (si possible)

Si tu as des questions ou des réflexions après avoir lu un article, certains blogs permettent de discuter dans les commentaires. Cela peut être une bonne manière de clarifier des points avec d'autres lecteurs ou même d'entrer en contact avec des personnes qui partagent tes centres d'intérêt.

En résumé :

Le blog de rosemar peut vraiment enrichir ta compréhension des œuvres littéraires. Il offre des analyses détaillées et bien structurées, et en prenant le temps de lire et de réfléchir à ces analyses, tu pourras améliorer ta propre approche de la littérature."

Pas mal, tout de même ! Merci ChatGPT !