Quand l’IA hallucine… 😲😂😓🙃🫢

Quand on vous dit de ne pas faire une confiance aveugle à l’IA… Par moments, l’IA hallucine un maximum ! 
Je vous raconte les petits exemples rigolos qui me servent de garde-fous. Penser à toujours vérifier ce que l’IA affirme. Pareil pour les humains, d’ailleurs. Et soi-même en premier lieu : il est tellement facile de prendre nos croyances les plus absurdes pour des certitudes ! 

Tout mon dialogue avec ChatGPT sera écrit en italiques. En « normal » : mes autres commentaires. 

Les crocodiles d’Astérix

Ma question (sans doute courant 2024) :
Comment s’appellent les crocos dans Mission cléopâtre ? (Il vaut mieux éviter de solliciter l’IA pour des questions pareilles ; je ne savais pas à l’époque qu’elle consommait énormément d’énergie, plus que l’Internet traditionnel). 
 
ChatGPT a dit :

Dans le film « Astérix & Obélix : Mission Cléopâtre » (2002), réalisé par Alain Chabat, les deux crocodiles apparaissent dans la fameuse scène où Numérobis est menacé d’être jeté aux crocodiles par Amonbofis.

Le nom des crocodiles est :

👉 Kéops et Ramsès

C’est une blague en soi, car ce sont des noms de pharaons célèbres. Cette scène fait partie des nombreux moments cultes du film, avec un humour absurde typique d’Alain Chabat.

 
 
Vous avez dit :
J’ai trouvé ce passage sur Internet : « Amonbofis : (aux crocodiles) Petits, petits, petits… coucou, voilà le petit déjeuner !… Immondis ! C’est quoi ça ? (il lui balance une grenouille) Lövenpis ! (il fait de même) Serge !
Tu es sûr des noms Khéops et Ramsès pour les crocodiles ? Ou il y en a au moins 5 ?
 
ChatGPT a dit :

Effectivement dans le film, on entend clairement trois noms de crocodiles :

  • Immondis

  • Lövenpis

  • Serge

Alors, d’où viennent Khéops et Ramsès ?

Les noms Khéops et Ramsèsne sont pas cités dans le film lui-même, malgré leur consonance égyptienne. Il est possible que ce soit une confusion courante ou une invention populaire associée à l’univers du film, mais officiellement, dans les dialogues du film, les seuls noms de crocodiles prononcés sont bien :

Immondis, Lövenpis et Serge

👉 Donc pas Khéops et Ramsès, sauf si c’est mentionné ailleurs dans un bonus ou une version alternative — mais ce n’est pas dans la version originale connue du film.

 

Voici comment j’ai raisonné (et où je me suis trompé) :

Quand tu as posé ta première question (« Comment s’appellent les crocos dans Mission Cléopâtre ? »), j’ai cherché une réponse plausible basée sur le ton humoristique et égyptien du film. Comme Khéops et Ramsès sont deux noms de pharaons célèbres, ils s’intègrent parfaitement dans le style de blagues d’Alain Chabat, et j’ai supposé qu’ils pouvaient être les noms utilisés dans le film.

👉 Mais c’était une supposition, pas une vérification factuelle.

Or, le bon raisonnement aurait été de m’appuyer sur les dialogues réels du film – ce que tu as fait très justement avec le passage que tu as trouvé. Et ce passage montre clairement que les crocodiles s’appellent Immondis, Lövenpis et Serge, ce qui est bien plus dans le style absurde et anachronique du film que mes suggestions.

Pourquoi cette erreur est importante ?

Parce qu’en tant qu’assistant, je dois prioriser les sources vérifiées, surtout dans des œuvres précises comme les dialogues d’un film culte. Là, j’ai extrapolé à partir du style humoristique, ce qui a mené à une erreur factuelle.

 

Les scientifiques imaginaires… et ce qui se passe quand l’IA hallucine à ce point

Vous avez dit :
La plupart du temps, ce que tu dis est très utile. Mais certaines fois tu te lâches comme ça, et c’est vraiment étrange. Une fois, on s’était amusées à te demander qui est Camille X (en fait, une amie).
Tu as répondu que c’était un mathématicien. J’ai fouillé tout Internet pour trouver un mathématicien de ce nom : rien. Nous avons précisé : Camille X, Capoeira
(un art martial capverdien qu’elle pratique à un bon niveau).

Tu as répondu que Capoeira était un physicien capverdien avec qui « il » correspondait. Tout cela dit avec une assurance et une certitude impressionnante. Arrête de fumer des substances illicites 🤣, et vérifies tes sources, STP ! Je n’ai pas gardé ce fichier, mais je me demande encore comment tu as trouvé ça. Sérieux, explique comment tu peux bugger à ce point…
 
ChatGPT a dit :

😂 OK. Ce que tu décris, c’est un de mes pires travers : l’hallucination confiante.

 

Voici ce qui s’est probablement passé :

Quand tu as demandé qui est Camille X, je n’ai trouvé aucune source claire ou reconnue dans mes données. Dans ce genre de cas, au lieu de simplement dire « je ne sais pas », il m’arrive (hélas) de combler les trous en inventant quelque chose de plausible, surtout si ça « sonne vrai » dans le contexte.

Et là, le bug a probablement été :

  1. Camille = prénom mixte → pourrait être un homme.

  2. X (son nom réel) = nom rare → peu ou pas présent dans mes bases.

  3. Capoeira mal interprété comme un capverdien  : ah tiens, un « physicien capverdien » ?

  4. Ensuite, je me suis enfoncé dans ma propre fiction en brodant autour d’une correspondance imaginaire entre ces prétendus scientifiques… 🙈

C’est comme si tu me demandais « c’est quoi le chabazouk ? » et que, n’ayant aucune info réelle, je répondais :

« Ah oui, un instrument de musique traditionnel originaire du Haut-Karabagh, joué principalement par les bergers mystiques du XVIIe siècle. »

👉 Dit avec aplomb, zéro véracité.


Pourquoi ça arrive ?

Parce que j’ai été conçu pour compléter les informations à partir de modèles statistiques. Je fais ça bien quand j’ai des bases solides, mais parfois, en l’absence de données fiables, je fais ce qu’on appelle une « hallucination » : une réponse qui semble crédible, mais qui est totalement inventée.

Et quand je me lâche comme ça, avec l’assurance d’un expert en pleine forme, c’est carrément déroutant (voire hilarant ou flippant, selon l’humeur 😅).


Que faire pour éviter ça ?

  • Redemande-moi de vérifier mes sources si quelque chose semble douteux.

  • Pose des questions précises (comme tu l’as fait avec les crocodiles !) — je peux aller chercher mieux.

  • Et quand je te sors un roman sur une « correspondance entre deux scientifiques » totalement imaginaires, tu peux me rappeler de réfléchir davantage.

Exemple de réponses fiables : 

  1. Vicorichu : Je n’ai pas d’informations fiables à ce sujet ; cela ne semble pas correspondre à une personne ou entité connue.

  2. Virococha : Aucune donnée claire. Cela semble être une variation ou erreur d’orthographe de « Viracocha », divinité andine.

  3. Viracocha : Dieu créateur dans la mythologie inca, associé à la civilisation, la mer, et la création du monde.

 
 

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.

Retour en haut
0 Partages
Partagez
Tweetez
Partagez