La NBQ, dans sa rubrique Borgo Pio, relate aujourd’hui une anecdote piquante à propos de Léon XIV, qui, avant son dernier voyage apostolique, a interrogé l’IA pour lui demander (tiens! lui aussi!!) ce que le pape devait dire aux évêques espagnols, et qui s’est vu proposer une réponse se référant à … François (une expérience que chacun de nous peut faire, régulièrement, les journalistes qui ânonnent les dépêches à la télé ou à la radio ne relisent pas leur texte, par paresse ou ignorance, et quand il est question du pape, ils disent « François… », laissant ainsi soupçonner que les dépêches sont rédigées avec l’IA).

Cela peut faire sourire, mais nécessite une explication. J’ai donc interrogé Gemini, et sa réponse est intéressante (même si on s’en doutait un peu).

L’anecdote

https://lanuovabq.it/it/leone-xiv-corregge-lintelligenza-artificiale

.

Aciprensa cite les propos de Yago de la Cierva, coordinateur du voyage papal en Espagne, qui a raconté un petit incident amusant et instructif survenu lors du déjeuner du Pape avec les évêques espagnols à la nonciature. 

Avant de bénir le repas, Léon XIV « a raconté qu’avant de partir en voyage, il avait contacté une intelligence artificielle pour lui demander : « Que devrait dire le pape aux évêques espagnols ? ». Et l’intelligence artificielle lui a répondu : « Le pape François dirait… ». Alors il l’a interrompue et a dit : « Je crois qu’il y a un autre pape ». Et puis l’intelligence artificielle a dit : « Ah, c’est vrai, maintenant c’est le pape Léon ».

En somme, l’IA a dû manquer un conclave et c’est l’élu lui-même qui s’est chargé de la mettre à jour. Cela confirme l’irréductibilité du facteur humain, aussi sophistiqué que soit l’outil. 

Et si même le Pape n’est pas infaillible en toutes circonstances, qu’en est-il de l’IA…

Question à Gemini , et sa réponse

A la lumière de cet article (https://lanuovabq.it/it/leone-xiv-corregge-lintelligenza-artificiale) peux-tu m’expliquer pourquoi, l’IA se trompe sur les faits récents?

À la lumière de cette anecdote et des mécanismes technologiques qu’elle illustre, plusieurs raisons expliquent pourquoi l’IA se trompe sur les faits récents :

.

1. La date limite des connaissances (Knowledge Cutoff)

Les grands modèles de langage ne fonctionnent pas comme un esprit humain capable de percevoir le monde en continu. Ils sont entraînés sur une base de données gigantesque qui s’arrête à un instant précis (appelé la date de coupure ou training cutoff). Si un événement majeur — comme un conclave élisant un nouveau Pape — se produit après cette date de fermeture des données, l’IA n’en a absolument pas conscience, à moins d’être entièrement réentraînée ou activement mise à jour.

.

2. La surreprésentation statistique du passé

L’IA génère ses réponses en calculant des probabilités de mots basées sur ce qu’elle a le plus vu durant son apprentissage. Le pontificat du pape François s’étant étendu sur de nombreuses années, le volume de textes, de discours et d’articles l’associant au titre de « Pape » est statistiquement immense dans la mémoire de la machine. Face à une actualité très récente, même si l’IA y a brièvement accès, l’ancienne information reste temporairement plus ancrée dans ses connexions statistiques complexes, ce qui favorise ce genre d’anachronisme.

.

3. L’absence de conscience autonome et le besoin du « facteur humain »

Comme le souligne l’auteur de l’article, cet épisode confirme « l’irréductibilité du facteur humain ». L’IA n’a pas de conscience du temps présent ni d’yeux pour regarder le journal télévisé. Elle ne « sait » pas que le monde change tant que des humains ne modifient pas ses algorithmes ou ne lui fournissent pas de nouvelles données. Dans le cas de l’article, il a fallu que l’élu lui-même vienne interagir avec la machine et corriger explicitement son erreur pour qu’elle actualise sa perception de la réalité.

En résumé, l’IA fait des erreurs sur les faits récents parce qu’elle est un outil intrinsèquement tourné vers le passé (ses données d’entraînement) et qu’elle dépend entièrement de la supervision, de la mise à jour et de la correction constante des êtres humains pour coller au présent.