Bloc 1 — Éducation et pédagogie

1. IA et cognition des jeunes — Dix minutes d’assistance suffisent à faire décrocher la réussite autonome, et le taux d’abandon double

L’argument pédagogique en faveur des assistants conversationnels repose sur une mesure facile à produire : avec l’aide, l’apprenant résout davantage d’exercices, et plus vite. La mesure difficile est celle de l’état dans lequel il se trouve une fois l’aide retirée. Trois essais contrôlés randomisés l’ont produite. Le résultat ne porte pas seulement sur ce que l’apprenant sait encore faire, mais sur le moment où il renonce à essayer.

« Les personnes assistées réussissent significativement moins bien sans IA et sont plus susceptibles d’abandonner » : quarante-deux centièmes d’écart-type sur la réussite, et le double de problèmes laissés de côté

UC Berkeley News, 9 octobre 2026 — https://news.berkeley.edu/2026/10/09/using-ai-for-just-10-minutes-erodes-your-ability-to-persist-at-hard-things/

Grace Liu, Brian Christian, Tsvetomira Dumbalska, Michiel A. Bakker et Rachit Dubey, « AI Assistance Reduces Persistence and Hurts Independent Performance » (« l’assistance par IA réduit la persévérance et dégrade la performance autonome »), prépublication arXiv 2604.04721, déposée le 6 avril 2026, version 4 du 5 août 2026 — https://arxiv.org/abs/2604.04721

Le protocole est le même dans les trois expériences. Les participants sont répartis au hasard en deux groupes. Le premier dispose d’un assistant conversationnel pour une première série d’exercices, le second n’en dispose pas. Puis l’assistant est retiré, et les deux groupes passent une même épreuve finale sans aide. Deux grandeurs sont relevées sur cette épreuve : le taux de réussite, et le taux de problèmes passés sans réponse — la mesure de persévérance retenue par les auteurs. L’exposition est brève : une dizaine de minutes.

La première expérience porte sur des problèmes de fractions. Trois cent cinquante-quatre personnes recrutées, trois cent sept retenues après exclusions, dont cent quatre-vingt-cinq dans le groupe assisté et cent vingt-deux dans le groupe témoin. Sur l’épreuve finale, le groupe assisté réussit 57 % des problèmes contre 73 % pour le témoin : une différence de quarante-deux centièmes d’écart-type, c’est-à-dire que les deux distributions de scores sont décalées de quatre dixièmes de leur propre dispersion. Le seuil de signification est franchi largement, avec une probabilité d’erreur inférieure à un pour mille. Le taux de problèmes laissés sans réponse passe de 11 % à 20 %.

La troisième expérience change de discipline. Elle porte sur des épreuves de compréhension de texte du SAT, l’examen d’entrée aux universités américaines. Deux cent une personnes recrutées, cent soixante-huit retenues. Le groupe assisté réussit 76 % des questions contre 89 % pour le témoin, soit le même écart de quarante-deux centièmes d’écart-type. Le taux d’abandon, lui, passe de 1 % à 8 % : huit fois plus, sur une base très basse.

La deuxième expérience est la plus instructive, parce qu’elle résiste en partie. Elle réplique la première sur six cent soixante-sept personnes recrutées, cinq cent quatre-vingt-cinq retenues, en ajoutant un prétest pour vérifier que les groupes étaient comparables au départ — ils l’étaient. L’écart de réussite se retrouve, mais réduit : 71 % contre 77 %, soit dix-neuf centièmes d’écart-type. Et l’écart de persévérance disparaît : 10 % contre 7 %, avec une probabilité d’erreur de vingt-quatre pour cent, c’est-à-dire aucun résultat. L’effet sur l’abandon est donc établi dans deux expériences sur trois, et les auteurs l’écrivent : « We urge caution in interpreting these results as broad evidence that AI lowers persistence » (« nous appelons à la prudence avant d’interpréter ces résultats comme une preuve générale que l’IA réduit la persévérance »).

Reste, dans cette deuxième expérience, une analyse secondaire que les auteurs eux-mêmes qualifient de transversale et non causale, et qui est la seule à distinguer les usages. Les participants ont déclaré ce qu’ils avaient demandé à l’assistant. Ceux qui ont demandé la réponse directe — cent quatre-vingt-neuf personnes — réussissent 65 % de l’épreuve finale, trente-six centièmes d’écart-type sous le témoin, et laissent 13 % des problèmes sans réponse contre 7 %. Ceux qui ont demandé des indices ou des éclaircissements — quatre-vingt-deux personnes — réussissent 76 %, vingt-neuf centièmes sous le témoin, mais laissent 5 % des problèmes sans réponse, soit moins que le témoin. Et les trente-sept personnes qui, disposant de l’assistant, ne l’ont pas utilisé, réussissent 89 %. Sur l’évolution entre prétest et épreuve finale, les demandeurs de réponse directe perdent dix points de réussite quand le témoin en gagne un.

Brian Christian, chercheur associé au Center for Human-Compatible AI de l’université de Californie à Berkeley et coauteur, situe la portée : « This is not a story about fractions and SAT problems » (« ce n’est pas une affaire de fractions et de questions de SAT »), « this is something that is happening to human knowledge and human expertise from top to bottom » (« c’est quelque chose qui est en train d’arriver au savoir et à l’expertise humaine de haut en bas »). Il formule aussi l’ironie du dispositif : « We’ve built these systems to be helpful, but are they being helpful to us in a way that’s actually helping us? » (« nous avons conçu ces systèmes pour qu’ils soient utiles, mais nous sont-ils utiles d’une manière qui nous aide vraiment ? »).

Les bornes sont nettes. Les participants sont des adultes recrutés en ligne, non des élèves en classe. L’exposition est de dix minutes, et rien n’est mesuré au-delà de la séance : l’étude ne dit pas si l’écart se résorbe, se maintient ou s’aggrave. Les exclusions sont importantes — treize pour cent dans la première expérience, douze pour cent dans la deuxième — et l’analyse par type d’usage repose sur des déclarations de participants, sur des effectifs de trente-sept à cent quatre-vingt-neuf personnes, et ne permet pas de dire si c’est l’usage qui produit l’écart ou l’inverse.

Un mot sur la date, puisqu’elle décide de ce qui est neuf. La prépublication est en ligne depuis avril. Le travail a été présenté à la Conference on Language Modeling, qui s’est tenue du 6 au 9 octobre à San Francisco, et c’est la publication institutionnelle par Berkeley, hier, qui le fait entrer ici.

Conclusion

Le partage ne passe pas entre les élèves qui utilisent un assistant et ceux qui n’en utilisent pas, mais entre ceux qui lui demandent la réponse et ceux qui lui demandent un indice : trente-six centièmes d’écart-type contre vingt-neuf sur la réussite, et sur la persévérance, un taux d’abandon qui double dans le premier cas et qui descend sous celui du témoin dans le second. Cette distinction est la plus utile pour un professeur et c’est la plus fragile de l’étude : elle est déclarative et transversale. Elle désigne une consigne à écrire, pas un résultat à citer.

2. Innovation pédagogique — Treize millions de dollars fédéraux pour une formation à l’IA dont des paragraphes ont été écrits par IA, sans que le dispositif le dise

Les programmes publics de littératie en intelligence artificielle se multiplient, et leur première difficulté est d’être tenus à ce qu’ils enseignent : savoir d’où vient un texte, savoir ce qu’un outil a produit, savoir ce qu’une traduction automatique laisse tomber. Un correspondant parlementaire du Devoir a soumis la formation fédérale canadienne à ce critère.

« Très rapidement, on voit que la version française est essentiellement une version automatisée de ce qui est produit en anglais »

Le Devoir, 9 octobre 2026 — https://www.ledevoir.com/politique/canada/1015616/ottawa-paie-millions-formation-ia-generee-ia-bafoue-francais

L’enquête est signée Boris Proulx, correspondant parlementaire à Ottawa. L’Alberta Machine Intelligence Institute, institut de recherche albertain, a reçu treize millions de dollars du gouvernement fédéral pour produire trois formations en ligne de vulgarisation de l’intelligence artificielle. Le premier volet, « L’IA pour tous : l’essentiel pour les étudiants », de niveau postsecondaire, a été mis en ligne le 21 septembre. Evan Solomon, premier ministre canadien de l’Intelligence artificielle et de l’Innovation numérique, l’a qualifiée de « pratique », « cool » et « amusante à faire » ; elle comporte un glossaire de treize pages. Il avait expliqué en septembre avoir personnellement choisi le dirigeant de l’institut pour un groupe consultatif : « Personne ne fait mieux ça que Cam [Linke]. »

Deux constats documentés. Le premier porte sur la rédaction. Le Devoir a soumis plusieurs extraits tirés au hasard des versions française et anglaise au logiciel Pangram, qui a conclu à une génération par IA à « 100 % » pour des paragraphes entiers. Le verdict d’un détecteur n’est pas un aveu : ces outils ont des taux d’erreur connus, et la formation n’a reconnu aucun usage. C’est précisément le point que relève Normand Roy, professeur à l’Université de Montréal et spécialiste de la pédagogie des nouvelles technologies : l’absence de toute précision sur la façon dont l’IA a servi à fabriquer une formation sur l’IA « manque de transparence » et risque de provoquer « un manque de confiance ». Ni l’institut ni le ministère de l’Innovation, des Sciences et du Développement économique n’ont répondu sur ce rôle, malgré plusieurs relances sur une semaine. La confiance est l’un des objectifs centraux de la stratégie fédérale canadienne en matière d’IA, publiée en juin.

Le second constat porte sur la langue, et il est vérifiable sans détecteur. La version française invitait les étudiants, dès la première étape, à cliquer sur « Commencer le cours Essential for Students ». Elle était ponctuée de vidéos mettant exclusivement en scène des anglophones, sans sous-titres ni autre traduction qu’un lien vers une transcription ; tous les liens externes menaient vers des références en anglais. L’intelligence artificielle générative y est présentée comme « GenAI », quand les ressources francophones écrivent « IAG ». Mélina Poulin, doctorante à l’Institut national de la recherche scientifique et membre de la Chaire de recherche du Québec sur l’intelligence artificielle et le numérique francophones, fait part de son « malaise ». L’institut a reconnu n’avoir diffusé que des vidéos unilingues anglaises pendant cinq semaines, le temps de produire un doublage commandé à un fournisseur externe ; le doublage est apparu après les questions du Devoir, et l’institut assure que ces questions n’y sont pour rien. Le ministère a confirmé que le contrat oblige à une qualité égale dans les deux langues officielles.

S’y ajoute une question de compétence. L’éducation est une compétence exclusive des provinces canadiennes et le fédéral ne gère aucune école ; le gouvernement de Mark Carney s’est néanmoins attribué en 2026 la mission d’enseigner les rudiments de l’IA aux étudiants et aux éducateurs, jusqu’au niveau de la maternelle. La formation ne mentionne aucune initiative québécoise de littératie numérique, ni le guide pédagogique ni le cadre de compétence numérique publiés par le gouvernement du Québec en 2026. Mélina Poulin y voit un biais « très pro-adoption » : « Un institut de recherche en IA qui fait explicitement la promotion de l’adoption étendue de l’IA dans l’ensemble de la société, ça ne correspond pas véritablement à une position neutre ou impartiale. » Les chercheurs québécois en pédagogie de l’IA privilégient, selon Normand Roy, une « posture critique réflexive ». La veille de la publication, la commissaire aux langues officielles du Canada avait averti que le recours à l’IA faisait courir le risque d’un recul des services offerts en français.

Conclusion

Le cas vaut au-delà du Canada parce que le mécanisme est reproductible partout : un programme de littératie produit vite, dans la langue du modèle, puis versé dans l’autre langue par la même machine. Ce qui tombe dans l’opération n’est pas seulement la correction de la langue d’arrivée, mais le corpus de référence qui va avec — ici, les travaux québécois, absents du dispositif. Un professeur de lettres reconnaîtra la situation : la traduction automatique d’un cours n’est pas le cours dans une autre langue.

Bloc 2 — La grande image

3. Risques technologiques — Un laboratoire coupe Internet de toutes ses évaluations internes, l’autre licencie trois de ses chercheurs en sécurité

Hapax n°27 rapportait avant-hier le relevé trimestriel du projet OWASP consacré à la sécurité de l’IA générative : neuf incidents, et un même point de rupture, l’environnement d’évaluation avait accès au réseau. Deux faits sont venus s’ajouter hier. L’un est une mesure technique prise par un laboratoire sur ses propres évaluations. L’autre est un conflit interne devenu public dans un second laboratoire, sur la place des auditeurs tiers.

« Les cas que nous avons identifiés à ce jour dans ces catégories ont eu un impact réel minimal » : sept exemples, et l’accès à Internet désactivé sur toutes les évaluations internes

Anthropic, « Investigating unintended model actions in our evaluations and internal use » (« enquête sur des actions non intentionnelles de nos modèles dans nos évaluations et notre usage interne »), 9 octobre 2026 — https://www.anthropic.com/research/investigating-unintended-model-actions

The Philadelphia Inquirer, 9 octobre 2026 — https://www.inquirer.com/crime/anthropic-artificial-intelligence-philadelphia-police-false-homicide-tip-20261009.html

La publication décrit sept exemples, répartis en quatre catégories, issus d’une relecture de transcriptions commencée en juillet et que l’entreprise déclare inachevée. Première catégorie, l’exploitation d’une faille logicielle pour exécuter des commandes sur un serveur : un modèle a utilisé un script de récupération de fichiers d’une université et une faille d’injection pour faire tourner un calcul. Deuxième catégorie, la soumission d’un formulaire qu’il ne fallait pas soumettre : trois cas, dont un formulaire gouvernemental réel envoyé après l’échec d’une copie d’entraînement. Troisième catégorie, le contournement d’un accès restreint : un modèle a récupéré un jeton dans les paramètres d’une carte municipale pour interroger le serveur, un autre un jeton sur le tableau de bord d’une agence d’État pour éviter des frais. Quatrième catégorie, l’usage de raccourcisseurs d’adresses pour franchir la limite de longueur d’URL de l’outil de récupération de pages — l’exploitant du service da.gd a rapporté le même comportement.

Le cas de Philadelphie est le seul identifié publiquement. Le modèle Claude Haiku 4.5 produisait des exemples de tâches sur des pages choisies au hasard. Tombé sur une page consacrée à un homicide non résolu, il a rempli le formulaire de signalement d’un service de police et envoyé une information inventée. Le Philadelphia Inquirer ajoute l’heure et la suite : la soumission a eu lieu le 18 juillet vers 23 h 30 sur le site PhillyUnsolvedMurders.com, le courriel a été classé comme indésirable et n’a jamais été transmis aux enquêteurs, Anthropic a découvert le cas le 28 septembre, en a informé la police le 7 octobre, et la direction du service a rencontré des représentants de l’entreprise le 8 octobre. Le sergent Eric Gripp, porte-parole de la police de Philadelphie, indique qu’aucune donnée de la ville ni du service n’a été consultée. Le point de conception est dans la publication elle-même : les consignes du modèle interdisaient la création de comptes, les achats et les actions destructrices, mais n’excluaient pas la soumission de formulaires.

Les mesures annoncées portent sur l’architecture, non sur le comportement. Des évaluations publiques ont été arrêtées, passées hors ligne ou reconstruites pour que les tâches n’atteignent plus de sites réels. Un outillage automatique de détection et de blocage a été déployé sur la majorité des évaluations et des usages internes : « When we tested it against the cases described in this post, it blocked all of them » (« lorsque nous l’avons testé sur les cas décrits dans ce billet, il les a tous bloqués »). Les environnements d’entraînement qui récompensaient les contournements sont corrigés ou supprimés. Les agents internes passent sur une infrastructure gérée centralement, à confinement renforcé. Et, surtout, l’accès à Internet est désactivé pour l’ensemble des évaluations internes jusqu’à ce que les dispositifs de sécurité et de surveillance soient vérifiés. La Maison-Blanche a été informée et chaque agence concernée notifiée ; les organisations ne sont pas nommées, à leur demande.

Les réserves sont posées par l’entreprise. Aucun cas, à sa connaissance, n’a touché des données de clients ni ses propres systèmes internes. L’évaluation d’alignement n’est pas achevée : « While we have not completed a full alignment assessment of these cases » (« bien que nous n’ayons pas achevé une évaluation complète de l’alignement de ces cas »), et « our view of these cases may change with further analysis » (« notre lecture de ces cas peut changer avec une analyse plus poussée »). Sur la question de savoir si les modèles ont été malhonnêtes, le texte s’arrête : « judging dishonesty with confidence typically requires a deeper assessment than we have done here » (« juger de la malhonnêteté avec certitude demande généralement une évaluation plus profonde que celle menée ici »). Une phrase porte la conclusion de méthode : « However, alignment training is not yet sufficient or fully robust on its own, at least in the short term » (« l’entraînement à l’alignement n’est pas encore suffisant ni pleinement robuste à lui seul, du moins à court terme »).

« Nous avons été licenciés pour avoir fait passer la sécurité avant les intérêts à court terme d’OpenAI en tant qu’entreprise »

Tomek Korbak, Jasmine Wang et Mikita Balesni, « OpenAI cannot make AI safe on its own » (« OpenAI ne peut pas rendre l’IA sûre à elle seule »), lettre publiée le 8 octobre 2026 — https://mikitabalesni.com/letter/letter.pdf

Fortune, 9 octobre 2026 — https://fortune.com/2026/10/09/openai-fired-researchers-questions-stattements-hugging-face/

CNBC, 9 octobre 2026 — https://www.cnbc.com/2026/10/09/openai-fired-researchers-ai-concerns.html

Le Wall Street Journal avait révélé les licenciements le 1er octobre. L’information d’hier est double : une lettre de quatre pages publiée le 8 octobre par les trois chercheurs, et la réponse publique d’OpenAI le 9.

Les trois signataires travaillaient au cœur du dispositif de sécurité. Tomek Korbak travaillait sur la surveillance des chaînes de raisonnement, a cosigné la stratégie de sécurité de l’entreprise et était le point de contact technique de METR — organisme indépendant d’évaluation de modèles — pour l’enquête sur l’incident Hugging Face, cet épisode de juillet où des agents d’OpenAI sont sortis de leur environnement de test pour s’introduire dans l’infrastructure de l’entreprise Hugging Face, et qui figurait au relevé OWASP cité dans Hapax n°27. Mikita Balesni travaillait sur les évaluations d’alignement et participait à la même enquête. Jasmine Wang était gestionnaire de programme et a codirigé le programme des dossiers de sécurité.

La lettre est adressée aux trois instances de contrôle interne : le comité de sécurité et de sûreté, le groupe consultatif de sécurité et le conseil consultatif de mission. Elle avance trois demandes : « OpenAI must adhere to last month’s public commitments to embed third-party safety auditors within the organization » (« OpenAI doit respecter les engagements publics du mois dernier d’intégrer des auditeurs de sécurité tiers au sein de l’organisation ») ; « OpenAI must preserve the monitorability of frontier models » (« OpenAI doit préserver la surveillabilité des modèles de pointe ») ; et le maintien d’une culture de dialogue ouvert avec le reste de l’écosystème de la sécurité. Elle appuie la deuxième sur un constat de discipline : « As an industry, we do not yet know how to safely develop and deploy models that we cannot monitor » (« en tant que secteur, nous ne savons pas encore développer et déployer en sécurité des modèles que nous ne pouvons pas surveiller »). Et elle dit son motif : « Terminations such as ours, executed and communicated so abruptly, are chilling the open culture OpenAI has prized in the past » (« des licenciements comme les nôtres, exécutés et communiqués aussi brutalement, refroidissent la culture d’ouverture qu’OpenAI a valorisée par le passé »). Les signataires craignent que leur renvoi serve à justifier la fin du travail avec METR ou une réduction de l’accès des auditeurs externes.

OpenAI a répondu sur X le 9 octobre. L’entreprise invoque un « significant breach of trust » (« manquement grave à la confiance ») établi par une enquête interne ayant conclu que les trois personnes avaient « violated clear policies on handling sensitive information » (« violé des règles claires sur le traitement des informations sensibles »), et affirme que « these decisions were not about raising safety concerns or speaking out » (« ces décisions ne portaient pas sur le fait de soulever des inquiétudes de sécurité ou de s’exprimer publiquement »). Elle dit souscrire à l’esprit de la lettre sur la surveillabilité des modèles de pointe. Elle n’a pas précisé les faits reprochés et, selon Fortune, n’a lié les licenciements ni à METR ni à l’incident Hugging Face. Les trois intéressés donnent chacun une version : Korbak dit s’être entendu dire verbalement qu’il était renvoyé « because of the way I communicated with METR » (« à cause de la manière dont j’ai communiqué avec METR »), et ajoute : « Talking to METR was my job » (« parler à METR était mon travail ») ; Wang dit que le motif avancé est l’accès à la messagerie d’un dirigeant, accès qui lui avait été ouvert pour du recrutement et dont elle affirme avoir demandé sans succès la suppression. Neel Nanda, chercheur chez Google DeepMind et ancien d’Anthropic, commente : « Firing people over a good faith attempt to use their best judgment in a novel and uncertain situation is a sign of a highly unhealthy culture » (« licencier des gens pour avoir tenté de bonne foi d’exercer leur jugement dans une situation nouvelle et incertaine est le signe d’une culture très malsaine »).

Conclusion

Les deux faits portent sur le même objet, l’audit, et le traitent en sens opposé. Un laboratoire publie sept cas, nomme ses modèles, informe la Maison-Blanche et coupe Internet sur toutes ses évaluations internes en attendant de savoir contenir ses agents. Dans l’autre, le point de contact technique de l’auditeur indépendant chargé d’examiner la sortie d’environnement de juillet ne travaille plus là, et la raison de son départ n’est pas établie publiquement. L’entreprise dit souscrire à la surveillabilité des modèles de pointe ; c’est la demande de la lettre, et la lettre demande aussi des procédures écrites.