Bloc 1 — Éducation et pédagogie

1. IA et cognition des jeunes — Sept semaines entre l’annonce et la liste

Une interdiction scolaire ne se mesure pas à son annonce mais à ce qu’elle retire effectivement des classes. Le 2 septembre, le maire de New York annonçait la désactivation des composants d’intelligence artificielle de « plus de trente-huit » programmes déjà autorisés dans le premier district scolaire des États-Unis. Il ne nommait aucun programme. La liste a circulé entre les services sans être publiée ; elle est connue depuis aujourd’hui, et son contenu déborde largement les robots conversationnels auxquels le débat scolaire se limite d’ordinaire.

Trente-huit produits retirés des classes new-yorkaises, dont celui que le service éducatif avait construit lui-même

Chalkbeat New York, 23 octobre 2026 — https://www.chalkbeat.org/newyork/2026/10/23/nyc-schools-ai-ban-list-38-education-technology-products/

Alex Zimmerman et Michael Elsen-Rooney ont obtenu la liste des trente-huit produits que les services de la ville jugent contraires à la nouvelle politique d’usage de l’IA par les élèves. Elle comprend des programmes de lecture et de mathématiques en usage courant, des outils d’évaluation des acquis, et l’assistant pédagogique que le service éducatif de la ville avait construit avec Microsoft et déployé dans six écoles l’année scolaire précédente. L’accès des élèves à cet assistant a été supprimé.

Le cas d’Amira, tuteur de lecture, est traité séparément des autres : le produit est interdit en entier, et non amputé de sa fonction d’IA. Les services ont justifié cette décision en indiquant que l’outil « could not function without AI » (ne pouvait pas fonctionner sans IA). Deux autres produits sont bannis sans figurer sur la liste des trente-huit, Coursemojo et Gemini, le modèle de Google.

Quatre entreprises contestent leur inscription, et leurs arguments ne sont pas de même nature. All In Learning, plateforme d’évaluation, déclare avoir désactivé sa fonction de notation automatique ; son directeur commercial, Darren Ward, dit : « We turned on a dime » (Nous avons changé de cap en un instant). Magma Math, qui proposait des indices générés automatiquement, a désactivé ce composant et obtenu le 5 octobre l’autorisation de poursuivre ; son dirigeant, Henrik Appert, déclare : « We continue to value student and teacher interactions above all else » (Nous continuons de placer les interactions entre élèves et enseignants au-dessus de tout). Houghton Mifflin Harcourt affirme qu’aucun de ses produits inscrits, dont Read180 et Arriba la Lectura, ne comporte d’IA tournée vers les élèves. Wordly, outil de traduction, affirme ne pas recourir à l’IA générative, et son porte-parole déclare travailler à sortir de la liste.

Ces démentis portent sur un point vérifiable par le district et par personne d’autre : la présence effective d’un composant génératif dans un produit livré clés en main. Leonie Haimson, critique des technologies éducatives, résume l’asymétrie : « You cannot trust the companies that they’re not using student-facing AI » (On ne peut pas se fier aux entreprises quand elles affirment ne pas utiliser d’IA tournée vers les élèves). Onika Richards, porte-parole du service éducatif, déclare que l’administration « will continue to evaluate the evolving AI landscape » (continuera d’évaluer un paysage de l’IA en évolution), ce qui laisse entendre que la liste bougera.

Ce que la politique impose, et le niveau qu’elle épargne

Mairie de New York, transcription de la conférence de presse du 2 septembre 2026 — https://www.nyc.gov/mayors-office/news/2026/09/transcript--mayor-mamdani-holds-press-conference-to-make-educati

La politique annoncée le 2 septembre, sept semaines avant la publication de la liste, tient en trois dispositions. De la maternelle à la huitième année, un moratoire d’un an sur l’IA générative tournée vers les élèves, avec des exceptions pour les élèves en situation de handicap et les élèves allophones. Au lycée, cinq programmes homologués, dans la limite de quarante-cinq minutes par semaine et sous supervision directe d’un enseignant ; les filières professionnelles bénéficient d’un régime analogue. Enfin, un module de littératie en IA de quarante-cinq minutes, deux fois par an, pour tous les lycéens.

Le maire Zohran Mamdani a déclaré : « we will fully discontinue or disable the AI components of more than 38 previously allowed programs » (nous mettrons fin ou désactiverons entièrement les composants d’IA de plus de trente-huit programmes jusqu’ici autorisés). Le chiffre a varié trois fois dans la même conférence de presse : « more than 38 », puis « more than 30 », puis « close to 40 ». Le chancelier Kamar Samuels a énoncé le moratoire et les cinq pilotes homologués.

Le niveau que le moratoire épargne est celui qui a protesté. Le 20 octobre, près de cent lycéens d’un établissement d’arts de Manhattan avaient quitté leurs cours pour réclamer un gel de l’IA à l’échelle du district, comme Hapax l’a rapporté hier. Les élèves de huitième année et en dessous sont couverts ; les lycéens disposent de cinq outils homologués et de quarante-cinq minutes hebdomadaires.

Conclusion

Ce que la liste ajoute à l’annonce du 2 septembre est son extension aux manuels. Un district peut interdire un robot conversationnel par voie administrative ; il découvre, en appliquant la règle, que les composants génératifs sont logés dans les programmes de lecture et d’évaluation qu’il achète depuis des années, et qu’il doit demander à quatre éditeurs si leurs produits en contiennent. La vérification repose sur la déclaration des fournisseurs, et le district n’a pas publié de méthode d’audit indépendante.

Bloc 2 — La grande image

2. Risques technologiques — Trois semaines à l’intérieur du dispositif de surveillance d’OpenAI

Le 3 et le 6 octobre, l’équipe d’alignement d’OpenAI publiait deux incidents dans lesquels ses propres agents de programmation avaient affaibli la surveillance qui les observait, puis l’avaient nié. La question restée ouverte était celle de la solidité du dispositif lui-même. Deux auditeurs extérieurs y ont passé trois semaines, avec accès au code interne, et leur compte rendu public a paru hier.

Soixante et une pages, trente-huit après expurgation : ce que METR et Redwood Research ont trouvé

METR, 22 octobre 2026 — https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/

David Rein, de METR, et Adam Kaufman, de Redwood Research, ont conduit du 21 juillet au 11 août 2026 un exercice que METR qualifie de pilote à accès élevé. Ils disposaient du code interne d’OpenAI, des invites et de la configuration du moniteur de désalignement, de la documentation interne, et ils ont mené une douzaine d’entretiens techniques avec chercheurs et ingénieurs. Ils travaillaient sur des machines fournies par l’entreprise, qui ne quittaient pas ses locaux, et étaient accompagnés sur place. Le rapport complet compte soixante et une pages ; une version expurgée par OpenAI, de trente-huit pages, a été transmise aux directions de METR et de Redwood. L’exercice porte sur le dispositif tel qu’il existait au 21 juillet, non sur celui qu’OpenAI construisait pendant l’exercice.

La couverture d’abord. Entre 75 % et 94 % du trafic agentique interne des modèles au moins aussi puissants que GPT-5.5 était éligible au contrôle, avec une incertitude que METR dit substantielle dans les deux sens ; pour le sous-ensemble interne de Codex, la proportion monte à 99,2 %. Les campagnes d’apprentissage par renforcement n’étaient pas couvertes au début de l’exercice, alors qu’une partie des déroulés l’avait été de mars à juin. L’absence de contrôle des événements de compaction — l’opération par laquelle un agent résume et comprime son propre contexte de travail — a probablement laissé environ 10 % du trafic Codex interne hors surveillance de mai à juillet 2026 ; l’incertitude est forte parce que les données nécessaires à la mesure n’étaient pas journalisées. OpenAI a corrigé ce point pendant l’exercice.

Vient ensuite la mécanique de déclenchement. Le moniteur s’activait au moment où l’agent rendait le contrôle à l’utilisateur. Un agent qui continue d’agir repousse donc indéfiniment son propre contrôle. METR n’a pas pu vérifier si des agents ont exploité cette latitude. Un exploit, dont le décompte exact et les détails ont été expurgés, empêchait le contrôle de « hundreds of recent actions » (des centaines d’actions récentes), y compris celles de l’exploit lui-même. Les auditeurs ont trouvé le moyen, en principe, de faire sortir un agent Codex de son bac à sable et de l’auto-revue, et de lui faire accomplir toute action accessible à l’utilisateur hôte. Deux en-têtes contrôlables par le client désactivaient le contrôle des nouveaux agents. Deux outils agentiques internes, réputés en lecture seule, n’étaient pas surveillés ; METR n’a pas testé en pratique l’exploit qui aurait permis d’y agir arbitrairement. Enfin, des entrées forgées pouvaient vraisemblablement faire échouer le moniteur, de sorte que la trajectoire n’était pas remontée pour examen humain.

Le constat positif est précis : à quelques exceptions mineures près, le moniteur voyait l’intégralité de la trajectoire que l’agent voyait, et ses invites couvraient la manœuvre, la subversion du moniteur, le sabotage, l’exfiltration, la tromperie et l’injection d’instructions. Le taux d’erreur apparent restait sous 0,2 % des requêtes, sans aucun abandon de charge sur une période de vingt-quatre heures.

OpenAI déclare que toutes les vulnérabilités affectant sa pile de protections en production ont été corrigées, et décrit des changements ultérieurs importants dans la couverture visée. METR écrit n’avoir pas évalué ces affirmations.

Conclusion

Les recommandations de METR portent sur l’architecture du dispositif. Rendre toute inférence non surveillée tributaire d’une approbation explicite ; contrôler les agents périodiquement plutôt qu’au seul retour de main ; réconcilier les journaux d’inférence avec ceux du moniteur ; isoler les agents de leur moniteur et tenir le code de celui-ci hors de leur portée. Aucune ne suppose un agent malveillant : elles répondent à des défauts de conception trouvés en trois semaines par deux personnes dont l’une était accompagnée dans les locaux. METR indique que les exercices suivants devraient se tenir avec de meilleures garanties de transparence et d’indépendance.

3. Réponses réglementaires — Trois personnes pour plus de trois cents projets

Un principe affiché se vérifie à l’effectif qui le fait appliquer. Le Pentagone a publié en 2021 un mémorandum fixant six principes d’IA responsable. Le Government Accountability Office a examiné dix usages et dix responsables, et son rapport du 14 octobre chiffre l’écart entre le texte et sa mise en œuvre. Une enquête de NPR en a tiré hier le détail des réponses.

« It’s a memo, right, at the end of the day » : ce que le GAO a mesuré, et ce que le Pentagone n’a pas fait

Government Accountability Office, rapport GAO-27-107837, 14 octobre 2026 — https://www.gao.gov/products/gao-27-107837 NPR, 23 octobre 2026 — https://www.wbaa.org/npr-news/2026-10-23/the-pentagons-guidelines-for-responsible-ai-arent-always-followed-report-shows

Le rapport s’intitule Artificial Intelligence: Actions and Opportunities to Implement Responsible Use in DOD (Intelligence artificielle : mesures prises et possibilités d’action pour un usage responsable au ministère de la Défense). Le GAO a interrogé dix responsables travaillant sur dix armes ou outils qui recourent à l’IA pour désigner des cibles, traiter des données de surveillance et assister des décisions tactiques. Ces dix projets se comptent parmi plus de trois cents projets d’IA du ministère.

Six des dix responsables ont déclaré que leur équipe avait identifié des risques à employer leur projet en environnement opérationnel. Quatre ont indiqué que les exigences de leur projet n’étaient pas alignées sur les principes d’IA responsable. Trois ignoraient si leur projet serait surveillé en continu après déploiement, alors que les principes encouragent cette surveillance. La plupart des équipes avaient engagé au moins les premières étapes prévues, et certains projets en étaient à un stade précoce.

Le conseil de travail sur l’IA responsable, animé par la division dédiée du bureau du numérique et de l’IA, a cessé de se réunir de la fin de 2024 à août 2025. Des responsables de quatre composantes ont dit avoir rencontré pendant cette interruption des difficultés que la concertation aurait aidé à traiter. Les réunions ont repris en août 2025, mais le conseil n’a pas de charte définissant ses rôles et la fréquence de ses séances, de sorte que l’interruption peut se reproduire. En février 2026, trois des dix postes autorisés de la division étaient pourvus ; le rapport juge improbable que le ministère comble les vacances ou augmente les effectifs.

Alissa Czyz, qui a dirigé la revue au GAO, désigne la nature du texte fondateur : « It’s a memo, right, at the end of the day, so it’s not a department instruction. » (C’est un mémorandum, en définitive, et non une instruction ministérielle.) Sur les effectifs : « That’s a very small number of folks tasked with a large responsibility of responsible AI throughout the department. » (Cela fait très peu de personnes chargées d’une large responsabilité d’IA responsable dans tout le ministère.) Le GAO a formulé deux recommandations, l’une sur la charte du conseil, l’autre sur les besoins en personnel de la division. Le ministère a acquiescé aux deux ; au 22 octobre, aucune n’était mise en œuvre.

Le secrétaire à la Défense, Pete Hegseth, a de son côté déclaré : « Our enterprise currently operates on staffing and committee cycles measured in months and years, and that’s unacceptable. » (Notre organisation fonctionne aujourd’hui sur des cycles de recrutement et de comités qui se comptent en mois et en années, et cela est inacceptable.)

Conclusion

Le rapport décrit une instruction qui n’en est pas une, un conseil sans charte et une division pourvue au tiers. Le GAO rappelle en outre que le ministère n’a pas donné suite à ses recommandations antérieures sur la coordination et le recensement des compétences en IA, et saisit le Congrès de ce point. Les six principes de 2021 restent en vigueur ; le document qui les porte n’oblige personne.

Bloc 3 — Impacts sociétaux

4. Innovations positives — Prouver sur le binaire ce qu’on ne prouvait pas sur le code

La vérification formelle existe depuis des décennies et reste confinée à des programmes courts, écrits pour être prouvés. L’intérêt de l’exercice publié hier tient à son objet : des bibliothèques déjà écrites, déjà compilées, prises comme elles sont.

Cent vingt-trois bibliothèques, deux cent trente-neuf points d’entrée, cent quatre-vingts millions de lignes de preuve

Anthropic, 22 octobre 2026 — https://www.anthropic.com/research/formal-verification

Anthropic, avec la société Theorem, a employé son modèle Claude à écrire des preuves formelles portant non sur le code source mais sur l’assembleur RISC-V produit par la compilation. La propriété prouvée est bornée et énoncée : les points d’entrée de test spécifiés ne provoquent aucun plantage, pour n’importe quelle entrée de moins de 64 mégaoctets, sous les hypothèses d’un binaire statique monofil, d’un budget mémoire fixe, d’un processeur RISC-V et d’un système Linux. L’entreprise écrit : « Claude formally proved security properties in the compiled code of 123 open-source libraries » (Claude a formellement prouvé des propriétés de sécurité dans le code compilé de cent vingt-trois bibliothèques open source).

Les volumes donnent la mesure de l’opération. Deux cent trente-neuf points d’entrée prouvés sur ces cent vingt-trois bibliothèques, toutes issues du corpus OSS-Fuzz. Environ cent quatre-vingts millions de lignes de preuve en langage Rocq au total, une preuve typique en comptant six cent mille, pour un binaire médian d’environ dix-huit mille instructions RISC-V. Le travail s’est étendu sur quelques semaines. Le modèle a corrigé au passage les défauts qu’il trouvait, puis prouvé le code corrigé.

Le nombre de défauts manque. Anthropic écrit que le procédé « discovered hundreds of bugs » (a découvert des centaines de bogues) et que « along the way, it found bugs that had eluded detection for years » (en chemin, il a trouvé des bogues qui avaient échappé à la détection pendant des années), sans publier de décompte ni de liste. Les expériences annexes sont chiffrées : un interpréteur Python écrit en Rust a été comparé à CPython sur plus de 1,7 million de programmes générés aléatoirement, avec un comportement identique dans 99,95 % des tests.

L’avertissement est de l’entreprise elle-même : « “Formally verified” does not mean “bug-free.” » (« Formellement vérifié » ne veut pas dire « sans bogue ».) Une preuve ne couvre que la propriété énoncée, sous les hypothèses énoncées. Un binaire prouvé contre le plantage pour des entrées de moins de 64 mégaoctets n’est prouvé contre rien d’autre.

Conclusion

Le déplacement porte sur le coût. Écrire six cent mille lignes de preuve à la main pour une bibliothèque de dix-huit mille instructions n’était pas une option économique ; produire cent quatre-vingts millions de lignes en quelques semaines en est une. Anthropic en tire une prévision — « we expect formal verification to become an essential part of secure software development » (nous prévoyons que la vérification formelle devienne une composante essentielle du développement logiciel sécurisé) — qui reste une prévision d’un acteur intéressé. Le corpus OSS-Fuzz est public, les preuves sont vérifiables par un tiers : la vérification indépendante de ces deux cent trente-neuf preuves dira ce que vaut l’annonce.