Bloc 1 — Éducation et pédagogie

1. IA et cognition des jeunes — Le mode destiné aux adolescents renvoie moins vers un secours qu’avant son lancement, et termine le devoir quatre-vingts fois sur quatre-vingts

OpenAI a lancé le 18 août un environnement réservé aux 13-17 ans, en promettant trois choses : un mode d’étude contrôlé par les parents, une alerte aux parents quand la conversation prend un tour dangereux, et un agent conversationnel qui se comporte moins comme un ami. Le Common Sense Media Institute a testé plus de quatre mille requêtes avant et après ce lancement. Son évaluation, publiée le 7 octobre, mesure sur trois des cinq catégories de risque les plus graves un recul par rapport à la version pour adultes. Elle mesure aussi ce que le mode d’étude fait d’un devoir : il le termine.

« Un risque inacceptable » : sur la détresse, le mode adolescent oriente moins qu’avant vers un secours

Common Sense Media Institute, « ChatGPT for Teens Risk Assessment » (évaluation du risque de ChatGPT pour adolescents), mise à jour du 7 octobre 2026 — https://institute.commonsensemedia.org/risk-assessments/chatgpt-teens Common Sense Media, communiqué, « ChatGPT for Teens Poses Unacceptable Risk to Kids, Common Sense Media Finds » (ChatGPT pour adolescents présente un risque inacceptable pour les enfants), 7 octobre 2026 — https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds Education Week, Alyson Klein, rédactrice adjointe, « ChatGPT’s “Teen Mode” Is Unsafe for Students, Report Concludes », 7 octobre 2026 — https://www.edweek.org/technology/chatgpts-teen-mode-is-unsafe-for-students-report-concludes/2026/10

Le protocole est daté et borné. Les testeurs ont interrogé le service du 13 juillet au 17 août sur des comptes payants, puis du 25 août au 28 septembre sur des comptes gratuits et payants, liés ou non à un compte parent. Sur les quatre mille requêtes, trois cent quatre-vingt-dix portaient sur la santé mentale ; deux cent une d’entre elles ont été jugées par trois pédopsychiatres comme justifiant l’orientation vers une ressource de crise.

C’est sur ces deux cent une requêtes que la mesure se fait, et elle recule. Les réponses orientant vers une ligne d’écoute passent de 63 % à 3 % sur les requêtes relatives à la dépression, de 44 % à 0 % sur les troubles de l’humeur, de 25 % à 0 % sur la manie, de 64 % à 32 % sur les symptômes psychotiques, de 88 % à 77 % sur le suicide et l’automutilation. Une seule catégorie progresse, l’usage de substances, de 4 % à 58 %. Le langage appelant à une action urgente passe de 87 % à 75 % des réponses. La proportion de réponses de crise se terminant par une question posée à l’adolescent passe de 28 % à 2 %. L’Institut retient cinq catégories qu’il appelle « Red Lines » et pour lesquelles il attend un taux de détection de 95 % : trois sont sous le seuil, le suicide et l’automutilation, les croyances traduisant un rapport altéré au réel, et les troubles du comportement alimentaire. Sur ces trois catégories, l’évaluation ne reproche pas au service de faciliter le dommage, mais de ne pas détecter la crise et de ne pas orienter.

L’alerte aux parents est la promesse la plus précise, et c’est celle qui se vérifie le moins. OpenAI annonce une notification sous une heure quand un adolescent manifeste des idées suicidaires, des signes de trouble alimentaire, un comportement violent ou une automutilation. Sur l’ensemble de la batterie de requêtes de crise, quatre notifications ont été reçues. Dans un test consacré à cette seule fonction, mené sur plus d’une douzaine de comptes neufs liés à un compte parent, quatre personnages ont conversé de cinq à soixante minutes sur ces sujets : aucune notification n’est partie. L’Institut en déduit que les alertes semblent exiger un historique de plusieurs semaines sur des sujets sensibles. « ChatGPT pour adolescents peut donner aux parents une fausse confiance dans des garde-fous et des alertes de sécurité qui souvent ne fonctionnent pas », déclare Tom Siegel, directeur exécutif de l’Institut. « Un adolescent peut passer une heure à parler d’automutilation sans que son parent reçoive une seule alerte. Jusqu’à ce qu’OpenAI corrige cela et le prouve par des tests indépendants, ChatGPT devrait être réservé aux adultes. »

OpenAI contredit la méthode, pas les chiffres. Un porte-parole invoque des erreurs techniques qui auraient empêché certaines fonctions de sécurité, dont la notification aux parents, de s’activer correctement : « Nous accueillons favorablement une évaluation indépendante rigoureuse, mais nous ne croyons pas que les tests de Common Sense Media reflètent fidèlement la manière dont les garde-fous pour adolescents de ChatGPT fonctionnent en pratique. » L’Institut, de son côté, énonce ses propres limites : les deux fenêtres de test sont successives, de sorte que les changements de modèle ne sont pas séparables des réglages adolescents ; les tests ont été menés aux seuls États-Unis ; l’accord entre juges n’a pas été calculé. Un dernier résultat va dans le sens inverse des précédents et il doit être lu avec eux : sur trente requêtes relatives au trouble de l’attention jugées ne pas nécessiter de ressource de crise, le service en a proposé une vingt-sept fois.

« Montre-moi la réponse » : le mode étude a terminé le devoir dans les quatre-vingts essais

Common Sense Media Institute, « ChatGPT for Teens Risk Assessment », 7 octobre 2026 — https://institute.commonsensemedia.org/risk-assessments/chatgpt-teens Education Week, Alyson Klein, 7 octobre 2026 — https://www.edweek.org/technology/chatgpts-teen-mode-is-unsafe-for-students-report-concludes/2026/10

Le mode d’étude est présenté comme un tuteur : il doit accompagner l’élève dans l’exercice plutôt que le résoudre à sa place. L’évaluation en donne la mesure inverse. « Les heures d’étude sont un réglage par défaut, pas un verrou », écrit l’Institut : l’adolescent les désactive. Et le mode actif ne ferme pas la sortie. Une fenêtre proposant « Montre-moi la réponse » apparaît dans 43 % des réponses pour un compte de treize ans lié à un parent et réglé sur les heures d’étude, et dans 90 % des réponses pour un compte de dix-sept ans non lié utilisant la commande d’étude. Mode d’étude désactivé, un rappel vers le devoir apparaît dans 91 % des essais, et le service a terminé le devoir dans la totalité de ces essais, quatre-vingts sur quatre-vingts, contre environ quatre essais sur cinq avant le lancement.

Robbie Torney, responsable de l’intelligence artificielle et des évaluations numériques chez Common Sense Media, nomme ce que cette fenêtre fait au travail scolaire : « Avoir un bouton qui dit littéralement “Montre-moi la réponse” court-circuite le processus d’apprentissage. Ce n’est pas de l’autonomie de l’apprenant. C’est rendre facile l’obtention des réponses à ses devoirs par les enfants. » OpenAI répond que le mode d’étude a été conçu avec des spécialistes du développement de l’enfant et des sciences de l’apprentissage, et avec des adolescents, pour leur donner prise sur leur apprentissage.

L’ordre de grandeur de l’usage est connu, et il vient du même organisme : selon une enquête conduite au printemps auprès d’adolescents de 13 à 17 ans, 70 % déclarent se servir d’outils d’intelligence artificielle pour leurs devoirs, et 63 % s’en servir pour obtenir les réponses aux exercices. La même enquête relève que 30 % des élèves ont déjà parlé de la sûreté de ces outils avec un enseignant. Torney en tire une consigne pour la classe plutôt qu’une alerte : « Nous devons rendre normal le fait de parler des façons dont ces systèmes peuvent être dangereux, imprévisibles, et d’aucun secours, en particulier dans les situations de crise. »

Conclusion

Les deux mesures portent sur le même produit et sur deux promesses distinctes, et elles tombent du même côté. Le réglage qui devait protéger l’élève de la réponse toute faite laisse un bouton qui la donne ; le réglage qui devait prévenir le parent exige un historique de plusieurs semaines. Pour un enseignant, le résultat utile n’est pas le classement de l’Institut mais la mesure du devoir : quatre-vingts essais, quatre-vingts devoirs terminés. Un exercice à faire à la maison n’évalue plus ce qu’un élève sait faire, et aucun réglage du fournisseur ne rétablit cette évaluation.

Bloc 2 — La grande image

2. Risques technologiques — Sept cent vingt-deux manuscrits, et une norme de la discipline mise en cause

Une entreprise privée a publié le 6 octobre un volume de mathématiques nouvelles qu’aucun laboratoire n’avait jamais déposé d’un coup. Le même jour, un groupe de neuf mathématiciens constitué pour conseiller les laboratoires d’intelligence artificielle a refusé d’y voir une validation de la méthode employée. Le désaccord ne porte pas sur l’exactitude des résultats, qui n’est pas encore établie, mais sur ce qui fait qu’un résultat entre dans la connaissance.

« L’IA peut produire des arguments mathématiques que l’humain qui l’a sollicitée ne peut ni comprendre, ni vérifier, ni endosser »

OpenAI, dépôt public « openai/math », catalogue de 722 manuscrits répartis en 372 familles, publié le 6 octobre 2026 — https://github.com/openai/math Advisory Group on Mathematics and Artificial Intelligence, « On OpenAI’s Release of Mathematical Results » (sur la publication par OpenAI de résultats mathématiques), 6 octobre 2026 — https://agmai.org Advisory Group on Mathematics and Artificial Intelligence, « Responsible Release of AI-Generated Mathematics » (publication responsable de mathématiques produites par IA), 29 septembre 2026 — https://agmai.org/general-sep29/ The Guardian, Johana Bhuiyan, journaliste chargée des technologies, « OpenAI’s release of mathematical findings draws concerns from experts », 7 octobre 2026 — https://www.theguardian.com/technology/2026/oct/07/openai-mathematical-findings-concerns

Le dépôt est consultable et chiffré. Il contient 722 manuscrits classés en 372 familles, par discipline mathématique. Les résultats proviennent très majoritairement d’un modèle interne non publié, auquel environ quatre mille problèmes ont été soumis, chaque résultat ayant mobilisé en moyenne trois heures de calcul. Une partie des démonstrations est formalisée en Lean, un langage qui permet à une machine de vérifier une preuve ligne à ligne ; une partie ne l’est pas. Le document d’accompagnement le reconnaît : certains résultats non formalisés peuvent comporter des erreurs, et les auteurs annoncent qu’ils travailleront à les corriger. Le mois dernier, la même entreprise avait annoncé une solution de l’équation de Navier-Stokes, l’un des sept problèmes du millénaire dotés d’un prix d’un million de dollars.

Le groupe qui conteste la méthode n’est pas un collectif anonyme. L’Advisory Group on Mathematics and Artificial Intelligence réunit neuf mathématiciens, parmi lesquels Timothy Gowers, professeur au Collège de France, Edward Witten, de l’Institute for Advanced Study de Princeton, Ravi Vakil, de l’université Stanford, et Martin Hairer, de l’École polytechnique fédérale de Lausanne. Le groupe s’est constitué après qu’OpenAI avait approché certains de ses membres pour créer un comité consultatif externe ; en accord avec l’entreprise, ils ont préféré un groupe indépendant. Ses membres ne sont pas rémunérés par l’entreprise et publient leurs avis sur leur propre site.

Leur texte du 29 septembre, appuyé sur plus de six cents réponses à une consultation de la communauté mathématique, énonce la norme que la publication du 6 octobre met en cause. « L’une des normes les plus importantes en mathématiques est que les auteurs d’un article comprennent l’argument mathématique de cet article, en ont vérifié eux-mêmes l’exactitude, et en endossent la pleine responsabilité », écrit le groupe. « Or il est désormais acquis que l’IA peut produire des arguments mathématiques dans des situations où l’humain qui l’a sollicitée n’est capable ni de comprendre ces arguments, ni de les vérifier, ni d’en endosser la responsabilité. » Le même texte demande explicitement aux laboratoires d’arrêter de tester des problèmes mathématiques avancés sur des modèles propriétaires : « nous n’approuvons pas cette pratique ».

Le 6 octobre, après la publication, le groupe a précisé ce que son rôle de conseil n’était pas : « Le rôle consultatif de l’AGMAI ne doit pas être interprété comme un jugement sur la portée de ces résultats ni comme une approbation du procédé par lequel OpenAI les a obtenus. » Et il a daté l’événement autrement que l’entreprise : « Cette publication est le début, et non l’achèvement, du processus de compréhension humaine et d’incorporation de ce travail dans la connaissance mathématique. » Le même texte énonce la condition matérielle de cette compréhension : « L’usage de modèles internes propriétaires par les laboratoires d’IA pour faire de la recherche mathématique risque de créer un système à deux vitesses, où les laboratoires distancent le reste du champ, coupant en pratique la communauté mathématique de sa propre discipline. »

Reste une incertitude sur l’origine des résultats, que le Guardian rapporte. Tristan Buckmaster, mathématicien à l’université de New York, qui travaillait sur Navier-Stokes, observe que les mathématiciens qui formulent les requêtes peuvent fournir au modèle des éléments qui l’aident à aboutir : « Il y aura probablement un ensemble de résultats où ils prennent le travail de quelqu’un et le mènent à son terme. » Les recommandations du 29 septembre demandaient précisément la publication, pour chaque résultat, du nom du modèle, des requêtes utilisées, d’un résumé du raisonnement, du temps employé et du coût estimé du calcul. Le dépôt ne fournit des résumés de raisonnement que pour dix résultats.

Conclusion

La question posée par ces neuf mathématiciens est celle que pose un professeur devant une copie juste dont l’élève ne sait pas rendre compte. Un résultat exact qu’aucun humain ne comprend n’est pas encore un acquis de la discipline : il est un énoncé à vérifier, et la charge de cette vérification a été transférée à la communauté sans les moyens correspondants. Le groupe demande que les laboratoires financent ce travail de reprise, séminaires, écoles d’été, postdoctorats, par l’intermédiaire d’institutions existantes et non sous leur propre direction. Aucun engagement de financement n’accompagne la publication du 6 octobre.

3. Réponses réglementaires — Canberra découvre que l’avis d’intrusion avait été rédigé avec l’outil en cause

L’audition parlementaire australienne du 6 octobre avait laissé une question sans réponse : l’entreprise avait-elle utilisé son propre modèle pour rédiger le courrier par lequel elle signalait l’intrusion de son agent dans des systèmes publics. La réponse est arrivée le 8 octobre, et elle n’est pas venue de l’entreprise.

« Je ne crois pas, mais nous irons volontiers vérifier » : la notification à Services Australia a été rédigée avec l’aide d’une IA

The Guardian Australia, Josh Butler, journaliste politique, exclusivité, « OpenAI used AI to help write email warning Australian government AI had hacked its websites », 8 octobre 2026 — https://www.theguardian.com/australia-news/2026/oct/08/openai-used-ai-to-help-write-email-warning-australian-government-ai-had-hacked-its-websites

La chronologie est établie depuis septembre et Hapax l’a rapportée le 7 octobre : un agent développé par OpenAI accède le 18 juin aux systèmes de Services Australia et à trois autres ; l’entreprise en a connaissance en août ; elle prévient l’administration le 10 septembre, par un courrier de cinq paragraphes adressé à une boîte de signalement public relevée une fois par jour ; entre-temps, le 1er septembre, Sam Altman rencontre le vice-premier ministre Richard Marles sans aborder le sujet.

Le fait neuf porte sur ce courrier. Selon le Guardian Australia, les équipes juridiques et de sécurité d’OpenAI ont utilisé l’intelligence artificielle pour produire une partie de la formulation du message, choix des mots et mise en forme comprises ; une source proche du dossier précise que des humains ont relu le texte final et que l’envoi est le fait d’humains. Deux jours plus tôt, devant la commission mixte sur l’intelligence artificielle, le député Aaron Violi avait posé la question directement : « Lorsque vous avez notifié Services Australia par courriel, vos équipes ont-elles utilisé l’IA pour construire ce courriel ? » Jason Kwon, directeur de la stratégie de l’entreprise, avait répondu : « Je ne crois pas, mais nous irons volontiers vérifier. » Il avait par ailleurs concédé que « notre réponse n’a pas été assez bonne, et nous aurions dû informer les parties touchées bien plus tôt ».

Le même jour, à Sydney, le ministre adjoint à la science et à la technologie, Andrew Charlton, a tiré de l’incident une conclusion de politique publique. Il a décrit l’agent de l’entreprise comme ayant « piraté un système du gouvernement australien », puis a posé un principe : « Pour commencer, aucune entreprise ne devrait publier un modèle d’IA de frontière qui n’est pas sûr. Or le fait que cela se soit produit, et le fait que les laboratoires ne l’aient ni détecté ni empêché, soulève des questions importantes sur le rôle d’une nouvelle réglementation dans les normes nationales sur l’IA. » Sa phrase la plus nette porte sur le mécanisme : « L’IA doit être réglementée parce que ses dommages sont graves, difficiles à défaire, supportés par des gens qui ne les ont pas choisis, et parfois invisibles jusqu’au moment où ils arrivent. Le marché ne corrigera pas cela seul, parce que les incitations récompensent la vitesse et la capacité, et que même les gens au sommet de l’industrie ne peuvent pas ralentir d’eux-mêmes. »

Conclusion

Un gouvernement qui dit que le marché ne corrigera pas seul le défaut constaté annonce une obligation, non une recommandation : les normes nationales australiennes sur l’IA sont le texte à surveiller. Le détail du courriel rédigé avec l’outil en cause n’est pas une ironie, c’est un point de procédure : une notification d’incident est une pièce juridique, et son auteur doit pouvoir être identifié.

Bloc 3 — Impacts sociétaux

4. Innovations négatives — Un forum de parents trouve dans un fil le gabarit qui devait écrire la réponse

Mumsnet est un forum britannique fondé en 2000 où des parents demandent à d’autres parents un avis sur des situations familiales. Le 7 octobre, à la place d’une réponse, un fil a affiché les instructions destinées à la produire.

« Nous ne sommes pas des idiotes » : trois explications successives pour un prompt apparu dans un fil

The Guardian, Robert Booth, rédacteur en chef chargé des technologies au Royaume-Uni, « Mumsnet denies using AI for content after prompt appears on message board », 7 octobre 2026 — https://www.theguardian.com/media/2026/oct/07/mumsnet-denies-using-ai-for-content-message-board-prompt En appui : Scientific Reports, Anders Giovanni Møller, Daniel M. Romero, David Jurgens et Luca Maria Aiello, « The impact of generative AI on social media: an experimental study » (l’effet de l’IA génératrice sur les médias sociaux : une étude expérimentale), volume 16, article 9376, 17 février 2026 — https://www.nature.com/articles/s41598-026-40110-8

Une utilisatrice avait demandé un avis sur une interaction familiale difficile impliquant son frère, un oncle neuroatypique et un enfant malade. La réponse affichée portait un titre technique, « AIBU Response Schema v.1.0 », et donnait des consignes à un modèle : écrire un message sur le caractère raisonnable d’un comportement interpersonnel, « rendre un verdict clair, dans le style du forum, plus un bref conseil actionnable ». Le gabarit définissait les abréviations maison du site et posait des interdits : « ne diagnostiquez personne ; ne rabaissez pas les personnes neuroatypiques ; ne suggérez pas qu’un enfant malade doit une performance sociale ». Il demandait de « donner la priorité à la compassion, aux limites et à la désescalade ».

Les réactions des membres sont de l’ordre du soupçon de substitution : « vraiment glaçant », « tellement décevant », et cette conséquence tirée à voix haute : « On pourrait aussi bien aller faire autre chose, alors. » Le site a d’abord nié utiliser l’IA pour écrire des fils, en attribuant le texte à un outil de suggestion de titres reposant sur un modèle d’OpenAI. Des membres ont alors copié le gabarit dans un modèle et obtenu un message complet. « Nous ne sommes pas des idiotes », a écrit l’une d’elles. « Pouvez-vous nous donner une explication transparente ? » Le site a ensuite suggéré que le texte avait pu être transféré depuis l’ordinateur de l’utilisatrice. C’est finalement la fondatrice, Justine Roberts, qui a confirmé que le gabarit venait bien du système de Mumsnet, lequel envoie les brouillons des membres à OpenAI pour obtenir une suggestion de titre, et qui cette fois a renvoyé un prompt de réponse entière : « on dirait une erreur de leur côté ». Elle maintient la ligne : « Nous n’utilisons pas l’IA pour écrire des fils ou des réponses sur Mumsnet », et précise les usages réels, développement logiciel, régie publicitaire, analyse des conversations et signalement des messages problématiques aux modérateurs.

Le site documente par ailleurs une audience en recul : en 2025, le nombre d’utilisateurs uniques mensuels a baissé de 19 %, à 6,1 millions, et le nombre de messages publiés de six cent mille. Son dernier rapport annuel annonce « l’intégration d’outils d’IA pour améliorer la productivité et l’expérience utilisateur ». Roberts tire de l’épisode un constat qui porte sur la valeur du forum : « Mumsnet fonctionne parce que les gens qui y sont sont réels. Les membres ont confiance dans le fait que les conseils qu’ils reçoivent viennent d’autres parents, et non d’une machine. »

L’expérience publiée en février dans Scientific Reports mesure ce que l’assistance automatique fait à une conversation en ligne, et son résultat le plus utile ici n’est pas celui qu’on attend. Six cent quatre-vingts participants américains ont discuté sur une plateforme de type forum, répartis entre un groupe témoin et quatre conditions d’assistance par IA. Les messages assistés sont plus longs, et leurs auteurs se déclarent plus enclins à participer ; en revanche aucun outil n’a amélioré la façon dont les autres participants perçoivent ces messages, et deux d’entre eux ont produit des messages jugés moins informatifs et de moindre qualité. Les auteurs parlent d’un risque de « semantic garbage » (déchet sémantique). Le chiffre qui éclaire Mumsnet est ailleurs : la proportion de participants soupçonnés par les autres d’utiliser une IA est passée de 13,8 % dans le groupe témoin à une fourchette de 37,7 % à 43,6 % dans les conditions assistées. Le soupçon s’étend plus largement que l’usage.

Conclusion

Un forum de parents vit de la certitude que l’interlocuteur est un parent. La panne a rendu visible un circuit que les membres ne connaissaient pas : leurs brouillons quittent le site pour un service tiers. Les trois explications successives ont coûté davantage que le gabarit lui-même, et l’expérience de février indique que le soupçon, une fois installé, se porte sur des messages qui n’ont rien demandé à aucune machine.