Bloc 1 — La grande image

1. Risques technologiques — Un laboratoire publie la part de son propre travail qu’il ne fait plus lui-même

Depuis deux ans, l’expression « auto-amélioration récursive » circule dans les débats sur l’intelligence artificielle comme une hypothèse de science-fiction : un système qui construirait son successeur, lequel construirait le sien, jusqu’à échapper à ceux qui l’ont lancé. On en discutait sans jamais disposer d’une mesure. Le jeudi 17 septembre, Anthropic a publié deux textes qui en proposent une, appliquée à sa propre maison, et le résultat est d’une précision inconfortable. L’entreprise ne décrit pas un futur possible : elle chiffre un présent, mois par mois, et demande à ses concurrents de publier les mêmes chiffres. C’est la première fois qu’un laboratoire de pointe accepte de dire quelle proportion de son travail de recherche il ne fait plus lui-même.

« Claude “leads” 26% of Anthropic’s AI R&D work » : la mesure d’un basculement en six mois

Anthropic, « Measurements for understanding the pace of AI development inside frontier labs », 17 septembre 2026 — https://www.anthropic.com/institute/measuring-pace-of-ai-development Anthropic, « When AI builds itself », 17 septembre 2026 — https://www.anthropic.com/institute/recursive-self-improvement Associated Press, Kaitlyn Huamani, 17 septembre 2026 — https://www.news4jax.com/business/2026/09/18/anthropic-says-its-model-claude-is-helping-to-build-the-next-version-of-itself/

Le premier texte propose une échelle et l’applique. Anthropic distingue des degrés d’autonomie dans le travail de recherche et développement, depuis l’assistance ponctuelle jusqu’à la conduite d’une tâche de bout en bout à partir d’une consigne de haut niveau. Au sommet de cette échelle, le modèle « dirige » : il reçoit une intention, décide des étapes, écrit, exécute, évalue et rend un résultat, un humain conservant la supervision. Anthropic écrit que Claude « “leads” 26% of Anthropic’s AI R&D work » en août 2026, part qui s’élevait à « under 1% in February 2026 ». Six mois séparent ces deux nombres. Un cran plus bas sur la même échelle, l’entreprise indique que « the share of work at or above “AI collaborates” is above 90% » : la recherche menée sans intervention d’un modèle est devenue l’exception. La mesure porte sur une plateforme interne surveillée, où opéraient en août « approximately 30,000 agents doing research and engineering work at Anthropic at any one time ».

Le second texte, plus long, raconte comment l’entreprise en est arrivée là, et il tire sa force de ce qu’il ne cache pas. En mai 2026, « more than 80% of the code we merge into Anthropic’s codebase was authored by Claude ». Entre le deuxième trimestre 2024 et le deuxième trimestre 2026, les ingénieurs de la maison ont livré huit fois plus de lignes de code par trimestre. Un sondage interne de mars 2026, auquel ont répondu cent trente salariés, donne un facteur quatre pour la productivité médiane. L’horizon temporel des tâches que le modèle mène à bien avec une fiabilité de cinquante pour cent est passé de quatre minutes en mars 2024 à quatre-vingt-dix minutes en mars 2025, puis à douze heures en mars 2026. Sur un exercice de comparaison portant sur cent vingt-neuf moments de décision où un chercheur humain avait pris un détour avant d’aboutir, le modèle a proposé une meilleure suite dans 64 % des cas, contre 51 % pour la génération précédente. Anthropic ajoute cette phrase sur la qualité du code produit : « Claude-written code was somewhat worse than human-written code at Anthropic in late 2025, is roughly at parity today, and we expect it to be strictly better within the year. »

Les témoignages de salariés que l’entreprise a choisi d’insérer donnent au texte une couleur que les communiqués d’industrie n’ont pas. L’un écrit : « I started leaning hard into Claudifying about a year ago. That’s been ~5 months since I last wrote any code myself. » Un autre décrit ce que la disparition des petits services entre collègues emporte avec elle : le travail reposait sur « a gift economy of small favors between humans », et chaque demande d’aide « created a little debt, a little mutual awareness » ; la machine est plus rapide, « it creates zero debt », mais chacune de ces sollicitations devenue inutile est « a lost bid for human collaboration ». Un troisième décrit l’oscillation entre les jours où tout fonctionne — « I can’t help but think nothing I do matters » — et ceux où tout casse, « and I realize I have no idea what I’ve been up to anymore ».

Le motif du chiffrage est explicitement défensif. Anthropic justifie l’exercice par la crainte que « models accelerating their own development could make it more challenging for humans to understand or control these systems », et précise le mécanisme redouté : « the rare occurrences of misalignment present in today’s models could compound as the models build their successors, growing more frequent but less understood until we lose control of them ». D’où la proposition adressée au reste du secteur. Anthropic recommande quatre familles de mesures publiques — le degré d’automatisation de la recherche, les indicateurs de supervision des agents, la part de calcul consacrée à la sécurité par rapport aux capacités, et des mécanismes de vérification par des tiers — et soutient que « any frontier developer could publish these measures regularly, using a public methodology ». L’entreprise ajoute enfin ce que serait la condition d’un ralentissement réel, et la formule vaut aveu d’impuissance individuelle : « A meaningful slowdown or pause would require multiple well-resourced labs at or near the frontier, in multiple countries, agreeing to stop under the same conditions. »

Conclusion

Il faut résister à deux lectures faciles. La première verrait dans ces chiffres la preuve que la machine a pris le pouvoir : elle ne l’a pas pris, elle a reçu des tâches, et la supervision humaine demeure inscrite dans la définition même du degré le plus élevé de l’échelle. La seconde n’y verrait qu’une opération de communication : elle en est une pour partie, puisque l’entreprise choisit l’instrument qui la mesure et publie ce qui l’avantage. Reste un fait que ni l’une ni l’autre n’annule. Une entreprise dont le métier est de construire ces systèmes vient d’écrire noir sur blanc que, six mois durant, la part de son travail conduite par sa propre production est passée de rien à un quart, et qu’elle ne sait pas s’arrêter seule. Le chiffre de 26 % n’est pas inquiétant en lui-même ; c’est sa dérivée qui l’est, et c’est la première fois qu’un tel chiffre existe.

2. Réponses réglementaires — Un roi demande des garanties, et n’en obtient aucune

La régulation de l’intelligence artificielle a connu cette année les sommets d’État, les commissions parlementaires, les lettres ouvertes de chercheurs et les recommandations d’organisations internationales. Le 17 septembre a ajouté une forme inédite et qui ne relève d’aucune de ces catégories : une convocation sans pouvoir. Dans une maison de campagne écossaise, un chef d’État dépourvu d’autorité législative a réuni quatre des principaux dirigeants du secteur et leur a demandé, en termes qu’aucun texte réglementaire n’emploierait, de garantir que l’humanité ne perdrait pas la main. La scène mérite attention moins pour ce qu’elle a produit que pour ce qu’elle révèle de l’état du rapport de force.

« We will not lose control of our destiny, or our souls »

The Royal Family, « The King’s speech at the AI Summit in Scotland », 17 septembre 2026 — https://www.royal.uk/news-and-activity/2026-09-17/the-kings-speech-at-the-ai-summit-in-scotland Associated Press, Kelvin Chan, 18 septembre 2026 — https://www.bozemandailychronicle.com/wire/business/the-king-and-ai-uk-monarch-charles-meets-with-artificial-intelligence-leaders/article_97031a3e-a88a-5b82-b7e3-36dc6555ba68.html The Next Web, Alina Maria Stan, 17 septembre 2026 — https://thenextweb.com/news/king-charles-ai-summit-existential-dangers-hassabis-friar

Le sommet s’est tenu à Dumfries House, dans l’Ayrshire, siège de la fondation du roi, que Charles III a lui-même présenté comme un « rather remote, but uniquely special corner of Scotland ». Autour de la table : Sarah Friar, directrice financière d’OpenAI ; Demis Hassabis, cofondateur de Google DeepMind ; Jensen Huang, directeur général de Nvidia ; Tino Cuéllar, directeur des affaires publiques mondiales d’Anthropic ; ainsi que Kanishka Narayan, ministre britannique chargé de l’intelligence artificielle, et Louise Haigh, première secrétaire d’État.

Le discours royal tient en deux questions et un avertissement. Les deux questions : « How can we harness the benefits of AI, with safety at its heart? And, second, How can we build international cooperation and consensus to achieve this? » Le roi reconnaît à la technologie une « immense capacity to improve and save life » en médecine et dans les sciences du vivant, et redoute un usage catastrophique si elle tombe « into the wrong hands ». Puis vient la phrase qui a circulé : « Those in our world who value deeply our humanity and its vital moral component are anxiously seeking your reassurance that we will not lose control of our destiny, or our souls. » Il ajoute que « our humanity must remain sacred », que « the decisions taken at this formative time will shape the world inherited by future generations », et que la responsabilité des dirigeants réunis devant lui n’est pas « merely to advance technology, but to ensure that it remains firmly in the service of humanity, community and the natural world ». La conclusion est d’un homme qui a passé sa vie à défendre une idée d’équilibre : « as we embrace what is new, we must not lose what is timeless ».

Les réponses ont été d’une franchise remarquable, et c’est ce qui fait l’intérêt de la journée. Demis Hassabis a déclaré que l’intelligence artificielle générale était « probably only a few short years away », que son effet serait « ten times that of the Industrial Revolution », et que la probabilité que quelque chose tourne mal était « definitely non-zero » — avant de corriger le fatalisme par une formule : « The future is not yet written. » Sarah Friar a reconnu que les capacités atteintes soulèvent la question de savoir comment garantir que la technologie « always serves people », et posé une limite que personne n’a contestée : « No one company or government can do that alone. » Jensen Huang a défendu la régulation du produit plutôt que celle de la technologie, dans une phrase qui vaut règle d’ingénieur : « When a product is not safe enough, we should hold it back and keep engineering. » Louise Haigh, pour le gouvernement britannique, a résumé la position officielle : « We must heed the warnings of those who are at the forefront of developing this technology. »

Rien n’a été promis. The Next Web le consigne d’une ligne : « The executives did not publicly commit to any changes. » Aucun calendrier, aucun engagement de publication, aucune norme, aucune signature. Le sommet s’est achevé sur une demande formulée et non satisfaite.

Conclusion

Il serait injuste de reprocher à un souverain constitutionnel de n’avoir pas obtenu ce qu’aucun Parlement n’a obtenu cette année. L’intérêt de la scène est ailleurs. Elle donne à voir, dans sa forme la plus nue, la structure du problème : d’un côté une autorité morale sans moyen de contrainte, qui pose les bonnes questions et les pose bien ; de l’autre des dirigeants qui répondent avec une sincérité désarmante — quelques années, dix fois la révolution industrielle, un risque non nul — et repartent sans avoir rien concédé. Ce que Sarah Friar a dit est exact et devrait être lu comme un appel au législateur plutôt que comme une excuse : aucune entreprise, aucun gouvernement ne peut faire cela seul. Le jour où la même conversation se tiendra devant une autorité capable d’imposer une conséquence, on saura que la régulation a commencé. Le 17 septembre, elle n’avait pas commencé.

Bloc 2 — Impacts sociétaux

3. Innovations négatives — Ce que les dirigeants écrivaient en privé de la presse qu’ils remplacent

Le procès que le New York Times a intenté en décembre 2023 à OpenAI et à Microsoft repose sur une question simple à énoncer et difficile à prouver : les produits construits sur les articles du journal s’ajoutent-ils au journal ou le remplacent-ils ? Toute la défense du droit d’auteur américain, le fameux fair use, dépend de la réponse, puisque l’un de ses critères est l’effet de l’usage sur le marché de l’œuvre. Les entreprises soutiennent publiquement que leurs produits complètent la presse. Le 17 septembre, une écriture des demandeurs a été rendue publique dans une version dépourvue de ses caviardages, et l’on y lit ce que leurs propres cadres écrivaient lorsqu’ils ne s’adressaient pas au public.

« An astonishing theft of unprecedented proportions »

Reuters, Blake Brittain, via 93.3 The Drive, 17 septembre 2026 — https://www.933thedrive.com/2026/09/17/openai-microsoft-executives-quotes-on-ai-training-threaten-copyright-defense-news-outlets-argue/ TechCrunch, 17 septembre 2026 — https://techcrunch.com/2026/09/17/microsoft-exec-called-ai-scraping-the-largest-theft-of-labor-in-human-history-new-unredacted-filings-reveal/ Futurism, Joe Wilkins, 17 septembre 2026 — https://futurism.com/future-society/microsoft-admitted-ai-theft-labor-human-history-court-lawsuit

L’affaire est pendante devant le tribunal fédéral du district sud de New York, à Manhattan, et le juge Sidney Stein doit dire si elle ira devant un jury. Les pièces sous-jacentes demeurent scellées ; ce qui a été descellé, c’est le mémoire des demandeurs, qui les cite.

La citation la plus dure vient de Microsoft. Brent Hecht, directeur de la recherche appliquée de l’entreprise, écrivait dans une note interne de janvier 2023 que des millions de personnes tiendraient la pratique d’entraînement pour « an astonishing theft of unprecedented proportions », et la qualifiait de plus grand vol de travail de l’histoire humaine. Selon le récit qu’en donne Futurism, il estimait qu’invoquer le fair use dans ces conditions reviendrait à tourner la notion en dérision.

Les citations venues d’OpenAI portent sur la substitution, c’est-à-dire exactement sur le critère juridique en cause. Nick Turley, responsable de ChatGPT, décrivait les produits de l’entreprise comme « largely substitutive », et ajoutait qu’ils le deviendraient « more and more substitutive as they get better ». Greg Brockman, président d’OpenAI, notait que les modèles sont « particularly good at predicting text of news articles » et qu’ils sont « excellent at news ». Le mémoire cite enfin Satya Nadella, directeur général de Microsoft, déclarant sous serment que les conversations avec un agent conversationnel avaient « substituted … giving you the information right there on the website on the AI platform versus needing to go to the underlying source ». Une présentation interne de Microsoft de janvier 2024, également citée, relevait le caractère très inhabituel d’un produit final qui menace les fondements économiques de ses propres fournisseurs.

Microsoft a répondu que les propos de Satya Nadella exprimaient des principes généraux sur la manière dont l’information est consommée, et non une conclusion juridique sur le droit d’auteur, et que la note de Brent Hecht reflétait l’opinion d’un salarié et non la position de l’entreprise. OpenAI n’a pas répondu immédiatement aux sollicitations de Reuters.

Conclusion

La valeur de ces documents n’est pas morale, elle est probatoire. Que des ingénieurs s’inquiètent en interne de ce qu’ils fabriquent n’est ni rare ni scandaleux ; c’est même le signe qu’une maison pense. Ce qui change, c’est que ces phrases entrent maintenant dans un dossier où le juge doit apprécier l’effet des produits sur le marché des œuvres, et qu’elles y entrent sous la plume des défendeurs eux-mêmes. Pour l’enseignant, il y a là un cas d’école sur la différence entre un discours public et une délibération interne, et sur ce que la procédure judiciaire, seule, permet d’en connaître. Pour la presse, le pronostic reste ouvert : une note de 2023 n’est pas une décision de 2027, et un juge peut fort bien écarter des citations qu’il jugera sorties de leur contexte.

4. Innovations positives — Rouvrir à la biologie les portes qu’on avait fermées

Les garde-fous posés sur les modèles de pointe ont un coût que l’on mesure rarement. Pour empêcher qu’un système ne serve à concevoir un agent pathogène, on lui interdit des pans entiers de la biologie ; et l’on interdit du même geste à la chercheuse qui travaille sur un candidat-médicament les réponses dont elle a besoin. Le 17 septembre, Anthropic a annoncé un dispositif qui déplace le curseur : plutôt que de restreindre le modèle pour tout le monde, vérifier qui le consulte.

« Tasks that are currently blocked in our generally-available Fable models »

Anthropic, « Introducing the Life Sciences Verification Program », 17 septembre 2026 — https://www.anthropic.com/news/life-sciences-verification-program

Le programme s’appelle Life Sciences Verification Program. Il ouvre aux professionnels vérifiés des sciences du vivant l’accès aux modèles de la maison — Mythos, Opus et Sonnet — assortis de protections adaptées au travail sur le vivant. L’entreprise en donne l’objet sans détour : le dispositif est conçu pour permettre aux professionnels des sciences de la vie d’employer les modèles sur « a wide range of tasks that are currently blocked in our generally-available Fable models, like drug discovery, research biology, clinical development, and manufacturing ». Deux régimes d’autorisation coexistent, l’un pour les usages ordinaires de la recherche, l’autre pour des projets à risque plus élevé soumis à un examen supplémentaire. Les autres protections demeurent : « All other safeguards, such as cyber classifiers, will remain in place under LSVP grants. » La contrepartie tient à la traçabilité : les conversations sont conservées trente jours aux fins de surveillance. Anthropic indique que quelques dizaines d’organisations ont déjà été admises lors de la phase d’accès anticipé et en attend quelques centaines dès la première semaine.

Conclusion

Le dispositif est modeste et l’idée ne l’est pas. Depuis trois ans, la sécurité des modèles est pensée comme une propriété du modèle : on entraîne le système à refuser, et le refus s’applique à tous également, au bioterroriste comme à la pharmacologue. Le programme annoncé jeudi fait l’hypothèse inverse, celle d’une sécurité qui porte sur la relation plutôt que sur l’objet : le même modèle répond différemment selon que l’interlocuteur a été identifié ou non. C’est le principe qui gouverne depuis longtemps l’accès aux souches pathogènes dans les laboratoires, aux précurseurs chimiques et aux archives sensibles, et il est raisonnable de l’importer ici. Il déplace en revanche la question sans la résoudre : la sûreté de l’ensemble repose désormais sur la qualité de la vérification, c’est-à-dire sur une procédure administrative privée, sans autorité publique pour en contrôler la rigueur. Une porte dont la serrure est bonne reste une porte dont quelqu’un détient la clé.