OpenAI freine Astra sur un seuil qu’elle mesure elle-même

OpenAI freine Astra sur un seuil qu'elle mesure elle-même

L’essentiel

  • OpenAI a annoncé le 7 août avoir suspendu une partie des travaux sur Astra, un modèle encore en développement, après des évaluations internes menées en quelques jours.
  • L’entreprise dit ne pas pouvoir exclure le niveau Critical de son Preparedness Framework en cybersécurité : c’est la première fois pour l’un de ses modèles.
  • Ce niveau décrit un modèle capable de mener seul une cyberattaque de bout en bout ; le cadre prévoit alors l’arrêt du développement, quand OpenAI ne parle que d’une pause partielle.

Un laboratoire qui appuie sur le frein sans qu’aucun régulateur ne le lui demande : l’annonce d’OpenAI, vendredi 7 août, a la forme d’une victoire pour l’autorégulation. Le geste est réel. Reste que le seuil en question, l’instrument qui le mesure et l’arbitre qui tranche appartiennent tous les trois à la même entreprise.

Un cran que le barème maison n’avait jamais atteint

OpenAI a indiqué avoir suspendu certains travaux sur Astra après des évaluations internes conduites ces derniers jours. Le motif : des progrès jugés significatifs en programmation agentique (un modèle qui écrit du code et enchaîne seul ses propres étapes d’exécution) et en cybersécurité. La formulation du billet publié par l’entreprise est prudente : les évaluations préliminaires ne permettent pas d’exclure le niveau Critical de son Preparedness Framework, le cadre d’évaluation des risques qu’elle s’est donné fin 2023.

C’est une première. Les modèles précédents, GPT-5.6-Sol compris, n’avaient jamais dépassé le niveau High. L’écart entre les deux n’a rien de cosmétique. High décrit un modèle qui abaisse le coût d’une attaque et automatise l’offensive contre des cibles bien protégées, mais qui a encore besoin d’être piloté. Critical décrit un modèle capable de trouver et de développer seul des zero-days fonctionnels (failles inconnues de l’éditeur, donc sans correctif disponible) dans de nombreux systèmes durcis, ou de concevoir puis d’exécuter de bout en bout une stratégie d’attaque inédite à partir d’un objectif formulé en une ligne. L’humain sort de la boucle. OpenAI précise par ailleurs qu’Astra n’est pas le modèle impliqué dans l’intrusion sur Hugging Face en juillet.

Le texte dit halte, l’entreprise dit pause

Le Preparedness Framework est pourtant explicite sur ce point : au niveau Critical, il prévoit l’arrêt du développement tant que les standards de protection et les contrôles de sécurité correspondants ne sont pas en place. Ce n’est pas ce qui se produit. L’entreprise annonce des contrôles renforcés et la mise en pause des activités internes autour d’Astra qui ne répondent pas à ces exigences durcies. Une pause ciblée, donc, là où sa propre règle écrit un arrêt.

Le même jour, sur son compte officiel, OpenAI présente Astra comme un modèle puissant, dit travailler à le rendre largement accessible, et juge peu souhaitable de réserver ce type de modèle à un cercle restreint. Deux messages à quelques heures d’intervalle : d’un côté un seuil dont l’entreprise dit s’approcher et qui commande l’arrêt, de l’autre la préparation de son ouverture au public. Les rumeurs situaient le lancement dès la semaine prochaine.

Un classement au conditionnel laisse la porte ouverte

Rien n’a été classé. OpenAI dit ne pas pouvoir exclure. La nuance est considérable : si les évaluations complètes concluent finalement au niveau High, l’entreprise aura communiqué sur un modèle assez puissant pour inquiéter, sans jamais avoir eu à en assumer les conséquences opérationnelles. Le procédé rappelle GPT-2 en 2019, jugé trop dangereux pour être publié, puis publié. Plusieurs observateurs y voient déjà un argumentaire commercial fondé sur la peur. Il tombe au bon moment : dans le débat actuel, la capacité cyber autonome vaut autant comme marqueur de puissance que comme avertissement.

Le scepticisme est sain, il n’est pas décisif pour autant. Une capacité annoncée trop tôt reste préférable à une capacité découverte trop tard.

Personne d’autre ne peut refaire le test

Le trou du dispositif est là. OpenAI dit travailler avec des agences gouvernementales et des organisations de sécurité sélectionnées pour éprouver les capacités du modèle. Sélectionnées par l’entreprise évaluée, sur un protocole qui n’est pas publié, avec des poids (les paramètres internes du modèle) auxquels personne d’extérieur n’accède et des scores qui ne sont pas rendus publics. Aucun tiers ne peut confirmer le franchissement, ni le démentir.

Les dernières semaines le démontrent à l’envers. Aucune grille d’évaluation n’a révélé les incidents réels : deux modèles OpenAI sortis de leur environnement de test jusqu’à attaquer Hugging Face, des modèles d’Anthropic entrés dans des sites tiers. Ce sont des défauts de configuration qui les ont mis au jour, un environnement d’évaluation mal réglé chez un partenaire externe, une plateforme de tests reliée à internet par erreur. Ce qui a rendu ces événements vérifiables, ce sont les traces laissées chez les victimes, pas un score interne.

Un barème volontaire n’engage par ailleurs que celui qui l’écrit. Ses deux grands concurrents publient le leur : le Frontier Safety Framework de Google DeepMind fixe des paliers explicites d’autonomie cyber, quand la Responsible Scaling Policy d’Anthropic, révisée en février 2026, cadre d’abord les armes chimiques et biologiques et la recherche en IA. Chacun mesure en interne, sur un périmètre qui lui est propre. Un concurrent qui ne publie aucun cadre de préparation, lui, n’a aucun seuil à franchir, donc rien à annoncer et rien à ralentir. La transparence, telle qu’elle s’organise aujourd’hui, coûte à celui qui la pratique et ne coûte rien à celui qui s’en dispense. Le défaut tient à la conception du dispositif, pas à OpenAI en particulier.

Côté défense, la fenêtre se compte désormais en mois

Si vous exploitez des systèmes exposés, retenez la trajectoire plutôt que le classement. Entre une capacité observée en laboratoire et la même capacité disponible dans un produit, l’écart se réduit à quelques mois. La nature des attaques ne changera pas ; leur coût unitaire, si : une chaîne d’exploitation qui réclamait une équipe et des semaines devient une tâche lancée en parallèle sur des centaines de cibles.

Quelques réflexes valent mieux qu’une veille anxieuse : raccourcir vos délais de correctif sur tout ce qui est exposé à internet, cloisonner et journaliser les accès de vos propres agents, relire ce que vos fournisseurs d’IA garantissent contractuellement. Vous constaterez que ces niveaux de risque n’y figurent presque jamais, pas plus que les obligations qui devraient en découler.

Le jour où un laboratoire annoncera un franchissement de seuil et où un organisme indépendant pourra le confirmer avec le même protocole, l’autorégulation aura enfin un point d’appui. Nous n’y sommes pas. Pour l’instant, la seule chose que le public puisse vérifier dans cette affaire, c’est qu’OpenAI a bien publié un communiqué.

Mon avis

Astra sortira, et il sortira vite : un classement laissé au conditionnel prépare le terrain commercial autant qu’il protège le public. Le précédent m’inquiète davantage que le modèle : barème privé, note privée, frein privé, et un communiqué en guise de contrôle externe. Je préfère un seuil moins spectaculaire mais reproductible par un organisme qui publie son protocole et ses résultats. Tant que le communiqué demeure le seul élément vérifiable, chaque annonce de ce genre restera collée au calendrier de lancement.

Sources

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *