La réponse courte
Les trois grands labos IA envisagent de se contrôler eux-mêmes — avant que régulateurs ou clients ne les y forcent. Le 15 septembre 2026, OpenAI a confirmé qu’avec Anthropic et Google DeepMind, ils discutent depuis plusieurs semaines de sécurité de l’IA, dont la proposition d’un organisme sectoriel commun qui évaluerait les modèles de pointe avant leur sortie et pourrait appeler à un ralentissement de toute la filière si un seuil de capacité dangereuse était franchi. L’idée, avancée en juillet par Demis Hassabis (Google DeepMind), est vaguement calquée sur la FINRA dans la finance. Rien n’est encore créé, et cela soulève des questions vives de concurrence et d’articulation avec le droit contraignant.
Pour les équipes qui bâtissent sur ces modèles, ce n’est pas un sujet de spectateur. Un organisme volontaire ne vous retire aucune obligation : dans l’UE, vous restez soumis à l’AI Act, et partout vous assumez le risque de ce que fait votre produit. Si la gouvernance devient un facteur bloquant pour la sortie des modèles, elle relève dès aujourd’hui de votre architecture et de votre plan de conformité à l’AI Act — pas après qu’un organisme encore inexistant aura commencé à rendre des verdicts.
Ce que les labos ont confirmé
La rumeur est devenue officielle le mardi 15 septembre 2026, lorsque Chris Lehane, directeur mondial des affaires publiques d’OpenAI, a reconnu qu’OpenAI, Anthropic et Google DeepMind « discutent depuis plusieurs semaines de sécurité de l’IA ». Cette confirmation fait suite à des informations selon lesquelles les trois entreprises travaillent à un organisme de normes pour la filière, et à un essai publié quelques jours plus tôt par Dario Amodei (DG d’Anthropic), plaidant pour que les labos se coordonnent afin de ralentir le rythme de l’IA de pointe et d’éviter des risques catastrophiques.
La proposition précise remonte à juillet, portée par Demis Hassabis, à la tête de Google DeepMind. Son idée : une organisation de supervision pilotée par les États-Unis — vaguement comparée à la Financial Industry Regulatory Authority (FINRA), qui encadre les courtiers avec l’aval de l’État — qui contrôlerait les modèles les plus capables avant qu’ils n’atteignent le public et pourrait déclencher un ralentissement de toute la filière en cas d’apparition d’une capacité réellement dangereuse. Hassabis a reconnu que cela coûterait cher : le financement « devrait être conséquent et provenir sans doute majoritairement de l’industrie, afin d’attirer les meilleurs talents techniques et de fournir la puissance de calcul nécessaire aux tests à grande échelle ».
Les dirigeants ne s’accordent pas totalement sur l’ampleur à donner. Sam Altman a présenté la coordination comme saine — « c’est formidable pour notre filière de dire que nous voulons nous réunir… et nous assurer d’avoir assez de temps pour le faire en sécurité » — et a indiqué qu’OpenAI intégrerait des évaluateurs tiers pour surveiller la sécurité. Amodei est allé plus loin en proposant une dérogation publique pour protéger la coordination du risque concurrentiel, idée que Lehane a relativisée en public en estimant qu’aucune dérogation n’est nécessaire pour collaborer sur la sécurité. Cet écart — autocontrôle de la filière contre supervision ancrée dans l’État — est le cœur non résolu de tout le projet.
Autorégulation, pas la loi — pourquoi la distinction compte
On lit « organisme de normes » et on imagine un régulateur. Ce n’en est pas un. Ce que les labos discutent est un arrangement privé et volontaire entre concurrents — plus proche d’un consortium sectoriel que d’une agence publique. Cette distinction fait toute la différence. Un organisme volontaire peut publier des évaluations, fixer des normes de test et créer une pression des pairs, mais il ne peut contraindre personne ; une entreprise qui n’aime pas un verdict peut, en principe, s’en aller. L’histoire de l’autorégulation dans la tech est mitigée précisément pour cette raison : elle avance vite quand les intérêts convergent et cale dès qu’ils divergent.
Il existe aussi une tension structurelle à gérer : se coordonner sur le moment et l’opportunité de sortir des produits est exactement le comportement que scrute le droit de la concurrence. C’est pourquoi une dérogation publique a été évoquée, et pourquoi l’insistance de Lehane sur son inutilité compte — le socle juridique est réellement incertain. C’est aussi pourquoi le projet pourrait finalement s’appuyer sur une loi plutôt que sur une poignée de main : OpenAI a soutenu le FRONTIER Act proposé, qui imposerait à des organismes de vérification indépendants de surveiller la sécurité des plus grands labos. Soutenir une loi, c’est admettre à demi-mot qu’un club purement volontaire pourrait ne pas tenir.
Pour quiconque bâtit sur ces modèles, la leçon pratique est que rien de tout cela n’est une conformité sur laquelle s’appuyer. Les obligations contraignantes viennent toujours du droit réel — l’AI Act et son code de bonnes pratiques pour l’IA à usage général, plus le RGPD, et des régimes sectoriels comme DORA dans la finance. Un organisme privé pourra un jour produire des évaluations que vous citerez dans votre documentation, ce qui serait utile. Mais il ne se tiendra pas entre votre produit et un régulateur, et il ne répondra pas de la façon dont votre application utilise un modèle. Cette responsabilité reste la vôtre.
Ce que cela change pour les équipes logicielles en France
Première implication : les sorties de modèles pourraient devenir moins prévisibles. Si les revues de sécurité avant sortie et les ralentissements volontaires se banalisent, le rythme auquel les équipes se sont habituées — un flux régulier de modèles plus capables et de tokens moins chers — pourrait devenir irrégulier, avec des capacités bridées, retardées ou déployées région par région. Si votre feuille de route suppose tacitement que le prochain modèle de pointe arrivera à l’heure, cette hypothèse porte désormais plus de risque. Concevez en conséquence : gardez votre couche modèle abstraite, évitez de câbler en dur le dernier point d’accès d’un fournisseur dans la logique métier, et faites du changement de fournisseur ou de version une modification de configuration plutôt qu’une refonte. Cette portabilité est le cœur d’une intégration GenAI résiliente.
Deuxième point : « le fournisseur l’a testé » n’est pas une stratégie de gouvernance. Même un organisme bien financé évaluerait des modèles de base, pas votre application — ni vos prompts, ni vos données de récupération, ni les permissions de vos outils, ni les décisions que vos utilisateurs prennent à partir des résultats. Vos obligations au titre de l’AI Act et de vos règles sectorielles portent sur le système que vous livrez ; il vous faut donc vos propres évaluations, garde-fous et piste d’audit, quoi que conviennent les labos entre eux. Traitez les tests du fournisseur comme un intrant, jamais comme votre preuve de conformité.
Troisièmement, c’est un signal d’achat et de risque fournisseur à consigner. Les labos vous disent, publiquement, que la gouvernance devient une contrainte de premier plan sur leurs produits. Cela doit nourrir votre évaluation des fournisseurs d’IA : demandez à quels tests avant sortie et à quelle vérification indépendante un fournisseur se soumet réellement, comment il gère l’abandon de modèles et l’épinglage de versions, et ce qu’il garantit sur la disponibilité en cas de sortie suspendue. Injecter ces questions dans les contrats et l’architecture — la diligence qu’intègre une pratique IA, ML et données mature — est la façon de garder des options plutôt que de subir ce que décide la frontière technologique.
Que faire maintenant
- Inventoriez vos dépendances de modèles. Recensez chaque modèle de pointe et chaque version dont dépend votre produit, et là où un changement ferait mal. On ne gère pas un risque de sortie qu’on n’a pas cartographié.
- Gardez l’intégration portable. Abstrayez le modèle derrière votre propre interface pour qu’une sortie retardée, bridée ou abandonnée devienne un changement de configuration, pas une panne. Testez au moins un fournisseur de secours sur un chemin réel, pas seulement sur le papier.
- Assumez vos évaluations. Construisez et versionnez vos propres tests de sécurité et de qualité pour votre cas d’usage — prompts, données, outils, cas limites — plutôt que de vous appuyer sur les tests du fournisseur au niveau du modèle comme preuve.
- Ancrez la gouvernance dans le droit réel. Rattachez votre système d’IA à l’AI Act (et à son code de bonnes pratiques GPAI), au RGPD et à tout régime sectoriel qui vous concerne. C’est cela, et non un engagement de filière, qu’un auditeur ou un régulateur vous demandera.
- Actualisez la diligence fournisseur. Ajoutez à vos achats et contrats d’IA des questions sur les tests avant sortie, la vérification indépendante, l’épinglage de versions, les délais d’abandon et les engagements de disponibilité.
Questions fréquentes
Qu’ont confirmé OpenAI, Anthropic et Google ?
Le 15 septembre 2026, Chris Lehane, directeur mondial des affaires publiques d’OpenAI, a confirmé que les trois labos discutent depuis plusieurs semaines de sécurité de l’IA. Selon les informations disponibles, ces échanges incluent la proposition d’un organisme sectoriel commun pour tester les modèles de pointe avant leur sortie. Les discussions sont précoces ; aucun organisme n’a été créé et aucune règle contraignante n’existe.
Que ferait concrètement un organisme de normes IA ?
Le concept, avancé en juillet 2026 par Demis Hassabis (Google DeepMind), est une organisation pilotée par les États-Unis — vaguement calquée sur la FINRA de la finance — qui mènerait des évaluations standardisées des modèles de pointe avant leur sortie et pourrait appeler à un ralentissement de la filière si un seuil de capacité dangereuse était franchi. Hassabis a indiqué que le financement devrait être conséquent et majoritairement issu de l’industrie.
Est-ce la même chose que l’AI Act ?
Non. L’organisme proposé relève d’une autorégulation volontaire d’entreprises privées, pas de la loi. L’AI Act est une réglementation contraignante, avec un code de bonnes pratiques GPAI et des obligations opposables. Un organisme privé pourrait compléter l’AI Act mais ne remplace pas la conformité légale. Dans l’UE, vous restez soumis à l’AI Act quoi que conviennent les labos.
Une telle coordination pose-t-elle des problèmes de concurrence ?
Oui, potentiellement. Des concurrents qui se coordonnent sur le moment et l’opportunité de sortir des produits s’exposent à un examen concurrentiel si cela entrave la concurrence. Dario Amodei (Anthropic) a suggéré une dérogation publique ; Chris Lehane (OpenAI) a estimé qu’aucune n’est nécessaire pour collaborer sur la sécurité. La question reste ouverte, et c’est l’une des raisons pour lesquelles le projet pourrait s’appuyer sur une loi comme le FRONTIER Act proposé.
Que devraient faire les équipes qui bâtissent sur ces modèles ?
Suivez les versions de modèles dont vous dépendez et gardez votre intégration assez abstraite pour changer de fournisseur si une sortie est retardée ou conditionnée. Documentez vos propres évaluations et garde-fous plutôt que de vous fier aux tests d’un fournisseur, et alignez-les sur l’AI Act là où vous opérez dans l’UE. N’externalisez pas votre gestion des risques vers un organisme qui n’existe pas encore.
Sources
TechCrunch — OpenAI, Anthropic, Google have been in talks on AI safety for weeks
CNBC — OpenAI, Google, Anthropic discuss collaboration on AI safety issues
Tech Xplore / AFP — OpenAI, Anthropic and Google are working to create an AI standards body