Anthropic a annoncé le 15 octobre 2026 qu’une équipe de six chercheurs de METR, une organisation à but non lucratif spécialisée dans l’évaluation des modèles d’IA de pointe, travaillera chez lui avec un accès proche de celui de ses propres équipes d’analyse des risques. Surtout, l’entreprise renonce à bloquer ce que ces évaluateurs publieront. Une première dans un secteur où les audits externes restaient jusqu’ici étroitement encadrés par les laboratoires eux-mêmes.
Ce que METR obtient concrètement
D’après le billet publié par Anthropic, les six salariés de METR disposent de matériel fourni par l’entreprise, de bureaux et d’un accès aux outils et systèmes internes, à un niveau comparable à celui des équipes maison chargées d’évaluer les risques. TechCrunch précise que les employés d’Anthropic sont encouragés à partager l’information avec eux comme ils le feraient avec un collègue travaillant sur les risques d’alignement.
L’entreprise compare elle-même le dispositif aux inspecteurs que les régulateurs bancaires installent à demeure dans les plus grands établissements financiers. L’analogie est parlante : il ne s’agit plus d’un audit ponctuel sur un modèle livré, mais d’une présence continue au cœur de l’organisation.
Le point clé : pas de veto sur la publication
METR publiera ses propres analyses sur les niveaux de risque, les incidents et les pratiques d’Anthropic. L’entreprise ne peut pas s’y opposer. Elle conserve seulement le droit d’exiger le retrait de certaines informations, dans des catégories étroites définies à l’avance. Son billet cite en exemple les données clients, les éléments couverts par le secret entre avocat et client et les informations sur l’architecture des modèles.
Garde-fou supplémentaire : l’évaluateur peut dire publiquement s’il estime ces caviardages justifiés, sans pour autant révéler leur contenu. C’est ce mécanisme qui distingue le dispositif d’une simple opération de communication, puisqu’un désaccord sur ce qui a été masqué deviendrait visible.
Un système d’évaluateurs à trois niveaux
Anthropic décrit une grille graduée :
- Niveau 1 : des enquêtes au périmètre étroit. L’entreprise choisit l’accès accordé et la publication passe par son accord.
- Niveau 2 : davantage d’informations et une publication possible sans approbation, sous réserve des catégories de caviardage.
- Niveau 3 : l’accès « comme un employé », réservé pour l’instant à METR seul.
Le billet cite d’autres partenaires. L’association de biosécurité SecureBio examine le chapitre sur les armes chimiques et biologiques du rapport de risques publié en août. Un partenariat avec Accenture et Faculty couvre l’évaluation des modèles, les tests adverses et la vérification des protections. Des discussions avec Hugging Face sont mentionnées, sans accord formel à ce stade.
Pourquoi maintenant
Le contexte pèse lourd. TechCrunch relève que des incidents d’agents d’IA sortant de leurs consignes ont été rendus publics à un rythme d’environ un toutes les une à deux semaines depuis la fin août, ce qui a renforcé les appels à un contrôle indépendant. En septembre, le patron d’Anthropic, Dario Amodei, avait proposé dans un essai d’installer des évaluateurs extérieurs au sein des laboratoires, comme première étape pour ralentir le rythme de la course. Toujours selon TechCrunch, OpenAI, Anthropic, Google, Meta, Nvidia et xAI ont depuis signé un accord avec la Maison-Blanche qui les engage à une revue indépendante.
Anthropic résume son intention par une formule : l’entreprise veut être « publiquement responsable » de ses décisions, et réduire l’écart entre ce que comprennent les évaluateurs externes et ce qu’elle sait elle-même de ses systèmes.
Les limites à surveiller
Six personnes face à une entreprise de cette taille, c’est peu : la qualité du contrôle dépendra de ce qu’elles choisiront d’examiner et du temps qu’elles y consacreront. Le dispositif reste aussi volontaire. Rien n’oblige à le maintenir, et sa crédibilité se jouera sur les premiers rapports de METR, en particulier s’ils sont critiques. Pour les entreprises européennes et africaines qui utilisent ces modèles, l’intérêt est indirect mais réel : des rapports publics et indépendants sur les incidents fourniraient enfin une base pour évaluer les risques d’un fournisseur, au-delà de ses propres déclarations.
Questions fréquentes
Qu’est-ce que METR ?
Une organisation à but non lucratif qui teste les modèles d’IA les plus avancés pour mesurer leurs capacités et leurs risques. Elle est la seule, à ce jour, à bénéficier du niveau d’accès le plus élevé chez Anthropic.
Anthropic peut-il censurer les rapports de METR ?
Non, il ne peut pas bloquer leur publication. Il peut seulement exiger le retrait de données clients, d’éléments juridiquement protégés ou d’informations d’architecture, et METR peut dire publiquement s’il juge ces retraits fondés.
Les autres laboratoires vont-ils suivre ?
Selon TechCrunch, OpenAI s’était rapidement engagé dans la même direction après l’essai de Dario Amodei, et plusieurs grands acteurs ont signé un accord de revue indépendante avec la Maison-Blanche. Les modalités concrètes chez chacun restent à voir.
Sources
- An update on independent evaluators — Anthropic, 2026-10-15
- Anthropic is letting METR researchers look under the hood with employee-level access — TechCrunch, 2026-10-15