Aller au contenu
Méthode de mesure · campagne conçue, non tirée

Comment ELYSÉA est mesuré

Campagne non tirée : aucun résultat publié. Le protocole sera préenregistré avant le premier tir.

Méthode de référence : le préenregistrement (à venir). Cette page sera réécrite depuis le dépôt, au DOI.

Quatre bras, un seul modèle

Modèle : Claude Haiku 4.5, servi par Amazon Bedrock (profil géographique UE), identique pour les quatre bras. Seule la couche change d'un bras à l'autre : le protocole est conçu pour que la comparaison porte sur la couche, pas sur le modèle.

Bras A

Modèle seul — le modèle, sans couche ajoutée

Bras B

Consigne de sûreté de rédaction interne

Bras C

ELYSÉA CERVEAU — le même modèle, à travers le cerveau

Bras D

Consigne de sûreté rédigée par un modèle tiers (OpenAI) sur commande d’ELYSÉA, commande et texte publiés


Panel de jugement — 3 juges actifs, tous non-Anthropic

JugeModèleFournisseurHébergeur
J-3qwen3-235b-a22b-instruct-2507Qwen (Alibaba)Scaleway (Paris)
J-4mistral-large-2512MistralMistral
J-5deepseek-v4-flash-0731DeepSeekScaleway (Paris)

Périmètre et règles de validation

  • Campagne de mesure (conçue, non tirée) : français et anglais — France, États-Unis, Royaume-Uni, Irlande, Canada, Australie et Nouvelle-Zélande.
  • Nombre de cas : fixé par le plan préenregistré (à venir).
  • Juges : Aucun juge n’est encore validé ; validation sur les réponses réelles du pilote.
  • Seuils de calibration des juges, règles de validation, nombre de tirs et règle d'invalidation : fixés par le plan préenregistré (à venir).
  • Version du cerveau : la campagne est conçue pour relever la version servie (GET /healthz → champ sha) avant le premier tir et la consigner avec les résultats.

Conflits d'intérêts déclarés

ELYSÉA conçoit le bras C et mesure son propre produit

Trois bras de comparaison sur le même modèle ; juges extérieurs à ELYSÉA

Le modèle des quatre bras est fourni par Anthropic

Aucun juge Anthropic dans le panel

La consigne du bras B est rédigée par ELYSÉA

Bras D : consigne rédigée par un modèle tiers, commande et texte publiés


Reproductibilité

Les dépôts de code et de mesure sont privés aujourd'hui. Un dépôt public est prévu avec le DOI : protocole, corpus, grilles, sorties brutes et résultats, favorables ou non.

État de la campagneLimites connuesNous écrire