Des primes plus élevées pour récompenser les défenseurs

Nous augmentons les récompenses du programme de primes aux failles de sécurité d’OpenAI afin d’encourager davantage les chercheurs indépendants à rechercher des vulnérabilités dans les logiciels d’OpenAI qui auraient pu échapper à nos tests. Nous introduisons également de nouvelles incitations permettant aux chercheurs de gagner davantage grâce à des rapports de vulnérabilité de meilleure qualité.

Les chercheurs indépendants en sécurité jouent un rôle essentiel dans la protection des technologies à l’échelle du secteur. Chez OpenAI, encourager la divulgation responsable est au cœur de notre approche de la sécurité. Cela complète nos travaux dans le cadre de Defense Factory⁠, où nos ingénieurs utilisent nos modèles pour trouver des failles, les reproduire et tester des correctifs.

Les nouveautés annoncées aujourd’hui visent à encourager les chercheurs, à leur donner plus de moyens d’agir et à continuer de bâtir un environnement de sécurité collaboratif, centré sur la communauté.

Nous multiplions en moyenne par plus de quatre le montant médian de nos fourchettes de récompenses pour les vulnérabilités de gravité moyenne, élevée et critique. Une vulnérabilité critique dans un produit phare comme ChatGPT, Codex ou la Plateforme API pourra désormais rapporter jusqu’à 30 000 $. Les découvertes critiques exceptionnelles sur ces cibles restent éligibles à une récompense pouvant atteindre 100 000 $, et désormais jusqu’à 172 000 $ avec les bonus. Tous les détails sont disponibles dans notre programme de primes aux failles de sécurité⁠(ouverture dans une nouvelle fenêtre).

Les rapports de qualité pourront bénéficier d’un bonus multiplicateur appliqué à la prime de base. Une preuve de concept fiable qui isole la faille, montre dans quelles conditions elle peut être exploitée et démontre son impact nous donne une longueur d’avance pour la corriger. Le multiplicateur de qualité récompense le travail supplémentaire qui rend une découverte particulièrement utile.

Pour établir des relations durables et donner toujours plus de moyens à notre communauté de chercheurs en sécurité, nous lançons un programme de bonus de fidélité à plusieurs niveaux. Ce système à 5 niveaux offre des bonus croissants pour reconnaître, soutenir et valoriser les chercheurs qui collaborent régulièrement avec nous afin de rendre les technologies d’IA plus sûres pour tous.

Pour soutenir l’engagement de la communauté à mesure que les technologies évoluent, les campagnes prioritaires proposeront des enveloppes de bonus dédiées aux fonctionnalités récemment lancées. Ces campagnes de courte durée permettent aux chercheurs de tester les nouveautés en avant-première, avec des récompenses élevées à la clé, et de voir leurs premières contributions reconnues.

Tous les scénarios et les récompenses antérieures sont donnés à titre d’exemple.

Si vous avez déjà soumis un rapport et que nous n’avons pas encore attribué de prime, nous appliquerons les nouvelles fourchettes de récompenses. Pour les primes attribuées dans les 30 jours avant cette annonce, nous vous verserons la différence si votre découverte aurait rapporté davantage selon les nouvelles fourchettes (récompense de base + récompenses de fidélité).

Les 20 et 21 novembre, notre équipe de sécurité sera à PROMPT2PWN⁠(ouverture dans une nouvelle fenêtre), à Oakland, où les chercheurs pourront tester des cibles sur place. Si vous y participez, nous serons ravis de découvrir vos travaux et d’échanger sur les possibilités de collaboration.

Merci à toutes les personnes qui ont pris le temps d’explorer une piste et de nous la signaler. Nous voulons qu’OpenAI soit une équipe vers laquelle vous revenez lorsque vous découvrez quelque chose qui nous a échappé.