LASER sélectionne des exemples utiles pour évaluer la sécurité

Ce qui change

LASER associe des classificateurs légers à des évaluateurs fondés sur des modèles de raisonnement pour trouver des exemples variés et ambigus.

Source : OpenAI Alignment

Notre analyse

Point de vue du studio : améliorer les tests en cherchant les cas difficiles plutôt qu’en répétant les exemples familiers.

À garder en tête

Il s’agit de sélectionner des données d’évaluation, pas de garantir la sécurité générale d’un modèle déployé.

Source : OpenAI Alignment